BPK-RI Perwakilan Provinsi Sumatera Utara merupakan salah satu kantor perwakilan yang dibentuk berdasarkan SK Ketua No. 80/SK/K/1982 dan ditetapkan sebagai kantor BPK-RI Wilayah IV berkedudukan di Jl. Imam Bonjol No. 22 Medan dan mulai aktif melaksanakan kegiatannya pada Tahun 1983.
Bangunan Kantor BPK-RI Wilayah IV sebelumnya merupakan Rumah Sakit milik Pertamina yang kemudian dihibahkan kepada BPK-RI. Pada Tahun 1991 dibangun gedung baru dan pada 28 Agustus 1993 gedung baru tersebut diresmikan oleh Ketua BEPEKA, Prof. Dr. J.B. Sumarlin.
- Pada masa awal berdirinya, Struktur Organisasi BPK-RI Wilayah IV Medan terdiri dari Seorang Pejabat Kepala Perwakilan dibantu oleh Kepala Bagian Tata Usaha, Sub Oditorat Wilayah IV A, Sub Oditorat Wilayah IV B dan Sub Oditorat BUMD Wilayah IV A dan IV B. Bagian Tata Usaha terdiri dari Sub Bagian Kepegawaian, Sub Bagian Keuangan dan Sub Bagian Umum.
Sub Oditorat Wilayah IV A terdiri dari Seksi Wilayah IV A.1 dan Seksi Wilayah IV A.2.
Sub Oditorat Wilayah IV B terdiri dari Seksi Wilayah IV B.1 dan Seksi Wilayah IV B.2.
Sub Oditorat BUMD Wilayah IV A dan IV B terdiri dari Seksi BUMD Wilayah IV A dan Seksi BUMD Wilayah IV B.
- Berdasarkan SK Ketua No. 11/SK/K/1993 tanggal 24 November 1993 tentang Organisasi dan Tata Kerja Pelaksana Badan Pemeriksa Keuangan, BEPEKA Wilayah IV ditetapkan menjadi BPK Perwakilan I di Medan dengan wilayah kerja:
Propinsi D.I. Aceh, Propinsi Dati I Sumatera Utara.
Propinsi Dati I Sumatera Barat, Propinsi Dati I Riau.
Propinsi Dati I Sumatera Selatan, Propinsi Dati I Bengkulu dan Jambi.
Pada Tahun 1996, Sumatera Selatan terpisah menjadi kantor sendiri menjadi Perwakilan BPK-RI di Palembang dengan wilayah kerja Provinsi Jambi, Bengkulu dan Provinsi Bangka Belitung.
- Berdasarkan SK Nomor 18/SK/I-VIII.3/6/2002, Perwakilan terdiri dari Kepala Sekretariat, Kepala Sub Auditorat I.A, dan Kepala Sub Auditorat I.B. Sekretariat terdiri dari Sub Bagian Umum, Sub Bagian Keuangan, dan Sub Bagian Kepegawaian. Sub Auditorat I.A terdiri dari Seksi I.A.1 dan Seksi I.A.2. Sub Auditorat I.B terdiri dari Seksi I.B.1 dan Seksi I.B.2.
- Berdasarkan SK BPK-RI Nomor 12/SK/I-VIII.3/7/2004 tanggal 23 Juli 2004 tentang Organisasidan Tata Kerja Pelaksana Badan Pemeriksa Keuangan Republik Indonesia. Perwakilan I BPK-RI di Medan terdiri dari Sekretariat Perwakilan I, Sub Auditorat Perwakilan Nanggroe Aceh Darussalam, Sub Auditorat Perwakilan Sumatera Utara dan Riau Kepulauan, serta Sub Auditorat Perwakilan Sumatera Barat dan Riau. Sekretariat Perwakilan I terdiri dari Sub Bagian Kepegawaian, Sub Bagian Keuangan, Sub Bagian Umum, dan Sub Bagian Diklat. Sub Auditorat Perwakilan Nanggroe Aceh Darussalam terdiri dari Seksi Nanggroe Aceh Darussalam I, Seksi Nanggroe Aceh Darussalam II, dan Seksi Nanggroe Aceh Darussalam III. Sub Auditorat Perwakilan Sumatera Utara dan Riau Kepulauan terdiri dari Seksi Sumatera Utara I, Seksi Sumatera Utara II, dan Seksi Riau Kepulauan. Sub Auditorat Perwakilan Sumatera Barat dan Riau terdiri dari Seksi Sumatera Barat I, Seksi Sumatera Barat II, Seksi Riau I, dan Seksi Riau II.
- Berdasarkan SK BPK-RI No. 06/SK/I-VIII.3/5/2005 tanggal 2 Mei 2005 tentang Perubahan atas Surat Keputusan Badan Pemeriksa Keuangan No. 12/SK/I-VIII.3/7/2004 tentang Organisasi dan Tata Kerja Pelaksana Badan Pemeriksa Keuangan Republik Indonesia, Perwakilan I BPK-RI di Medan terdiri dari Sekretariat Perwakilan I, Sub Auditorat Perwakilan Sumatera Utara, dan Sub Auditorat Perwakilan Sumatera Barat. Sekretariat Perwakilan I terdiri dari Sub Bagian Kepegawaian, Sub Bagian Keuangan, Sub Bagian Umum, dan Sub Bagian Diklat. Sub Auditorat Perwakilan Sumatera Utara terdiri dari Seksi Sumatera Utara I, Seksi Sumatera Utara II, Seksi Sumatera Utara III, dan Seksi Sumatera Utara IV. Sub Auditorat Perwakilan Sumatera Barat terdiri dari Seksi Sumatera Barat I, Seksi Sumatera Barat II, dan Seksi Sumatera Barat III.
Sub Auditorat Perwakilan Nanggroe Aceh Darussalam terpisah menjadi perwakilan IX BPK-RI di Banda Aceh (Pada Tahun 2005), Perwakilan X BPK RI di Pekanbaru (Pada tahun 2005) dan Pada Tahun 2007 Sub Auditorat Perwakilan Sumatera Barat menjadi Perwakilan BPK RI di Padang.