Pada masa BPK dipimpin oleh D. Suprayogi pada tahun 1966, Gedung BPK pindah dari Gedung Prapatan No. 42 Jakarta ke gedung di Jl.Budi Utomo No.6 Jakarta Pusat. Saat ini, gedung bekas Kantor BPK di Jl. Budi Utomo digunakan sebagai sarana pendidikan yakni SMA Negeri 1 Jakarta. Dari gedung di Jl. Budi Utomo, BPK sempat berkantor di Komplek Kementerian Keuangan tepatnya di belakang Gedung Eks Mahkaman Agung (MA). Gedung yang ditempati oleh BPK pada Komplek Kementerian Keuangan Lapangan Banteng merupakan gedung bekas Kantor Gubernur Jenderal Belanda. Tidak lama berada di komplek Kemenkeu, BPK kembali berpindah kantor ke Komplek DPR/MPR di Senayan pada tahun 1972. BPK menempati lantai delapan, sembilan dan sepuluh Gedung DPR/MPR.
Sebelum BPK pindah dari Komplek DPR/MPR ke Gedung BPK saat ini yang berada tepat di depan gedung DPR/MPR, awalnya Ketua BPK yang menjabat saat itu, Umar Wirahadikusumah meminta Gedung BPK berada di dalam Komplek DPR/MPR tepatnya gedung Manggala Wana Bhakti. Namun, karena BPK pada zaman orde baru hanya sebatas simbol maka hal tersebut tidak terwujud. Alasan Ketua BPK saat itu menginginkan Gedung BPK berada dekat dengan DPR/MPR karena BPK memiliki kaitan yang erat dengan DPR/MPR. Semua laporan yang diperiksa oleh BPK nantinya akan diserahkan kepada DPR/MPR. Meski tak dikabulkan memiliki bangunan di Komplek Parlemen, melalui Umar Wirahadikusumah akhirnya BPK memiliki kantor tepat di depan Gedung DPR/MPR.
Gedung BPK saat ini yang terletak di Jl.Jenderal Gatot Subroto No.31 Jakarta Pusat dibangun oleh arsitektur bernama Ir. Nurponco. Gedung BPK dibangun pada Tahun 1977 dan selesai pada tahun 1979. Tepat pada 4 September 1979, Presiden Soeharto meresmikan Gedung BPK.
