Pada tahun 1976, Gubernur DKI Jakarta Ali Sadikin dan Gubernur Jawa Barat Solihin GP melakukan kerja sama untuk pembangunan kawasan Jabodetabek. Guna menarik minat penduduk untuk menetap di kawasan Jabodetabek, pemerintah bermaksud meningkatkan pelayanan transportasi.
Wujud kerjasama itu adalah pembangunan sistem kereta api modern guna menumbuhkan peran kereta api di wilayah Jabodetabek. Salah satunya adalah proyek pembangunan jalur layang kereta api Jakarta- Manggarai.
Stasiun Gambir adalah salah satu stasiun yang berfungsi sebagai perhentian di jalur layang. Tepat pada tanggal 17 Desember 1986, pembangunan ditandai dengan pemasangan tiang pertama di segmen B, tepatnya di bagian selatan Stasiun Gambir yang lama.
Stasiun Gambir baru kemudian dibuka untuk umum bersamaan dengan peresmian jalur pada Jumat 6 Jumat 1992. Peresmian tersebut dilakukan langsung oleh Presiden Soeharto dengan ditandai pengoperasian Kereta Api Listrik.