Mereka yang diundang antara lain Menko Kesra Azwar Anas, Menteri Bappenas Ginanjar Kartasasmita, Jenderal TNI Feisal Tanjung, Jenderal TNI Wismoyo Arismunandar, Menag Tarmizi Taher, dan Mendagri Yogie S Memet. Seperti diduga, mereka mendukung penuh gagasan Jusuf membangun masjid akbar di Makassar.
Dua bulan setelah pertemuan tersebut, tepatnya 8 Mei 1994, pemancangan tiang pertama pembangunan masjid dilakukan. Atas usulan cendekiawan muslim Nurcholis Madjid, nama masjid ditentukan Al Markaz Al Islami. Dalam groundbreaking itu, khotbah pertama dilakukan oleh Rektor IAIN (kini UIN) Jakarta Quraisy Shihab, sementara ceramah ilmiah perdana oleh Nurcholish Madjid.
Masjid Monumental Jenderal Jusuf merinci detail proyek pembangunan masjid akbar ini. Desain masjid dipercayakan kepada arsitek top Indonesia, Ir Achmad Noe'man. Sosok yang dijuluki 'Arsitek Seribu Masjid' ini antara lain yang merancang Masjid Salman di kampus ITB.
Noe'man langsung bisa menangkap gagasan Jusuf. Pertama, masjid itu harus megah dan mencerminkan kebesaran bangsa. Kedua, menonjolkan arsitektur daerah yang merupakan kebanggaan, dan ketiga, menggunakan bahan-bahan terbaik. "Napas dari Masjid Nabawi mengilhami pembangunan menara tunggal yang tingginya 90 meter," kata Atmadji.
Ruangan utama diterangi lampu-lampu kristal yang didatangkan langsung dari Praha, Republik Ceko oleh pengusaha Jimmy Siahaan. Menurut laman resmi masjid disebutkan bahwa secara keseluruhan fondasi bangunan sangat kuat dengan 450 tiang pancang berkedalaman 21 meter. Untuk bagian atap digunakan bahan tembaga atau tegola buatan Italia. Dinding lantai satu menggunakan keramik, sedangkan lantai dua dan tiga menggunakan batu granit.
Dinding mihrab yang merupakan sentralisasi visual berbahan granit hitam berhiaskan ragam kaligrafi segi empat dari tembaga kekuning-kuningan. Kaligrafi ini terdiri dari beberapa ayat dan surat Al-Quran, di antaranya: "Tiada Tuhan selain Allah, Muhammad Rasul Allah".
Sementara itu, di atas mihrab tertulis surat Al-Baqarah: 144, "Maka palingkanlah wajahmu ke arah Masjidil Haram." Dana pembangunan masjid tak main-main, yakni sekitar Rp12 miliar (diestimasikan setara Rp500-Rp600 miliar saat ini). Pembangunan masjid spektakuler ini selesai pada 12 Januari 1996.