Berdirinya masjid ini tak lepas dari sejarah masuknya Islam ke Pulau Bali. Saat itu ada 40 prajurit Kerajaan Majapahit yang mengawal Raja Gelgel, Dalem Ketut Ngulesir, pulang ke Bali usai menghadiri pertemuan raja-raja Nusantara yang digelar oleh Prabu Hayam Wuruk di Pulau Jawa.
Setibanya di Gelgel, prajurit yang beragama Islam membangun tempat ibadah atas persetujuan raja. Sebagian dari mereka akhirnya memilih menetap di Gelgel untuk menyebarkan Islam, hingga terbentuk kampung muslim Gegel yang masih bisa ditemui saat ini.
Masjid ini memiliki menara setinggi 17 meter seperti ciri khas masjid tua di Indonesia. Mimbar di masjid ini terbuat dari kayu jati yang telah ada sejak 1800-an.
Berdiri megah dua lantai, masjid ini telah mengalami beberapa kali renovasi. Salah satunya untuk menambah daya tampung jemaah, karena jumlah pemeluk Islam di Kampung Gelgel yang terus bertambah.
6. Masjid Agung Sudirman
Masjid Agung Sudirman adalah masjid besar di Bali yang berada di lingkungan Kodam IX Udayana Denpasar. Berdiri pada 1974, masjid ini digagas oleh para anggota TNI yang bertugas di Denpasar, Bali.