Masjid Sultan Ternate diperkirakan telah dirintis sejak masa Sultan Zainal Abidin, namun ada juga yang beranggapan baru dibangun pada awal abad ke-17, yaitu sekitar tahun 1606 saat berkuasanya Sultan Saidi Barakati.
Salah satu masjid tertua di Indonesia ini memiliki aturan yang berbeda dari rumah ibadah umat Islam pada umumnya. Adapun larangan di masjid tersebut seperti tak memperkenankan jemaah memakai sarung.
Umat Islam yang hendak shalat berjemaah di masjid tersebut diwajibkan memakai celana pendek atau pakaian gamis, serta kopiah seperti songko atau peci. Kemudian perempuan dilarang beribadah di dalam masjid.