Pada mulanya, Masjid al-Jum’ah dibangun dengan batu. Namun, bangunan aslinya kemudian dirobohkan dan direnovasi beberapa kali.
Sebelum perluasan terakhir, masjid itu dibangun di atas bukit kecil, dengan satu kubah terbuat dari batu bata merah. Rumah ibadah itu lalu dibangun kembali dan diperluas untuk menampung 650 jemaah.
Masjid al-Jum’ah memiliki sebuah menara. Bagian atapnya dilengkapi dengan sebuah kubah utama di tengah area sholat, dan empat kubah kecil di sisi-sisinya.