Masjid Quba dibangun pada tahun 622 terletak 5 kilometer sebelah selatan Masjid Nabawi. Nabi Muhammad sering salat di masjid tersebut, terutama pada Sabtu. Dia juga mengajak para sahabatnya untuk salat di masjid tersebut. Oleh karena itu, dalam rangka menghidupkan sunah, umat Islam yang berziarah ke Madinah selalu menyempatkan untuk salat di Masjid Quba. Ribuan umat Islam setiap hari datang ke masjid tersebut.
Dalam perjalanannya Masjid Quba pernah direnovasi pada masa Khalifah Utsman bin Affan dan Umar bin Khattab. Pada masa khalifah Umar, Masjid Quba mendapat menara.
Setelah itu pada masa Saudi modern, Masjid Quba secara teratur direvitalisasi. Pada 1968, sisi utaranya diperluas. Kemudian pada 1985, Raja Fahd memerintahkan beberapa perluasan namun tetap mempertahankan arsitektur asli bangunan.