Rukun Yamani letaknya berada di sisi sebelah barat daya Ka'bah. Tepatnya sebelum Hajar Aswad dari arah dilakukannya tawaf. Adapun, bangunan tersebut memiliki tinggi kurang lebih 10,25 meter.
Dinamakan rukun Yamani sebab bagian dari Ka'bah ini diketahui menghadap ke arah negara Yaman. Jamaah haji disunnahkan untuk mengusap Rukun Yamani saat berdoa.
Hijir Ismail terletak di sebelah utara Ka'bah. Bentuk dari bangunan ini adalah setengah lingkaran.
Sebelumnya Hijr Ismail dianggap sebagai salah satu termasuk bagian Ka'bah. Disebabkan kurangnya biaya, pada akhirnya mereka tidak memasukkannya ke dalam bagian Ka'bah.
Tempat doa yang mustajab di Mekkah selanjutnya adalah bagian dalam Ka'bah. Namun sayang, tidak semua orang diizinkan untuk masuk ke dalam Ka'bah.