Menurut para penulis sejarah klasik, batu yang digunakan Ibrahim dan Isma'il عليهما السلام untuk membangun Ka'bah diyakini berasal dari 5 gunung suci: Jabal Hira, Jabal Tsur, Jabal Sina (Gunung Sinai tempat Allah berbicara kepada Musa), Jabal Lubnan (Gunung Lebanon), dan gunung ini.
Al-Azraqi · Akhbar Makkah
Al-Qur'an mengisahkan bahwa Ibrahim dan Isma'il membangun Ka'bah bersama-sama:
> "(Ingatlah) ketika Ibrahim meninggikan fondasi Baitullah bersama Isma'il (seraya berdoa), 'Ya Tuhan kami, terimalah (amal) dari kami. Sesungguhnya Engkaulah Yang Maha Mendengar lagi Maha Mengetahui.'"
QS 2:127
Mereka berdoa kepada Allah:
> "Ya Tuhan kami, jadikanlah kami orang yang berserah diri kepada-Mu dan (jadikanlah) dari keturunan kami umat yang berserah diri kepada-Mu. Tunjukkanlah kepada kami cara-cara ibadah kami dan terimalah tobat kami."
QS 2:128
Batu tempat Ibrahim عليه السلام berdiri selama pembangunan masih ada hingga kini di dekat Ka'bah dalam sebuah penutup berlapis emas: itulah Maqam Ibrahim.
> "Jadikanlah Maqam Ibrahim sebagai tempat salat."
QS 2:125
Identifikasi pasti "gunung Ka'bah" berbeda-beda menurut sumbernya. Sebagian penulis sejarah mengatakan bahwa yang dimaksud adalah Jabal Abu Qubais sendiri, sebagian lainnya menyebut gunung-gunung di sekitarnya.