Menurut para penulis sejarah klasik, batu yang digunakan Ibrahim dan Isma'il عليهما السلام untuk membangun Ka'bah diyakini berasal dari 5 gunung: Gunung Sinai (Thur Sina, tempat Allah berbicara kepada Musa عليه السلام), Bukit Zaitun (Thur Zaita, di Syam-Palestina), Al-Judi (di Mesopotamia), Gunung Lebanon, dan Jabal Hira. Pengaitan gunung ini dengan pembangunan Ka'bah merupakan tradisi lokal Makkah.
As-Suhaili, dikutip oleh Ibnu adh-Dhiya', Tarikh Makkah al-Musyarrafah · Akhbar Makkah
Al-Qur'an mengisahkan bahwa Ibrahim dan Isma'il membangun Ka'bah bersama-sama:
> "(Ingatlah) ketika Ibrahim meninggikan fondasi Baitullah bersama Isma'il (seraya berdoa), 'Ya Tuhan kami, terimalah (amal) dari kami. Sesungguhnya Engkaulah Yang Maha Mendengar lagi Maha Mengetahui.'"
QS 2:127
Mereka berdoa kepada Allah:
> "Ya Tuhan kami, jadikanlah kami orang yang berserah diri kepada-Mu dan (jadikanlah) dari keturunan kami umat yang berserah diri kepada-Mu. Tunjukkanlah kepada kami cara-cara ibadah kami dan terimalah tobat kami. Sesungguhnya Engkaulah Yang Maha Penerima tobat, Maha Penyayang."
QS 2:128
Batu tempat Ibrahim عليه السلام berdiri selama pembangunan masih ada hingga kini di dekat Ka'bah dalam sebuah penutup berlapis emas: itulah Maqam Ibrahim.
> "Jadikanlah Maqam Ibrahim sebagai tempat salat."
QS 2:125
Identifikasi pasti "gunung Ka'bah" berbeda-beda menurut sumbernya. Sebagian penulis sejarah mengatakan bahwa yang dimaksud adalah Jabal Abu Qubais sendiri, sebagian lainnya menyebut gunung-gunung di sekitarnya.
