Masjidil Haram adalah masjid yang dibangun pertama kali oleh para
malaikat jauh sebelum penciptaan umat manusia, saat itu Allah SWT
mentahbiskan sebuah tempat di muka bumi untuk merefleksikan rumah di
surga yang bernama Baitul Ma’mur (Arab: البيت المعمور, “The Worship
Place of Angels”, “Tempat Bersembahyang Para Malaikat”). Dari waktu ke
waktu, Masjidil Haram rusak akibat badai (banjir) dan dibangun kembali
.
Menurut
Islam Masjidil Haram dibangun kembali oleh Ibrahim (Abraham), dengan
bantuan dari anaknya Ismail (Ismael). Mereka diperintah oleh Allah untuk
membangun masjid tersebut, dan Ka’ba.
Batu Hitam (Hajar Aswad) terletak
di bagian bawah dari sudut timur Ka’ba, dipercaya sebagai satu-satunya
peninggalan yang asli dari Ibrahim. Ka’ba adalah kiblat bagi semua
muslim di bumi dalam melaksanakan sholat yang menunjukkan kesatuan
diantara semua umat. Di dalam ajaran Islam disebutkan secara spesifik
kalau tidak ada yang ajaib berkenaan dengan Masjidil Haram kecuali untuk
oasis zam-zam yang mana tidak pernah kering semenjak ia ditemukan.
Umat Islam percaya tempat dimana Ismail dan ibunya mencari air adalah
di sekitar masjid. Dikisahkan, Siti Hajar berlari diantara dua bukit
Safa dan Marwah mencari air untuk anak bayinya, hingga akhirnya Allah
SWT menunjukkan padanya sumber zam-zam, dimana air tetap mengalir tanpa
henti hingga hari ini.
Setelah Hijrah (pindahnya Nabi Muhammad SAW dari Makkah ke Madinah),
dan setelah kemenangannya ia kembali ke Makkah, Nabi Muhammad SAW dan
Ali ibn Abu Thalib menghancurkan semua berhala yang ada di dalam dan di
sekitar Ka’ba. Disinilah awal permulaan penguasaan Islam atas Ka’ba, dan
bangunan masjid yang ada di sekitarnya.
Renovasi pertama pada masjid dilakukan pada
tahun 692. Sebelum renovasi tersebut, tembok terluar dari masjid
ditinggikan dan langit-langit masjid pun didekorasi, Masjidil Haram
masih merupakan area kecil terbuka dengan Ka’ba berada di tengah. Hingga
akhir tahun 700, pilar tua yang terbuat dari kayu dari masjid telah
diganti dengan pilar marmer dan bagian sisi masjid sebagai tempat sholat
diperlebar di kedua sisinya bersamaan dengan dibangunnya menara.
Masjid
kembali direnovasi pada tahun 1570 oleh arsitek pribadi Sultan Salim II
dan membuat penggantian atap yang semula hanya berupa lapangan datar
dengan menambahkan kubah-kubah yang didekorasi dengan kaligrafi di
dalamnya dan pemberian pilar-pilar tambahan yang baru. Bangunan tersebut
adalah bagian yang paling lama bertahan bahkan lebih tua dari Ka’ba
sendiri (kecuali Hajar Aswad) yang mana masih dalam bentuknya hingga
pada bentuk ke-empat nya pada tahun 1629. Pemerintahan Arab Saudi
menyatakan bahwa tahun 1570 merupakan tahun awal dalam penambahan elemen
arsitektural pada masjid.