Berdirinya Kota Makkah tidak terlepas dari sejarah Nabi Ismail dan ibunya Siti Hadjar. Atas perintah Allah SWT, Nabi Ibrahim meninggalkan anak dan istrinya di lembah yang dahulu tidak berpenghuni, tidak ada air maupun orang yang tinggal di sana.

Imam Al-Bukhari meriwayatkan, Nabi Ibrahim meninggalkan Nabi Ismail saat masih bayi dan masih menyusu kepada ibunya. Sedangkan Nabi Ibrahim kembali ke Suriah.

Nabi Ibrahim menurunkan istri dan anaknya di bawah sebuah pohon dengan meninggalkansekantong kurma dan sebotol air, lalu kembali ke Suriah kuno. Sesaat sebelum pergi, Hajar memanggil dan bertanya: “Kamu hendak kemana? Bagaimana kamu bisa meninggalkan kami di lembah terpencil ini yang tidak ada manusia atau apa pun (kehidupan)?"

Nabi Ibrahim masih terdiam dan Hadjar kembali mengulang pertanyaannya. Hingga kesekian kali Hadjar bertanya, Nabi Ibrahim hanya terdiam.

Hadjar kemudian mengubah pertanyaannya, "Apakah Allah memerintahkanmu untuk melakukan ini?" Barulah kemudian Nabi Ibrahim menjawab, "Ya. Maka Allah tidak akan pernah meninggalkan kita," kata Nabi Ibrahim.

Nabi Ibrahim kemudian mengambil beberapa langkah lalu berdiri di atas bukit kecil, mengangkat tangannya seraya berdoa dan memohon kepada Allah SWT. "Ya Allah ya Tuhan kami! Sesungguhnya aku telah menempatkan sebagian keturunanku di sebuah lembah yang belum digarap dekat Rumah Suci-Mu, Ya Allah (yang demikian itu), agar mereka mendirikan sholat. Maka jadikanlah hati sebagian manusia cenderung kepada mereka dan berilah mereka rezeki dari buah-buahan, semoga mereka bersyukur,” (Q.S Ibrahim ayat 37).

Allah mengabulkan doa Nabi Ibrahim dengan memberkahi Hadjar dan Nabi Ismail sebuah sumur yang tidak pernah kering, sumur zamzam. Kemudian semua orang datang dari berbagai penjuru untuk tinggal dan menetap di kota Makkah.

Suku pertama yang tinggal di Makkah adalah suku Jurhum di mana Nabi Ismail dibesarkan dan dengan siapa ia menikah. Kemudian Nabi Ibrahim datang sesekali ke Makkah untuk mengunjungi anak dan istrinya.

Kemudian Allah memerintahkannya untuk membangun Ka'bah. Allah berfirman: "Dan (ingatlah) ketika Ibrahim sedang meningkatkan fondasi rumah (bersama) Ismail (seraya berkata) : Ya Tuhan kami! Terima (ini) dari kami. Sungguh, Engkau adalah Yang Maha Mendengar lagi Maha mengetahui (QS, Al-Baqara ayat 127).

Allah juga berfirman: "Dan (ya Muhammad), ketika Kami memberikan tempat kepada Ibrahim di Baitullah Rumah, (dengan mengatakan), "Jangan mengasosiasikan apa pun dengan-Ku dan sucikanlah Rumah-Ku bagi orang-orang yang melakukan tawaf (mengelilingi dari Ka'bah) dan orang-orang yang beribadah (sholat) dan orang-orang yang ruku dan bersujud," (QS. Al-Hajj ayat 26)

Nabi Ibrahim As.