Berawal dari seorang perempuan yang menyalakan pembakaran wewangian untuk membuat wangi Ka’bah. Percikan pembakaran tersebut merambat ke kiswah dan menjadi besar sehingga membakar Kiswah dan kayu-kayu Ka’bah. Tidak lama setelahnya, terjadi banjir yang melanda Mekah dan menghancurkan dinding-dinding Ka’bah. 

Setelah melihat keadaan Ka’bah yang rusak dan memperihatinkan, para pemuka dan tetua Mekah memutuskan untuk merenovasi Ka’bah. Pada saat yang sama tersiar kabar bahwa sebuah kapal telah karam dan terdampar di pantai Jedah. Kapal tersebut  milik Kaisar Romawi yang dibawa oleh Baqum, seorang saudagar dari Eropa, untuk mengangkut berbagai komoditi berharga yaitu batu pualam, kayu-kayu dan besi-besi yang akan dikirim ke Etiopia untuk pembangunan gereja di sana yang sebelumnya telah dibakar oleh orang-orang Persia. Namun, ketika kapal tersebut sampai di tepian Jedah tiba-tiba datang angin besar yang menghantam sehingga membuat kapal karam dan terdampar di Jedah.  

Walid bin Mughirah bersama rombongan pergi menuju pantai tersebut dengan niatan ingin membeli kayu-kayu kapal untuk digunakan dalam pembangunan Ka’bah. Mereka juga berbicara dengan Baqum agar dapat ikut pergi Ke Mekah  bersama-sama Mereka dengan membawa kayu-kayu tersebut. Pada saat yang sama di Mekah terdapat orang Mesir yang mengerti perkayuan. Ia setuju diminta bekerja membuatkan atap Ka’bah dengan dibantu oleh Baqum.  

Renovasi Ka’bah tinggal dilaksanakan namun terdapat kendala yaitu di dalam Ka’bah terdapat ular besar yang membuat orang takut masuk ke dalamnya. Ular tersebut hitam dan bertanduk, konon ia sudah berada di dalamnya selama 500 tahun dan diyakini menjaga Ka’bah dan hadiah-hadiah yang dipersembahkan ke dalamnya, siapa orang yang masuk mendekatinya maka ia akan membuka mulutnya lebar-lebar untuk menggigit. Tidak lama kemudian, tiba-tiba datang seekor burung besar  menuju Ka’bah dan memangsa ular tersebut dan membawanya pergi jauh.

Setelah menghilangnya ular tersebut orang-orang Quraisy berkata, “kita berharap semoga Tuhan ridha dengan apa yang kita ingin kerjakan”. Suku Quraisy pun bersepakat untuk memulai renovasi Ka’bah dengan meruntuhkannya terlebih dahulu. Seorang bernama ‘Aidz bin Makhzum, ia adalah pamannya Abdullah ayahnya Rasulullah,  mengambil sebongkah batu dari Ka’bah, namun tiba-tiba batu tersebut terlepas loncat dari tangannya dan kembali ke tempatnya semula. Kemudian ia berkata kepada orang-orang: “wahai suku Quraisy, jangan masukan sesuatu dalam pembangunan Ka’bah kecuali berasal dari harta kalian yang halal, bukan harta yang tidak baik, hasil riba atau hasil dari kezaliman”. 

Maka selanjutnya dimulailah proses meruntuhkan Ka’bah. Suku Quraisy membagi tugas di antara banyak anak sukunya dalam proses ini. Nabi Muhammad SAW saat itu pun masih berusia sekitar 35 tahun dan ikut membantu mengangkut batuan yang diruntuhkan. Ketika sampai pondasi Ka’bah mereka menemukan batu pondasi besar yang menonjol. Ketika mencoba mencongkelnya tiba tiba keluar kilatan yang menyambar dan membuat tanah seisi kota Mekah bergetar. Mereka pun mengurungkan untuk mendongkelnya dan tetap membiarkannya seperti semula.

Setelah proses meruntuhkan bangunan lama selesai dimulailah pembangunan ulang Ka’bah. Suku Quraisy bahu membahu bekerja sama dalam pembangunan ini. Di antara proses pembangunan ini terjadi kisah yang sudah sangat masyhur, yaitu kisah perselisihan antara suku Quraisy tentang  siapa yang akan meletakan Hajar Aswad di tempatnya semula. Persoalan ini kemudian berhasil diselesaikan dengan baik oleh Rasulullah SAW dengan solusinya yang cerdas dengan mengangkut Hajar Aswad dengan kain yang dibawa bersama-sama oleh para pembesar suku, sehingga membuat persoalan ini terselesaikan dengan damai.

Dalam pembangunan ini, tinggi Ka’bah menjadi 18 hasta, dan lebarnya menjadi berkurang dari apa yang telah dibangun masa sebelumnya, demikian karena kekurangan biaya yang halal untuk menuntaskan pembangunan ini. Di atas juga dibuatkan atap dan pintu Ka’bah yang dibuat agak tinggi sehingga orang tidak sembarang masuk kecuali yang diizinkan. Di dalam Ka’bah dibuat enam tiang yang berbaris menjadi dua barisan, juga dibuatkan sebuah tangga di dekat bagian Rukun Syami agar bisa naik ke bagian atas Ka’bah.

Sumber : Buku ‘Ilāmul ‘Ulama Al ‘Alām Bi Binā Al Masjidil Haram, Karya Syaikh Abdul Karim Bin Muhibuddin Al Qutby