Ada perbedaan pendapat para ulama tentang pembangunan Ka’bah. Namun pendapat yang masyhur menyebutkan terdapat sepuluh kali pembangunan Ka’bah. Pembangunan yang pertama dilakukan oleh para malaikat atas perintah Allah SWT.
Allah SWT berfirman kepada para malaikat: “sesungguhnya aku hendak menjadikan seorang khalifah di muka bumi”. Malaikat berkata: “mengapa engkau hendak menjadikah khalifah di bumi itu orang yang akan membuat kerusakan padanya dan menumpahkan darah. Jadikanlah khalifah itu dari golongan kami, maka kami tidak akan membuat kerusakan di bumi dan tidak menumpahkan darah”. Allah berfirman: “sesungguhnya aku mengetahui apa yang tidak kalian ketahui”.
Para malaikat mengira bahwa ucapan mereka itu sebagai sebuah bantahan dan bahwa Allah telah murka kepada mereka. Merekapun pergi menuju Arasy, menengadahkan doa disana, menangis karena takut dari murka Allah, dan merekapun berthawaf mengelilingi Arasy selama tiga jam. Kemudian Allah melihat mereka dan menurunkan rahmatnya. Allah membuatkan untuk mereka di bawah Arassy Baitul Ma’mur yang dibangun dari batu rubi merah besar dan terdiri dari empat tiang dari batu Zabarjad.
Allah berfirman kepada para Malaikat: “berthawaflah kalian di Baitul Ma’mur ini.” Maka para malaikatpun berthawaf mengelilingi Baitul Ma’mur. Allah mengutus kepada para malaikat dan memerintahkan kepada mereka: “buatlah di bumi seperti (Baitul Ma’mur ini)”. Maka dari sini lah kemudian dibangun Ka’bah di Bumi di tempatnya yang sekarang oleh para malaikat, bangunan yang seperti Baitul Ma’mur yang berada di bawah Arasy. Dan Allah pun memerintahkan kepada para malaikat untuk berthawaf di Ka’bah bumi ini.