Cuando Ismael, hijo de Abraham y Hagar, nació, la primera esposa de Abraham, Sara, se puso celosa y le pidió a Abraham que los alejara de ella. Dios, el Excelso, inspiró a Abraham que los llevase a La Meca. Allí los iba a visitar de vez en cuando. En una ocasión, Abraham estuvo alejado por un tiempo prolongado y cuando regresó a visitarlos, vio a su hijo Ismael tirando flechas cerca del pozo de Zamzam. Cuando lo vio, lo abrazó, y le dijo: “Oh, Ismael, Dios me ha encomendado construir una Casa aquí”. Juntos levantaron las paredes de la Casa de Dios. Ismael trajo las rocas, y Abraham las ordenó. Cuando las paredes estuvieron un poco altas, Abraham puso una roca para subirse y ambos, padre e hijo, suplicaron a Dios: “Oh, Dios, acepta lo que hicimos, ciertamente Tú eres Quien todo lo oye y todo lo ve”. Los musulmanes de todas partes del mundo se orientan hacia la Ka’aba durante la oración; es la primer Casa de Dios. Dios () dice:Ciertamente la primera Casa erigida para los hombres es la de Bakka (la Ka’aba), en ella hay bendición y guía para la humanidad  (3:96)

Es un símbolo de la unidad de los musulmanes. Los musulmanes se orientan hacia la Ka’aba con sus corazones y con sus cuerpos. Dios () dice: Dondequiera que dirijáis vuestros rostros, allí está el de Dios (Quien os observa). Dios es Vasto, Omnisciente. (2:115)

Cuando los musulmanes circunvalan alrededor de la Casa, no están adorándola, sino que adoran a Dios únicamente. Dios () dice: Que adoren, pues, al Señor de esta Casa (la Ka’aba) y Le agradezcan por haberles proveído el sustento para que pudieran saciar el hambre y haberles dado seguridad.. (106:3-4)