Quando Ismael - filho de Abraão e Agar - nasceu, a outra esposa de Abraão, Sara ficou com ciúmes. Então, ela pediu a Abraão que mantê-los longe dela. Deus, o Altíssimo, inspirou Abraão para levá-los a Makka. Ele costumava visitá- los de vez em quando. Uma vez, ele ficou longe deles por um período de tempo, e ao retornar viu Ismael atirando flechas perto do poço de Zamzam. Quando ele viu, abraçou-o da forma como um pai abraça o filho, e disse: ‘Ó Ismael, Allah me mandou construir uma casa aqui. “Juntos eles erigiram as paredes da Casa de Deus. Ismael reuniu as pedras e Abraão as colocou em seus devidos lugares. À medida que as paredes estavam sendo erguidas, ele colocou uma pedra como estância e Ibrahim e seu filho suplicou a Deus, dizendo: “Ó Senhor nosso, aceita-a de nós, pois Tu és Oniouvinte, Sapientíssimo.” Os muçulmanos de todo o mundo direcionam-se à Caaba durante suas orações; é a primeira Casa de Deus. Allah () afirma: A primeira Casa (Sagrada), erigida para o gênero humano, é a de Bakka, onde reside a bênção, servindo de orientação para a humanidade. (3:96)
É um símbolo da unidade dos muçulmanos. Eles direcionam-se a Caaba com seus corações e corpos. Allah () afirma:: Aonde quer que vos dirijais, notareis o Seu Rosto, porque Allah é Munificente, Sapientíssimo (2:115)
Quando os muçulmanos circundam a Caaba não estão adorando-a, porque adoram somente a Allah. Allah () afirma:: Que adorem o Senhor desta Casa, Que os provê contra a fome e os salvaguarda do temor (do perigo). (106:3-4)