Noong si Ishmael, ang anak ni Abraham at Hagar, ay isilang, ang asawa ni Abraham na si Sarah ay labis na nanibugho, kaya kinausap niya si Abraham na ilayo sila (Ishmael at Hagar) sa kanya. Ang Allah - ang Kataas-tasaan, ay ginabayan si Abraham upang dalhin sila (Ishmael at Hagar) sa lugar ng Makkah. Laging dinadalaw ni Abraham si Hagar at Ishmael kung saan niya ito iniwan. Minsan, nang mawalay si Abraham nang matagal sa kanyang mag-ina, siya ay muling nagpasyang dumalaw, at sa kanyang pagdalaw nakita niya si Ishmael na nagsasanay ng kanyang pana at palaso malapit sa balon ng Zamzam. Nang makita niya si Ishmael, niyakap niya ito na katulad nang matinding pagyakap ng isang amang nangulila sa kanyang anak – at sinabi niya: “O Ishmael, ang Allah ay ipinag-utos sa akin na magtayo ng isang Bahay (dalanginan) dito.” Kapwa nila itinayo ang mga pundasyon at pader ng Bahay sa pagsamba sa Allah. Si Ishmael ang siyang nagtitipon ng mga bato at si Abraham naman ang nagsasalansan nito. Nang mataas na ang pader, naglagay si Abraham ng isang bato at ginawa niyang tuntungan sa pagsalansan ng iba pang bato. At si Abraham at Ishmael ay nanalangin sa Allah na nagsabi: “O Allah tanggapin ito mula sa amin, katotohanan Ikaw ang Lubos na Nakakikita, ang Lubos na Nakaririnig.”Ang lahat ng mga Muslim sa buong Mundo ay humaharap sa Ka′bah sa bawa′t oras ng kanilang pananalangin; ito ang kauna-unahang Bahay sa Pagsamba sa Allah. Winika ng Allah: Katotohanan, ang unang Bahay (Dalanginan) na itinalaga para sa sangkatauhan ay yaong sa Bakkah (i.e. Makkah), na tigib ng pagpapala at isang patnubay para sa Alamin (sangkatauhan, jinn at lahat ng nilikha) (3:96)
Ito ay sagisag ng pagkakaisa ng mga Muslim. Humaharap ang mga Muslim sa Ka′bah (Bahay sa pagsamba sa Allah) sa oras kanilang pagdarasal nang buong puso. Ang Allah ay nagwika: …kaya saan man ninyo ibaling ang inyong sarili (o ang inyong mukha( naroroon ang Mukha ng Allah (at Siya ay nasa Kaitaas-taasan ng Kanyang Luklukan). (2:115)
Kapag ang mga Muslim ay umiikot sa paligid ng Ka′bah, hindi nangangahulugan na sinasamba nila ito, sapagka’t sinasamba lamang nila ang Allah. Ang Allah ay nagwika Kaya′t hayaan silang sumamba sa (Allah) Rabb ng Bahay na (Ka′bah) ito, (Siya) na nagpakain sa kanila laban sa gutom at nagbigay katiwasayan laban sa takot (o pangamba) (106:3-4)