Είναι το δεύτερο τζαμί που κτίστηκε πάνω στη γη. Ο Άμπου Δαρ είπε: «Είπα: Ω Απεσταλμένε του Αλλά(χ), ποιο είναι το πρώτο τζαμί που κτίστηκε στον κόσμο; Απάντησε: Το Τζαμί Αλ- Χαράμ (ο Ιερός Οίκος στη Μέκκα). Τότε ρώτησα: Ποιο ήταν το δεύτερο τζαμί; Απάντησε: Το Τζαμί Αλ-’Άκσα. Ρώτησα: Πόσος καιρός πέρασε ανάμεσα στο κτίσιμο αυτών των δύο τζαμιών; Απάντησε: Σαράντα χρόνια, και όποτε πρέπει να προσεύχεσαι, κάν’ το όπου και να’ σαι, γιατί ολόκληρη η γη έχει πλαστεί ως τόπος προσευχής» (Μόσλεμ).

Το Τζαμί χτίστηκε από τον Προφήτη Σολομώντα, υιό του Δαβίδ. Ο ‘Αμπντουλλάχ Ιμπν ‘Αμρ Ιμπν Ελ-‘Ας ανέφερε ότι ο ‘Αμρ ΙμπνΕλ-‘Ας είπε ότι ο Απεσταλμένος του Αλλά(χ) είχε πει: «Αφού ο Σολομών, ο υιός του Δαβίδ, ολοκλήρωσε το κτίσιμο του Τζαμιού Αλ-Άκσα, ζήτησε από τον Αλλά(χ) τρία πράγματα και Ο Αλλάχ του έδωσε δύο από αυτά, και εμείς ελπίζουμε Ο Αλλάχ να μας δώσει το τρίτο. Του ζήτησε Διακυβέρνηση και Βασιλεία, που δεν είχε δοθεί σε κανέναν προηγουμένως και δε θα δοθεί σε κανέναν μετά από αυτόν, και Ο Αλλάχ του έδωσε αυτά τα δύο πράγματα. Και του ζήτησε επίσης για όποιον άνθρωπο βγει από το σπίτι του μόνο για να προσευχηθεί σε αυτό το Τζαμί να βγει (εξιλεωθεί) από τις αμαρτίες του, όπως ήταν τη μέρα που τον γέννησε η μητέρα του. Και εμείς ελπίζουμε ότι Ο Αλλάχ μας έδωσε αυτήν την επιθυμία.».