История мечети Аль-Акса начинается с 636 года, когда её возвели в Иерусалиме на Храмовой горе по поручению халифа Умара ибн аль-Хаттаба. Благодаря этому мечеть Аль-Акса имеет ещё одно название — мечеть Умара. Изначально это был маленький дом для молитвы. Во времена правления одного из халифов небольшая мечеть уже не вмещала всех пришедших на молитву, поэтому было принято решение расширить здание. Работы по реконструкции мечети были завершены в 705 году. В 746 году мечеть была полностью разрушена землетрясением. Но халиф Аль-Мансур нашёл средства и рабочих и святыню отстроили заново. Многочисленные перестройки в конструкцию храма внесли при приёмнике Аль-Мансура халифе Аль-Махди (780 год). В 1033 году произошло ещё одно землетрясение, которое разрушило большую часть Аль-Аксы. Два года спустя фатимидский халиф Али аз-Захир построил другую мечеть, которая и стоит по сей день. В 1099 году Иерусалим захватили крестоносцы. Они стали использовать здание мечети как христианскую церковь — храм Соломона. Кроме того, иерусалимский король Балдуин II передал часть помещений бывшего мусульманского храма ордену Тамплиеров. Здесь жили рыцари, а также хранилось оружие и доспехи. Когда городом завладел султан Саладин (Салах ад-Дин), Аль-Аксу восстановили как мечеть. По распоряжению этого правителя все следы присутствия христиан на Храмовой горе были уничтожены.