Hz. Ömer (r.a), 15/637 yılında Beytü’l-Makdis’i fethettiğinde Mescid-i Aksâ’yı etrafı açık ve hiçbir yapının bulunmadığı boş bir alan olarak buldu. Hz.Ömer Müslümanlarla beraber Mescid-i Aksâ’nın bulunduğu alanı çöplerden temizleyip ilk olarak küçük bir mescid inşa etti. Emevîler, Hz. Ömer’in mescidinin yerine Kıble Mescidi’ni inşa ettiler.