Di lokasi ini Umar ibn al-Khattab salat di Kota Suci setelah menerima kunci Rumah Suci dari Patriark Sophronius. Diriwayatkan bahwa Omar ibn al-Khattab sempat asyik salat saat berada di dalam Gereja Kebangkitan, jadi dia takut dia akan salat di dalam gereja dan umat Islam akan datang mengejarnya dan berkata di sini Umar salat dan membangun masjid, jadi dia menjauh dari gereja. Dia salat di seberang, dan masjid pun dibangun di tempat yang sama. pada tahun 1193 M pada masa pemerintahan Al-Afdal bin Saladin. Sekarang dianggap sebagai salah satu tujuan keagamaan dan wisata di kota Yerusalem, dengan 15 menara dan desain arsitektur Islam klasik.