في هذا الموقع صلى عمر بن الخطاب في المدينة المقدسة بعد تسلمه مفاتيح بيت المقدس من البطريرك صفرونيوس، ويُروى أن عمر بن الخطاب أدركته الصلاة وهو داخل كنيسة القيامة فخشي أن يصلي داخل الكنيسة ويأتي المسلمون من بعده يقولون هنا صلى عمر ويبنون مسجد، لذلك ابتعد عن الكنيسة وصلى في الجهة المقابلة، وبُني المسجد في نفس المكان عام 1193 م في عهد الأفضل بن صلاح الدين. ويعد الأن واحد من الوجهات الدينية والسياحية في مدينة القدس مع 15 مئذنة وتصميم معماري إسلامي كلاسيكي.