ثم جاء الفتح الإسلامي لبيت المقدس صلحا في عهد عمر -رضي الله عنه- سنة (16ه/ 637) ، وطلب عمر -رضي الله عنه- من أحد بطريرك القدس أن يدله على مسجد داود (يعني المسجد الأقصى) ، فانطلق به حتى انتهى إلى مكان الباب، وقد انحدر الزبل على درج الباب، فتجشم عمر -رضي الله عنه- حتى دخل ونظر، فقال: الله أكبر، هذا والذي نفسي بيده مسجد داود الذي أخبرنا رسول الله -صلى الله عليه وسلم- أنه أسري به إليه، ثم أخذ عمر -رضي الله عنه- والمسلمون يكنسون الزبل عن الصخرة حتى ظهرت كلها ... ففي مسند الأمام أحمد (261) بسند حسن أن عمر -رضي الله عنه- قال لكعب -رضي الله عنه- بعد فتح بيت المقدس: أين أصلي؟ قال: إن أخذت عني صليت خلف الصخرة، فكانت القدس كلها بين يديك، فقال: عمر: ضاهيت اليهودية، لا ولكن أصلي حيث صلى رسول الله -صلى الله عليه وسلم- فتقدم إلى القبلة فصلى، ثم جاء فبسط رداءه، وكنس الكناسة في ردائه وكنس الناس.
وبقي المسجد الأقصى على حالته بعد الفتح الإسلامي، إلى أن جاء الخليفة الأموي عبد الملك بن مروان فبدأ بناء المسجد الأقصى سنة (66ه) على صورته القائمة اليوم.
وأما الصخرة فأول من بنى فوقها مسجدا في العصر الإسلامي عبد الملك بن مروان (65-86ه/684-705م) ، حيث بدأ العمل في بنائها سنة (66ه/ 685م) ، وتم الفراغ منها سنة (72ه/691م) ، وصرف على بنائها خراج مصر لسبع سنين، وهذه القبة مبنية على الصخرة المشرفة التي عرج عنها رسول الله -صلى الله عليه وسلم- في ليلة الإسراء والمعراج، وهذا المسجد معروف بمسجد الصخرة، والمشهور بقبته الذهبية على المبنى المثمن.
وتعتبر قبة الصخرة المشرفة إحدى أهم المعالم المعمارية الإسلامية.
والمسجد الأقصى كما هو معلوم له فضائل، فهو أحد المساجد الثلاثة التي تشد إليها الرحال، وهو الذي أسري بالنبي -صلى الله عليه وسلم- منه، وورد في حديث عبد الله بن عمرو -رضي الله عنهما- مرفوعا، بإسناد صحيح: "إن سليمان بن داود -عليهما السلام- سأل الله ثلاثا أعطاه اثنتين، ونحن نرجو أن تكون له الثلاثة: فسأله حكما يصادف حكمه، فأعطاه الله إياه، وسأله ملكا لا ينبغي لأحد من بعده، فأعطاه إياه، وسأله أيما رجل خرج من بيته لا يريد إلا الصلاة في هذا المسجد خرج من خطيئته مثل يوم ولدته أمه، فنحن نرجو أن يكون الله عز وجل قد أعطاه إياه". أخرجه أحمد (6357)
هذا والله الموفق والهادي إلى سواء السبيل.