وقد كان هرقل حين جاءه الكتاب النبوي وهو بإيلياء وعظ النصارى فيما كانوا قد بالغوا في إلقاء الكناسة على الصخرة حتى وصلت إلى محراب داود قال لهم: إنكم لخليق أن تقتلوا على هذه الكناسة مما امتهنتم هذا المسجد كما قتلت بنو إسرائيل على دم يحيى بن زكريا ثم أمروا بإزالتها فشرعوا في ذلك فما أزالوا ثلثها حتى فتحها المسلمون فأزالها عمر بن الخطاب وقد استقصى هذا كله بأسانيده ومتونه الحافظ بهاء الدين بن الحافظ أبي القاسم بن عساكر في كتابه المستقصى في فضائل المسجد الأقصى.
وذكر سيف في سياقه: أن عمر رضي الله عنه ركب من المدينة على فرس ليسرع السير بعد ما استخلف عليها علي بن أبي طالب، فسار حتى قدم الجابية فنزل بها وخطب بالجابية خطبة طويلة بليغة منها: «أيها الناس أصلحوا سرائركم تصلح علانيتكم، واعلموا لآخرتكم تكفوا أمر دنياكم، واعلموا أن رجلا ليس بينه وبين آدم أب حي ولا بينه وبين الله هوادة، فمن أراد لحب (طريق) وجه الجنة فليلزم الجماعة فإن الشيطان مع الواحد وهو مع الاثنين أبعد، ولا يخلون أحدكم بامرأة فإن الشيطان ثالثهما، ومن سرته حسنته وساءته سيئته فهو مؤمن» وهي خطبة طويلة اختصرناها. ثم صالح عمر أهل الجابية ورحل إلى بيت المقدس وقد كتب إلى أمراء الأجناد أن يوافوه في اليوم الفلاني إلى الجابية فتوافوا أجمعون في ذلك اليوم إلى الجابية، فكان أول من تلقاه يزيد بن أبي سفيان، ثم أبو عبيدة، ثم خالد بن الوليد في خيول المسلمين وعليهم يلامق الديباج، فسار إليهم عمر ليحصبهم فاعتذروا إليه بأن عليهم السلاح، وأنهم يحتاجون إليه في حروبهم. فسكت عنهم واجتمع الأمراء كلهم بعد ما استخلفوا على أعمالهم، سوى عمرو بن العاص وشرحبيل فإنهما مواقفان الأرطبون بأجنادين، فبينما عمر في الجابية إذا بكردوس من الروم بأيديهم سيوف مسللة، فسار إليهم المسلمون بالسلاح فقال عمر:
إن هؤلاء قوم يستأمنون. فساروا نحوهم فإذا هم جند من بيت المقدس يطلبون الأمان والصلح من أمير المؤمنين حين سمعوا بقدومه فأجابهم عمر رضي الله عنه إلى ما سألوا، وكتب لهم كتاب أمان
ومصالحة، وضرب عليهم الجزية، واشترط عليهم شروطا ذكرها ابن جرير، وشهد في الكتاب خالد بن الوليد، وعمرو بن العاص، وعبد الرحمن بن عوف، ومعاوية بن أبي سفيان، وهو كاتب الكتاب وذلك في سنة خمسة عشر. ثم كتب لأهل لد ومن لك من الناس كتابا آخر وضرب عليهم الجزية، ودخلوا فيما صالح عليه أهل إيلياء، وفر الأرطبون إلى بلاد مصر، فكان بها حتى فتحها عمرو بن العاص، ثم فر إلى البحر فكان يلي بعض السرايا الذين يقاتلون المسلمين فظفر به رجل من قيس فقطع يد القيسي وقتله القيسي وقال في ذلك.
فإن يكن أرطبون الروم أفسدها ... فإن فيها بحمد الله منتفعا
وإن يكن أرطبون الروم قطعها ... فقد تركت بها أو صاله قطعا
ولما صالح أهل الرملة وتلك البلاد، أقبل عمرو بن العاص وشرحبيل بن حسنة حتى قدما الجابية فوجدا أمير المؤمنين عمر بن الخطاب راكبا، فلما اقتربا منه أكبا على ركبتيه فقبلاها واعتنقهما عمر معا رضي الله عنهم قال سيف ثم سار عمر إلى بيت المقدس من الجابية وقد توحى فرسه فأتوه ببرذون فركبه فجعل يهملج به فنزل عنه وضرب وجهه وقال لا علم الله من علمك، هذا من الخيلاء، ثم لم يركب برذونا قبله ولا بعده، ففتحت إيلياء وأرضها على يديه ما خلا أجنادين فعلى يدي عمرو.