ولما توجه أبو عبيدة إلى حلب بلغه أن أهل قنسرين قد نقضوا، فرد إليهم السمط ابن الأسود الكندي فحصرهم ثم فتحها، فوجد فيها بقرا وغنما، فقسم بعضها في من حضر، وجعل الباقي في الغنم.
وكان حاضر قنسرين قديما نزلوه بعد حرب الفساد التي كانت بينهم حتى نزل الجبلين من نزل منهم. فلما ورد أبو عبيدة عليهم أسلم بعضهم، وصولح كثير منهم على الجزية، ثم أسلموا بعد ذلك بيسير، إلا من شذ منهم.
فتح حلب
وكان بقرب مدينة حلب حاضر حلب يجمع أصنافا من العرب من تنوخ وغيرهم، فصالحهم أبو عبيدة على الجزية. ثم إنهم أسلموا بعد ذلك، وجرت بينهم وبين أهل حلب حرب أجلاهم فيها أهل حلب، فانتقلوا إلى قنسرين وكانت قنسرين وحلب إذ ذاك مضافتين إلى حمص. فأفردهما يزيد بن معاوية في أيامه. وقيل: أفردهما معاوية أبوه.
ولما بلغ عمر بن الخطاب ما فعل خالد في فتح قنسرين وحلب، قال: أمر خالد نفسه! يرحم الله أبا بكر هو كان أمير المسلمين من جهة أبي بكر على الشام. فلما ولي عمر عزله، وولى أبا عبيدة. ثم ولاه عمر على قنسرين، فأدرب خالد وعياض بن غنم أول مدربة كانت في الإسلام، سنة 16 ه. ورجع خالد فأتته الإمارة من عمر على قنسرين، فأقام خالد أميرا من تحت يد أبي عبيدة عليها، إلى أن أغزى هرقل أهل مصر في البحر وخرج على أبي عبيدة بحمص بعد رجوعه من فتح حلب، فاستمد أبو عبيدة خالدا فأمده ممن معه، ولم يخلف أحدا. فكفر أهل قنسرين بعده، وبايعوا هرقل، وكان أكفر من هناك تنوخ. واشتور المسلمون فأجمعوا على الخندقة والكتاب إلى عمر بذلك. وأشار خالد بالمناجزة فخالفوه وخندقوا، وكتبوا إلى عمر واستصرخوه. وجاء الروم بمددهم، فنزلوا على المسلمين وحصروهم. وبلغت أمداد الجزيرة ثلاثين ألفا سوى أمداد قنسرين من تنوخ وغيرهم. فنالوا من المسلمين كل منال. وكتب عمر إلى سعد ابن أبي وقاص يخبره بذلك، ويأمره أن يبث المسلمين في الجزيرة ليشغلهم عن أهل حمص وأمده عمر بالقعقاع بن عمرو فتوغلوا في الجزيرة، فبلغ الروم فتقوضوا عن حمص إلى مدائنهم.
وندم أهل قنسرين، وراسلوا خالدا، فأرسل إليهم: لو أن الأمر إلي ما باليت بكم، كثرتم أم قللتم، لكني في سلطان غيري. قال: فإن كنتم صادقين فانفشوا كما نفش أهل الجزيرة. فساموا سائر تنوخ ذلك فأجابوا، وأرسلوا إلى خالد: إن ذلك إليك، إن شئت فعلنا وإن شئت أن تخرج علينا فننهزم بالروم. فقال: بل أقيموا، فإذا خرجنا فانهزموا بهم. فلما علم أبو عبيدة والمسلمون بذلك. قالوا: اخرج بنا وخالد ساكت. فقال أبو عبيدة: مالك يا خالد لا تتكلم؟ فقال: قد عرفت الذي عليه رأيي، فلم تسمع من كلامي. قال: فتكلم. فإني أسمع منك وأطيع، فأشار بلقائهم. فخرج المسلمون والتقوهم، فانهزم أهل قنسرين والروم معهم، فاحتوى المسلمون على الروم، فلم يفلت منهم أحد. وما زال خالد على إمارة قنسرين حتى أدرب خالد وعياض سنة 17.
وبعد رجوعهما من الجابية رجع عمر إلى المدينة. فأصابا أموالا عظيمة، وقفل خالد سالما غانما، وبلغ الناس ما أصابوا في تلك الصائفة، وقسم خالد فيها ما أصاب لنفسه، فانتجعه رجال من أهل الآفاق وكان الأشعث ابن قيس ممن انتجع خالدا بقنسرين، فأجازه بعشرة آلاف درهم.
وكان عمر لا يخفى عليه شيء في عمله، فكتب إليه من العراق بخروج من خرج منها، ومن الشام بجائزة من أجيز فيها، فدعا البريد. وكتب معه إلى أبي عبيدة أن يقيل خالدا ويعقله بعمامته، وينزع عنه قلنسوته، حتى يعلمكم من أين أجاز الأشعث؛ أمن ماله؟ أم مما أصابه، فإن زعم أنها مما أصابه فقد أقر بخيانة، وإن زعم أنها من ماله فقد أسرف واعزله على كل حال. وضم إليك عمله.