فلما قرأ الرشيد الكتاب استشاط غضبا حتى ما تمكن أحد أن ينظر إلى وجهه فضلا أن يخاطبه وتفرق جلساؤه من الخوف واستعجم الرأي على الوزير فدعا الرشيد بدواة وكتب على ظهر كتابه بسم الله الرحمن الرحيم من هارون أمير المؤمنين إلى نقفور كلب الروم قد قرأت كتابك يا ابن الكافرة والجواب ما تراه لا ما تسمعه ثم سار ليومه فلم يزل حتى نزل مدينة هرقل وكانت غزوة مشهورة وفتحا مبينا فطلب نقفور الموادعة والتزم بخراج يحمله كل سنة.
وأسند الصولى عن يعقوب بن جعفر قال خرج الرشيد في السنة التي ولى الخلافة فيها حتى غزا أطراف الروم وانصرف في شعبان فحج بالناس آخر السنة وفرق بالحرمين مالا كثيرا وكان رأى النبي صلى الله عليه وآله وسلم في النوم فقال له إن هذا الأمر صائر إليك في هذا الشهر فاغز وحج ووسع على أهل الحرمين ففعل هذا كله.
وأخرج ابن عساكر عن ابن علية قال أخذ هارون الرشيد زنديقا فأمر بضرب عنقه فقال له الزنديق: لم تضرب عنقي قال له أريح العباد منك. قال فأين أنت من ألف حديث وضعتها على رسول الله صلى الله عليه وآله وسلم كلها ما فيها حرف نطق به قال فأين أنت يا عدو الله من أبى إسحاق الفزارى وعبد الله بن المبارك ينخلانها فيخرجانها حرفا حرفا.
من أعماله في الخلافة
حج غير مرة وله فتوحات ومواقف مشهودة ومنها فتح مدينة هرقلة،قال المسعودي في "مروج الذهب": رام الرشيد أن يوصل ما بين بحر الروم وبحر القلزم مما يلي الفرما فقال له يحيى البرمكي كان يختطف الروم الناس من الحرم وتدخل مراكبهم إلى الحجاز.
وزر له يحيى بن خالد مدة وأحسن إلى العلوية وحج سنة 173 وعزل عن خراسان جعفر بن أشعث بولده العباس بن جعفر وحج أيضا في العام الآتي وعقد بولاية العهد لولده الأمين صغيرا فكان أقبح وهن تم في الإسلام وأرضى الأمراء بأموال عظيمة وتحرك عليه بأرض الديلم يحيى بن عبد الله بن حسن الحسيني وعظم أمره وبادر إليه الرافضة فتنكد عيش الرشيد واغتم وجهز له الفضل بن وزيره في خمسين ألفا فخارت قوى يحيى وطلب الأمان فأجابه ولاطفه ثم ظفر به وحبسه ثم تعلل ومات ويقال ناله من الرشيد أربعمائة ألف دينار.
وفي سنة 175ه ولى خراسان الغطريف بن عطاء وولى مصر جعفرا البرمكي واشتدت الحرب بين القيسية واليمانية بالشام ونشأت بينهم أحقاد وإحن.
وغزا الفضل بن يحي البرمكي بجيش عظيم ما وراء النهر ومهد الممالك وكان بطلا شجاعا جوادا ربما وصل الواحد بألف ألف وولي بعده خراسان منصور الحميري وعظم الخطب بابن طريف ثم سار لحربه يزيد بن مزيد الشيباني وتحيل عليه حتى بيته وقتله ومزق جموعه.
وفي سنة 179ه اعتمر الرشيد في رمضان واستمر على إحرامه إلى أن حج ماشيا من بطن مكة.وغزا الرشيد وتوغل في أرض الروم فافتتح الصفصاف وبلغ جيشه أنقرة. ثم حج سنة ست وثمانين الرشيد بولديه الأمين والمأمون وأغنى أهل الحرمين.
ثم حدثت نكبة البرامكة إذ قتل الرشيد جعفر بن يحيى البرمكي وسجن أباه وأقاربه بعد أن كانوا قد بلغوا رتبة لا مزيد عليها.
وفي العام نفسه انتقض الصلح مع الروم وملكوا عليهم نقفور فيقال إنه من ذرية جفنة الغساني وبعث يتهدد الرشيد فاستشاط غضبا وسار في جيوشه حتى نازله هرقلة وذلت الروم وكانت غزوة مشهودة، ثم كانت الملحمة العظمى وقتل من الروم عدد كثير وجرح النقفور ثلاث جراحات وتم الفداء حتى لم يبق في أيدي الروم أسير.وبعث إليه نقفور بالجزية ثلاثمائة ألف دينار.