وقام عبد المؤمن بن شبث بن ربعي فقال: عباد الله! إنكم إن أطعتم الحجاج جعل هذه البلاد بلادكم ما بقيتم، وجمركم تجمير فرعون الجنود، فإنه بلغني أنه أول من جمر البعوث، ولن تعاينوا الأحبة أو يموت أكثركم فيما أرى، فبايعوا أميركم، وانصرفوا إلى عدوكم الحجاج فانفوه عن بلادكم. فوثب الناس إلى عبد الرحمن فبايعوه على خلع الحجاج، ونفيه من أرض العراق، وعلى النصرة له. ولم يذكر عبد الملك.
وجعل عبد الرحمن على بست عياض بن هميان الشيباني، وعلى زرنج عبد الله بن عامر التميمي، وصالح رتبيل على أن ابن الأشعث إن ظهر فلا خراج عليه أبدا ما بقي، وإن هزم فأراد منعه. ثم رجع إلى العراق، فسار بين يديه أعشى همدان وهو يقول:
شطت نوى من داره بالإيوان ... إيوان كسرى ذي القرى والريحان
من عاشق أمسى بزابلستان ... إن ثقيفا منهم الكذابان
كذابها الماضي وكذاب ثان ... أمكن ربي من ثقيف همدان
يوما إلى الليل يسلي ما كان ... إنا سمونا للكفور الفتان
حين طغى في الكفر بعد الإيمان ... بالسيد الغطريف عبد الرحمن
سار بجمع كالدبا من قحطان ... ومن معد قد أتى ابن عدنان
بجحفل جم شديد الأركان ... فقل لحجاج ولي الشيطان
يثبت بجمع مذحج وهمدان ... فإنهم ساقوه كأس الذيفان
وملحقوه بقرى ابن مروان
وجعل عبد الرحمن على مقدمته عطية بن عمرو العنبري، وجعل على كرمان حريثة بن عمرو التميمي، فلما بلغ فارس اجتمع الناس بعضهم إلى بعض وقالوا: إذا خلعنا الحجاج عامل عبد الملك فقد خلعنا عبد الملك. فاجتمعوا إلى عبد الرحمن، فكان أول الناس خلع عبد الملك تيجان بن أبجر من تيم الله بن ثعلبة، قام فقال: أيها الناس، إني خلعت أبا ذبان كخلعي قميصي. فخلعه الناس إلا قليلا منهم، وبايعوا عبد الرحمن، وكانت بيعته: نبايع على كتاب الله وسنة نبيه - صلى الله عليه وسلم - وعلى جهاد أهل الضلالة وخلعهم، وجهاد المحلين.
فلما بلغ الحجاج خلعه كتب إلى عبد الملك بخبر عبد الرحمن، ويسأله أن يعجل بعثة الجنود إليه. وسار الحجاج حتى نزل البصرة، فلما بلغ المهلب خبر عبد الرحمن كتب إلى الحجاج من خراسان: أما بعد، فإن أهل العراق قد أقبلوا إليك وهم مثل السيل، ليس يردهم شيء حتى ينتهي إلى قراره، وإن لأهل العراق شرة في أول مخرجهم،
وصبابة إلى أبنائهم ونسائهم، فاتركهم حتى يسقطوا إلى أهاليهم ويشموا أولادهم، ثم واقعهم عندها، فإن الله ناصرك عليهم. فلما قرأ كتابه سبه وقال: ما إلي نظر، وإنما النظر لابن عمه. يعني عبد الرحمن.
ولما وصل كتاب الحجاج إلى عبد الملك هاله، ودعا خالد بن يزيد، فأقرأه الكتاب، فقال: يا أمير المؤمنين، إن كان الحدث من سجستان فلا تخفه، فإن كان من خراسان فإني أتخوفه. فجهز عبد الملك الجند إلى الحجاج، فكانوا يصلون إلى الحجاج على البريد، من مائة، ومن خمسين، وأقل وأكثر، وكتب الحجاج تتصل بعبد الملك كل يوم بخبر عبد الرحمن. فسار الحجاج من البصرة ليلتقي بعبد الرحمن، فنزل تستر، وقدم بين يديه مقدمة إلى دجيل، فلقوا عنده خيلا لعبد الرحمن، فانهزم أصحاب الحجاج بعد قتال شديد، وكان ذلك يوم الأضحى سنة إحدى وثمانين، وقتل منهم جمع كثير.
فلما أتى خبر الهزيمة إلى الحجاج رجع إلى البصرة، وتبعه أصحاب عبد الرحمن، فقتلوا منهم وأصابوا بعض أثقالهم، وأقبل الحجاج حتى نزل الزاوية، وجمع عنده الطعام، وترك البصرة لأهل العراق، ولما رجع نظر في كتاب المهلب فقال: لله دره أي صاحب حرب هو! وفرق في الناس مائة وخمسين ألف ألف درهم.