وكان على عمان يوم مات الحجاج، الخيار بن سيرة المجاشعي، فأقره الوليد بن عبد الملك على عمان، وأقر يزيد بن المهلب على خراج العراق. فبعث يزيد بن أبي مسلم، سيف بن الهاني الهمداني إلى عمان، لاستيفاء صدقاتها، ثم مات الوليد بن عبد الملك يوم السبت النصف من جمادى الآخر سنة ست وتسعين.
واستخلف سليمان بن عبد الملك يوم مات الوليد بن عبد الملك، فعزل العمال الذين كانوا على عمان واستعمل عليها صالح بن عبد الرحمن بن قيس مشرفا ومستوفيا عليهم، ففعل ذلك.
ثم استخص يزيد بن المهلب فأكرمه ورفع من شأنه، وولاه أمر العراق وخراسان، وجعله مكان الحجاج. فولي يزيد بن المهلب أخاه زياد بن المهلب، عمان. وكتب إلى سيف بن هاني الهمداني يأمره بإيثاق الخيار بن سيرة وحبسه والاحتفاظ به إلى أن يقدم عليه زياد بن المهلب.
فلما قدم زياد عمان، بسط على الخيار العذاب، فلما كان بعد مدة، ورد مرتع غلام يزيد بن المهلب، على أخيه زياد، بكتاب منه يأمره فيه أن يمكن مرتعا من قتل الخيار، فمكنه من ذلك وقتله، وكتب إلى زياد: اني لم أبعثك جابيا، ولكن بعثتك ثائرا.
وبعث يزيد بن المهلب، المنهال بن عيينة، إلى جزيرة بني كاوان، وأمر زياد بن المهلب أن يفرض لأهل كاوان ويوجههم المنهال إلى البصرة.
ثم ان سليمان بن عبد الملك، أثر في نفسه محبة، يزيد بن المهلب، ورفع من أمره وقدره، وقدمه على سائر خواصه وأعماله وملكه، أعنة الخيل وتدبير الأمر، فبلغ من أمر يزيد بن المهلب حتى صار بالعساكر وفتح جرجان وزاد علو همته وبذل المال، فقصدته صناديد العرب وشعراؤها، فأعطى وأكثر، ثم أنه ولى خراسان وقيادة الجيوش ابنه مخلد بن يزيد، وهو ابن اثني عشر سنة، وفيه يقول الكميت:
قاد الجيوش لبضع عشرة حجة ... ولداته في ذلك عن اشغال
قعدت بهم هماتهم وسما به ... همم لملوك وسورة الأبطال
وفيه يقول، مرة بن بيض:
بلغت لعشر مضت من سنيك ... ما يبلغ السيد الأشيب
فهمك فيها حسام الأمور ... ولهم بداتك أن يبلغ
ففتح مخلد: اليم، والقم، في يوم عيد لهم، وأخذ امرأة ملكهم وأفلت الملك، فافتداها بأصنامهم الذهب، وما في بيوت أموالهم.
وكان يزيد يجلس على سرير سليمان بن عبد الملك في مغيبه. فإذا حضر سليمان جلس يزيد عن يمينه، فإذا نهض عاد إلى مكانه. واليه كان أمر جميع الناس لما علم فيه الكفاية والسياسة، وملكه أعنة الخيل، لمعرفته بشجاعته وبأسه ومحبة العرب له.
وكان معه على ذلك إلى أن مات سليمان بن عبد الملك، واستخلف بعده عمر بن العزيز بن الحجاج بن عبد الملك بن مروان. فعزل يزيد بن المهلب عن العراق، واستعمل على العراق عدي بن أرطاة الفزاري.
وقد كان زياد بن المهلب عاملا من جهة أخيه يزيد بن المهلب على عمان مكرما لليمانية، إلى أن مات سليمان بن عبد الملك، وولى عمر بن عبد العزيز، واستعمل على العرق عدي بن أرطاة الفزاري، فاستعمل عدي بن أرطاة العرب تحت لوائه طوعا. فعند ذلك يزيد بن المهلب أن يغلب بني مروان. وجمع يزيد العساكر ومن أطاعه من اليمانية، من أهل الشام، منهم: كلب، وغسان، ولخم، وخدام، وعامله، وأحياء قضاعة، وحمير، وكندة، والسكون، ومدجح، وجثعم، وقدم فيهم أخاه مسلمة بن عبد الملك، والعباس بن يزيد، فساروا بالعساكر يريدون يزيد بن المهلب وأهل بيته.