فلما خلع مطرف بن المغيرة بن شعبة الحجاج سار عمر بن هبيرة في الجيش الذي حاربوه من الري فلما التقى العسكران التحق ابن هبيرة بمطرف مظهرا أنه معه فلما جال الناس كان ممن قتله وأخذ رأسه وقيل قتله غيره وأخذ هو رأسه وأتى به عديا فأعطاه مالا وأوفده إلى الحجاج بالرأس فسيره الحجاج إلى عبد الملك فاقطعه بيرزه وهي قرية بدمشق وعاد إلى الحجاج فوجهه إلى كردم بن مرثد الفزاري ليخلص منه مالا فأخذه منه وهرب إلى عبد الملك وقال أنا عائذ بالله وبأمير المؤمنين فإنني قتلت ابن عمه مطرف بن المغيرة وأتيت أمير المؤمنين برأسه ثم رجعت فأراد قتلي ولست آمن أن يسبني إلى أمر يكون فيه هلاكي فقال أنت في جواري فأقام عنده فكتب فيه الحجاج إلى عبد الملك يذكر أخذه المال وهربه فقال له أمسك عنه .
وتزوج بعض ولد عبد الملك بنتا للحجاج فكان ابن هبيرة يهدي لها ويبرها وييسر عليها فكتبت إلى أبيها تثني عليه فكتب الحجاج يأمره أن ينزل به حاجاته وعظم شأنه بالشام فلما استخلف عمر بن عبد العزيز استعمله على الجزيرة فلما ولي يزيد بن عبد الملك ورأى ابن هبيرة تحكم حبابة عليه تابع هداياه إليها والى يزيد بن عبد الملك فعملت له في ولاية العراق فولاه يزيد .
وكان ابن هبيرة بينه وبين القعقاع بن خليد العبسي تحاسد فقال القعقاع من يطيق ابن هبيرة حبابة بالليل وهداياه بالنهار فلما ماتت حبابة قال القعقاع :
( هلم فقد ماتت حبابة سلمني * بنفسك يقدمك الذرا والكواهل )