فسار إليه في جند طرابلس في المحرم سنة تسع وسبعين ومائة ، فلما وصل قابسا تلقاه عامة الجند وخرج ابن الجارود من القيروان مستهل صفر وكانت ولايته سبعة أشهر .
وأقبل العلاء بن سعيد ويحيى بن موسى يستبقان إلى القيروان كل منهما يريد أن يكون الذكر له فسبقه العلاء ودخلها وقتل جماعة من أصحاب ابن الجارود وسار إلى هرثمة فسيره هرثمة إلى الرشيد وكتب إليه يعلمه أن العلاء كان سبب خروجه ، فكتب الرشيد يأمره بإرسال العلاء إليه فسيره فلما وصل لقيه صلة كثيرة من الرشيد ، وخلع فلم يلبث بمصر إلا قليلا حتى توفي .
وأما ابن الجارود فإنه اعتقل ببغداد ، وسار هرثمة إلى القيروان فقدمها في ربيع الأول سنة تسع وسبعين ومائة فأمن الناس وسكنهم وبنى القصر الكبير بالمنستير سنة ثمانين ومائة وبنى سور مدينة طرابلس مما يلي البحر .
وكان إبراهيم بن الأغلب بولاية الزاب فأكثر الهدية إلى هرثمة ولاطفه فولاه هرثمة ناحية من الزاب فحسن أثره فيها .
ثم إن عياض بن وهب الهواري وكليب بن جميع الكلبي جمعا جموعا وأرادا قتال هرثمة فسير إليهما يحيى بن موسى في جيش كثير ففرق جموعهما وقتل كثيرا من أصحابهما وعاد إلى القيروان .
ولما رأى هرثمة بأفريقية من الاختلاف واصل كتبه إلى الرشيد يستعفي فأمره بالقدوم عليه إلى العراق فسار عن أفريقية في رمضان سنة إحدى وثمانين ومائة فكانت ولايته سنتين ونصفاً .