فطلب منه ، فقال له : متى عهدتني خائنا فقال له ولكنك سيد قومك ولك عمالة واسعة فقال لقد ألهمت الصدق فأعطاه مائة ألف درهم وجمع الديات فأوصلها .
ثم تنسك بعد وصلح ومضى حاجا فتعلق بأستار الكعبة وجعل ينادي اللهم اغفر لي وما أظنك تفعل فسمعه محمد بن الحنفية فقال يا شيخ قنوطك شر من ذنبك .
وقيل إن سبب عوده كان أن الجحاف أكرمه ملك الروم وقربه وعرض عليه النصرانية ويعطيه ما شاء فقال ما أتيتك رغبة عن الإسلام ولقي الروم تلك السنة عساكر المسلمين صائفة فانهزم المسلمون وأخبروا عبد الملك أنهم هزمهم الجحاف فأرسل إليه عبد الملك يؤمنه فسار وقصد البشر وبه حي من بشر وقد لبس أكفانه وقال قد جئت إليكم أعطي القود من نفسي وأراد شبابهم قتله فنهاهم شيوخهم فغفر عنه وحج فسمعه عبد الله بن عمر وهو يطوف ويقول اللهم اغفر لي وما أظنك تفعل فقال ابن عمر لو كنت الجحاف ما زدت على هذا . قال فأنا الجحاف .