وتبعنا أهل الشام فيجتمع علينا أهل خراسان وأهل الشام فقالوا لو دخلنا خراسان لكان من يتبعنا أكثر ممن يقاتلنا فسار معهم حتى بلغوا هراة فهرب من أصحابه عبيد الله بن عبد الرحمن بن سمرة القرشي في ألفين فقال عبد الرحمن إني كنت في مأمن وملجأ فجاءتني كتبكم أن أقبل فان أمرنا واحد فلعلنا نقاتل عدونا فأتيتكم فرأيتم أن أمضي إلى خراسان وزعمتم أنكم تجتمعون إلي وأنكم لا تتفرقون وهذا عبيد الله قد صنع ما رأيتم فاصنعوا ما بدا لكم أما أنا فمنصرف إلى صاحبي الذي أتيت من عنده .
فتفرق منهم طائفة وبقي معه طائفة وبقي أعظم العسكر مع عبد الرحمن بن العباس فبايعوه ومضى عبد الرحمن بن الأشعث إلى رتبيل وسار عبد الرحمن بن العباس إلى هراة فلقوا بها الرقاد الأزدي فقتلوه فسار إليهم يزيد بن المهلب .
وقيل إن عبد الرحمن بن الأشعث لما انهزم من مسكن أتى عبيد الله بن عبد الرحمن بن سمرة هراة وأتى عبد الرحمن بن العباس سجستان فاجتمع فل ابن الأشعث فسار إلى خراسان في عشرين ألفا فنزل هراة ولقوا الرقاد فقتلوه فأرسل إليه يزيد بن المهلب قد كان لك في البلاد ممتنع من هو أهون مني شوكة فارتحل إلى بلد ليس لي فيه سلطان فإني أكره قتالك وإن أردت مالا أرسلت إليك فأعاد الجواب أنا ما نزلنا لمحاربة ولا لمقام ولكنا أردنا أن نريح ثم نرحل عنك وليست بنا إلى المال حاجة .
وأقبل عبد الرحمن بن العباس على الجباية وبلغ ذلك يزيد فقال من أراد أن يريح نفسه ثم يرتحل لم يجب الخراج فسار يزيد نحوه وأعاد مراسلته أنك قد أرحت وسمنت وجبيت الخراج فلك ما جبيت فأخرج عني فإني أكره قتالك فأبى إلا القتال وكاتب جند يزيد يستميلهم ويدعوهم إلى نفسه فعلم يزيد فقال جل الأمر عن العتاب ثم تقدم إليه فقاتله فلم يكن بينهم