ولم يعترضهم فيما يفعلونه ثم دعاهم فقتل منهم اثني عشر رجلا فنفر أهل البلد وحملوا السلاح فأعطاهم الأمان وأمر فنودي من دخل الجامع فهو آمن فأتاه الناس يهرعون إليه فأقام يحيى الرجال على أبواب الجامع فقتلوا الناس قتلا ذريعا أسرفوا فيه فقيل أنه قتل فيه أحد عشر ألفا ممن له خاتم وممن ليس له خاتم خلقا كثيراً .
فلما كان الليل سمع يحيى صراخ النساء اللاتي قتل رجالهن فسال عن ذلك الصوت فأخبر به فقال إذا كان الغد فاقتلوا النساء والصبيان ففعلوا ذلك وقتل منهم ثلاثة أيام وكان في عسكره قائد معه أربعة آلاف زنجي فأخذوا النساء قهراً .
فلما فرغ يحي من قتل أهل الموصل ف اليوم الثالث ركب اليوم الرابع وبين يديه الحراب والسيوف المسلولة فاعترضته امرأة وأخذت بعنان دابته فأراد أصحابه قتلها فنهاهم عن ذلك فقالت له الست من بني هاشم الست ابن عم رسول الله صلّى الله عليه وسلّم أما تأنف للعربيات المسلمات أن ينكحن الزنج فأمسك عن جوابها وسير معها من يبلغها مأمنها وقد عمل كلامها فيه فلما كان الغد جمع الزنج للعطاء فاجتمعوا فأمر بهم فقتلوا عن آخرهم .
وقيل كان السبب في قتل أهل الموصل ما ظهر منهم من محبة بني أمية وكراهة بني العباس وان امرأة غسلت رأسها وألقت الخطمي من السطح فوق على راس بعض الخراسانية فظنها فعلت ذلك تعمدا فهج الدار وقتل أهلها فثار أهل البلد وقتلوه وثارت الفتنة .
وفيمن قتل معروف بن أبي معروف وكان زاهدا عابدا وقد أدرك كثيرا من الصحابة وروى عنهم .