فلم يزل في السجن بقية أيام السفاح و أيام المنصور و أيام المهدي و أيام الهادي و بعض أيام الرشيد و أخرجه الرشيد و هو شيخ ضرير فسأله عن خبره فقال يا أمير المؤمنين حبست غلاما بصيرا و أخرجت شيخا ضريرا فقيل إنه هلك في أيام الرشيد و قيل عاش إلى أن أدرك خلافة الأمين .

شهدمع مروان في إحدى الروايتين إبراهيم بن الوليد بن عبد الملك المخلوع الذي خطب له بالخلافة بعد أخيه يزيد بن الوليد بن عبد الملك فقتل فيمن قتل و في الرواية الثانية أن إبراهيم قتله مروان الحمار قبل ذلك .

لما انهزم مروان مضى نحو الموصل فمنعه أهلها من الدخول فأتى حران و كانت داره و مقامه و كان أهل حران حين أزيل لعن 1أمير المؤمنين عن المنابر في أيام الجمع امتنعوا من إزالته و قالوا لا صلاة إلا بلعن 1أبي تراب فاتبعه عبد الله بن علي بجنوده فلما شارفه خرج مروان عن حران هاربا بين يديه و عبر الفرات و نزل عبد الله بن علي على حران فهدم قصر مروان بها و كان قد أنفق على بنائه عشرة آلاف ألف درهم و احتوى على خزائن مروان و أمواله فسار مروان بأهله و عترته من بني أمية و خواصه حتى نزل بنهر أبي فطرس و سار عبد الله بن علي حتى نزل دمشق فحاصرها و عليها من قبل مروان الوليد بن معاوية بن عبد الملك بن مروان في خمسين ألف مقاتل فألقى الله تعالى بينهم العصبية في فضل نزار على اليمن و فضل اليمن على نزار فقتل الوليد و قيل بل قتل في حرب عبد الله بن علي و ملك عبد الله دمشق فأتى يزيد بن معاوية بن عبد الملك بن مروان و عبد الجبار بن يزيد بن عبد الملك بن مروان فحملهما مأسورين إلى أبي العباس السفاح فقتلهما و صلبهما بالحيرة و قتل عبد الله بن علي بدمشق خلقا كثيرا من أصحاب مروان و موالي بني أمية و أتباعهم و نزل عبد الله على نهر