فأخرجوا الحسن بن سهل أخا ذي الرئاستين، وكان خليفة المأمون على العراق وبايعوا المنصور بن المهدي فلم يتم له أمر، وكان مضعفا فبايعوا أخاه إبراهيم ابن المهدي بالخلافة لخمس خلون من المحرم سنة 202 ودعي له على المنابر بمدينة السلام وغيرها فوجه الجيوش لمحاربة الحسن بن سهل وهو بناحية المدائن فكانت الحروب بينهم سجالا وسار المأمون عن مرو يريد بغداد ومعه على بن موسى الرضا وزيره القائم بدولته الفضل بن سهل ذو الرئاستين، وقتل الفضل بن سهل غيلة في حمام بسرخس يوم الاثنين لخمس خلون من شعبان من هذه السنة، فقتل الرضا في طوس في أول صفر سنة 203 ولما قرب المأمون من بغداد اضطرب على إبراهيم من كان يعتمد على نصرته، وقعد عنه أكثر من بايعه من الهاشميين وغيرهم فاستتر لإحدى عشرة ليلة خلت من ذي الحجة من هذه السنة، وقال معاتبا للعباسيين

فلا جزيت بنو العباس خيرا ... على رغمى ولا اغتبطت بري

أتونى مهطعين وقد أتاهم ... بوار الدهر بالخبر الجلي

وقد ذهل الحواضن عن بنيها ... وصد الثدي عن فم الصبى

وحل عصائب الاملاك منها ... فشدت في رقاب بنى على

فضجت أن تشد على رءوس ... تطالبها بميراث النبي

وكانت أيامه منذ بويع الى ان استتر سنة واحدى عشر شهرا وأياما، ودخل المأمون مدينة السلام يوم السبت لثمان عشرة ليلة خلت من صفر سنة 204 وأمر بإعادة لبس السواد وتخريق الخضرة بعد ثمانية أيام من قدومه ولم يزل إبراهيم مستقرا منتقلا بمدينة السلام الى أن ظفر به في استتاره ليلة الأحد لثلاث عشرة ليلة بقيت من شهر ربيع الآخر سنة 210 فعفا عنه المأمون واعتقل مديدة ثم