كان في أيام الرشيد على ديوان الخراج، ثم كتب للمعتصم قبل خلافته، وتولى أخذ البيعة له عند وفاة المأمون، والمعتصم إذ ذاك غاز معه، وكان الفضل في ذلك الوقت خليفةً على بغداد للمأمون، فأعطى الجند رزق أربعة أشهر، ثم ورد المعتصم يوم السبت مستهل رمضان سنة ثمان عشرة ومائتين، فاستوزره يوم وروده، ورد الأمر كله إليه، فغلب عليه لتربيته إياه.
ولما ظهر بين إبراهيم بن المهدي والفضل بن مروان من العداوة ما ظهر، قصده العباس وعلي ابنا المأمون، وعبد الوهاب بن علي، وأعلموه أنهم قد علموا على ذكر مساوئ الفضل للمعتصم، وسألوه معاونتهم والشهادة بتصديقهم، فلم يستوف كلامهم ولا أجابهم، حتى جاءهم رسول المعتصم فطلبهم، فساروا إليه، فابتدأ العباس بكل قبيح، وتكلم عبد الوهاب وعلي بأقبح وأشنع منه، وأقبل علي بن المأمون على إبراهيم، فقال له: مالك يا عم لا تتكلم، وما أحد ركبه الفضل بأكثر مما ركبك به؟ فقال له إبراهيم: ليس كل ما ركبني به الفضل يعرف، وإن أياديه السود عندي لكثيرة، إلا أن مجالس الملوك لا يغضب فيها لغيرها.. ثم أقبل على المعتصم فقال له: يا أمير المؤمنين قد رفعت الفضل إلى مرتبة لم ترفع الخلفاء