وجعل يقول: أيها الوزير " تالله لَقَدْ آثركَ الله علينا وإنْ كنا لخَاطِئين " فقال أبو الصقر " لا تثريب عليكم اليوم " أبا العباس يغفر الله لكم! ثم رفع محله وولاه، وما قصر في الإحسان إليه والإبقاء عليه مدة وزارته.
كان من جلة الكتاب، ونشأ في خلافة المأمون، فدخل يوماً بعض الدواوين فنظر إليه وهو غلام جميل وعلى أذنه قلم، فقال: من أنت يا غلام؟ فقال: أنا يا أمير المؤمنين، الناشيء في دولتك، المتقلب في نعمتك، المؤمل لخدمتك الحسن بن رجاء، خادمك وعبدك! فقال المأمون: أحسنت يا غلام، وبالإحسان في البديهة تفاضلت العقول؛ وأمر أن يرفع عن مرتبة الديوان.
وحكى الصولي في كتاب الأخبار المنثورة، من تأليفه، قال: كان الحسن بن رجاء الكاتب يهوى جارية من القيان، وكان إسماعيل بن بلبل يهواها،