توفى يوم الجمعة التاسع عشر من صفر سنة ثلاث وتسعين وخمسمائة، ودفن بمقبرة التل بالقطيعة من باب الأزج في قبة هناك- أمرت ببنائها أم الخليفة الإمام الناصر لدين الله رحمة الله عليها- وقد جاوز السبعين من عمره.
سكن المدرسة النظامية ببغداد. ودرس بها المذهب والأصول والخلاف والجدل وعلم الكلام حتى برع في ذلك وصار من الأئمة الكبار، وكان يتأله ويتعبد، ويسلك طريق الزهد والرياضة والمجاهدة والخلوة ودوام الصيام والصلاة، وكان زاهدا في المناصب والتقدم مع اشتهار اسمه وعلمه وعلو مكانته عند الناس محبا للخمول متواضعا في ملبسه وهيئته، ثم أنه مضى إلى مكة وحج وأقام بها مجاورا على أحسن طريقة وأجمل سيرة إلى أن توفى بها في صفر سنة سبع وعشرين وستمائة، وأظنه جاوز الستين- رحمه الله
ذكره أبو القاسم يحيى بن على بن الطحان الحضرمي في تاريخ الغرباء القادمين من جمعه، قال سمعنا منه عن البغوي وغيره.
حدث عن أَبِي بَكْر مُحَمَّد بْن القاسم بن بشار الأنباري وأبى الحسن على بن سليمان الأخفش، روى عنه أبو جعفر الجرجاني المعروف بمحك.
كتب إلي عَبْد الرَّحْمَن بْن مكي الأَنْصَارِيّ أن أَبَا عَبْدِ اللَّهِ مُحَمَّدُ بْنُ أَحْمَدَ بْنِ إِبْرَاهِيمَ الرازي أخبره عن أَبِي الْحَسَن علي بْن عُبَيْد اللَّه بْن محمد الكسائي أنشدنا أبو جعفر الجرجاني أنشدنا عمر بن منصور البغدادي أنشدنا الأخفش للعطوى:
لا تبك أثر مول عنك منحرف ... تحت السماء وفوق الأرض أبدال
الناس أكثر ممن لا ترى خلفا ... ممن زوى وجهه عن وجهك المال
ما أقبح الود يدنيه ويبعده ... بين الخليلين إكثار وإقلال