من أهل باب البصرة، كان خطيبا بجامع المنصور مدّة ثم تولى الخطابة بجامع القصر، وكان من أهل الديانة مديما للصيام، قرأ القرآن على أبي الخطاب أحمد بن علي بن عبد الله الصوفي، وسمع أباه وأبا القاسم عبد الله بن الحسن الخلال وأبا الحسين أحمد بن محمد بن النقور وأبا القاسم على بن أحمد بن البسري.
مولده في العشر الأول من ذي الحجة سنة تسع وأربعين وأربعمائة، وتوفي في يوم الجمعة العشرين من جمادى الأولى سنة سبع وثلاثين وخمسمائة، ودفن يوم السبت في باب حرب على أبي الوفا بن القواس.
من أهل بلخ، سافر أبو الحياة في طلب العلم وجال في خراسان وما وراء النهر؛ سمع ببلخ أباه وأبا حفص عمر بن علي المحمودي وأبا بكر محمد بن محمد الخلمي وأبا الشجاع عمر بن أبي الحسن بن عبد الله البسطامي؛ وبخوارزم محمود بن محمد بن عباس بن أرسلان وأبا حامد محمد بن إبراهيم بن أبي زكريا الفارابي، وبمصر أَبُو مُحَمَّدٍ عَبْدُ اللَّهِ بْنُ رِفَاعَةَ بْنِ غدير، وبالإسكندرية أبا طاهر السلفي وأقام عنده زمانا، وروى السلفي عنه، وكان يعظمه ويبجله ويعجب بكلامه؛ ثم قدم بغداد مرات، ثم استوطنها إلى حين وفاته.
وكان يعقد مجلس الوعظ بالنظامية، وكان فاضلا عالما مليح الوعظ، حسن الإيراد، حلو الاستشهاد، رشيق المعاني، لطيف الألفاظ، فصيح اللهجة؛ له يد باسطة في تنميق الكلام وتزويقه، وكان يرمي بأشياء منها شرب الخمر وشرى الجواري المغنيات وسماع الملاهي المحرمة، وأخرج عن بغداد مرارا لأجل ذلك.
سمعت عبد العظيم بن عبد القوي المنذري الحافظ بالقاهرة يقول: سمعت شيخنا