قد أخذ أبو الخطاب العلم من عدد من فقهاء بغداد ومحدثيها الذين عاصرهم والتقى بهم والذين كَانَ لهم الأثر البالغ فِي تكوينه العلمي، وفيما يأتي ذكر ترجمة لعدد من شيوخه حسب ما ذكرتهم كتب التراجم مرتبين حسب الوفيات وهم على النحو الآتي:
أولاً: القاضي أبو يعلى: محمد بن الحسين بن محمد بن خلف بن أحمد البغدادي الحنبلي ابن الفراء (?) صاحب التعليقة الكبرى والتصانيف المفيدة في المذهب.
ولد في أول السنة (380 هـ)، وكان عالم العراق في زمانه تفقه على يديه عدد كبير من العلماء منهم أبو الخطاب الكلوذاني، له مصنفات كثيرة منها: (أحكام القرآن، ومسائل الإيمان، والمعتمد، ومختصره، والمقتبس، وعيون المسائل، والرد على الكرامية، والرد على السالمية والمجسمة، والرد على الجهمية، والكلام في الإستواء، والعدة في أصول الفقه، مختصرها، وفضائل أحمد، وكتاب الطب).
توفي سنة (458 هـ).
ثانياً: أبو طالب العشاري: محمد بن علي بن الفتح الحربي (?).
ولد سنة (366 هـ)، لقب بالعشاري لأن جسده كان طويلاً وكان فقيهاً حنبلياً تخرج على أبي حامد وكان من الزهاد وله كرامات كثيرة.
توفي سنة (451 هـ)، ودفن في مقبرة الإمام أحمد.
ثالثاً: أبو عبد الله: الحسين بن محمد الونّي الفرضي الحاسب (?).
كان إماماً في الفرائض وله فيها تصانيف كثيرة حسنة. سمع الحديث من أصحاب أبي علي الصفار وغيرهم، وانتفع به وبكتبه خلق كثير.
توفي شهيداً في بغداد سنة (451 هـ) في فتنة الباسري.