سمع أبا حامد الحضرمي وأبا القاسم البغوي وابن أبي داود وغيرهم.
روى عنه أبو بكر البرقاني الحافظ.
ذكره الخطيب في ((تاريخه)) وقال: ((سألت البرقاني عن أبي يعلى الطوسي فقال: كان ذا معرفة وفضل له تخريجات وجموع وهو ثقة)) .
أحد الأئمة المشهورين وأعيان الحفاظ المذكورين والمعتمد على قوله في التعديل والتجريح والمرجوع إليه في التسقيم والتصحيح.
كان جامعا لفنون من العلم شافعي المذهب عالما بالفقه واختلاف الفقهاء عارفا بالقراءات واختلاف القراء ويحفظ كثيرا من دواوين العرب.
وصنف كتبا مفيدة منها كتاب ((علل الأحاديث)) الذي لم يصنف مثله وكتاب ((السنن)) و ((المدبج)) و ((الأفراد)) وغير ذلك من الجموع والتواليف.
وشيوخه يتسع ذكرهم ويعز حصرهم وله رحلةٌ قدم فيها مصر وحدث بها وسمع من جماعة من شيوخها.
حدث عن أبي القاسم البغوي كثيرا وهو أعلى شيوخه إسنادا وأقدمهم مولدا.
روى عنه الحافظ أبو عبد الله الحاكم وأبو بكر البرقاني وأبو نعيم الأصبهاني وخلق سواهم.