اشتغل وهو صغير في طلب العلم وسماع الحديث فسمع من أهل بلده من مثل محمد بن سلام ومحمد بن يوسف البيكنديين وعبد الله بن محمد المسندي وابن الأشعث وغيرهم ثم حج هو وأمه وأخوه أحمد وهو أسن منه سنة عشر ومائتين فرجع أخوه بأمه وبقي في طلب العلم فسمع بمكة من الحميدي وغيره وبالمدينة من عبد العزيز الأويسي ومطرف ابن عبد الله وغيرهم ثم رحل إلى أكثر محدثي الأمصار في خراسان والشام ومصر ومدن العراق وقدم بغداد مرارا واجتمع إليه أهلها واعترفوا بفضله وشهدوا بتفرده في علمي الرواية والدراية وسمع ببلخ من مكي بن إبراهيم وغيره وبمرو من علي بن الحسن وعبد الله بن عثمان وغيرهما وبنيسابور من يحيى بن يحيى وغيره وبالري من إبراهيم بن موسى وغيره وببغداد من شريح بن النعمان وأحمد بن حنبل وغيرهما وبالبصرة من أبي عاصم النبيل ومحمد بن عبد الله الأنصاري وغيرهما وبالكوفة من طلق بن غنام وخلاد بن يحيى وغيرهما وبمصر من سعيد بن كثير بن عفير وغيره وسمع من أناس كثيرين غير هؤلاء ونقل عنه أنه قال: "كتبت عن ألف وثمانين نفسا ليس فيهم إلا صاحب حديث", وقال أيضا: "لم أكتب إلا عمن قال: الإيمان قول وعمل".
ذكاؤه وقوة حفظه: -
وكان رحمه الله قوي الذاكرة سريع الحفظ ذكر عنه المطلعون على حاله ما يتعجب منه الأذكياء ذوو الحفظ والإتقان فضلا عمن سواهم فقد قال أبو بكر الكلذواني: "ما رأيت مثل محمد بن إسماعيل كان يأخذ الكتاب من العلم فيطلع عليه اطلاعة فيحفظ عامة أطراف الحديث من مرة واحدة".