نشأته وبدؤه طلب العلم: توفي والده وهو صغير، فنشأ في حجر أمه، وأقبل على طلب العلم منذ الصغر، وقد تحدث عن نفسه فيما ذكره الفربري عن محمد بن أبى حاتم وراق البخاري قال: سمعت البخاري يقول: ألهمت حفظ الحديث وأنا في الكتاب، قلت: وكم أتى عليك إذ ذاك؟ قال: عشر سنين أو أقل، إلى أن قال: فلما طعنت في ست عشرة سنة حفظت كتب ابن المبارك ووكيع، وعرفت كلام هؤلاء، يعنى أصحاب الرأي، قال ثم خرجت مع أمي وأخي إلى الحج- فلما طعنت في ثمان عشرة سنة صنفت كتاب قضايا الصحابة والتابعين، ثم صنفت التاريخ بالمدينة عند قبر النبي صلى الله عليه وسلم وكنت أكتبه في الليالي المقمرة، قال: وقل اسم في التاريخ إلا وله عندي قصة، إلا إني كرهت أن يطول الكتاب.
رحلته في طلب العلم وسماعه الحديث: اشتغل وهو صغير في طلب العلم وسماع الحديث فسمع من أهل بلده من مثل محمد بن سلام ومحمد بن يوسف البيكنديين وعبد الله بن محمد المسندي وغيرهم، ثم حج هو وأمه وأخوه أحمد وهو أسن منه سنة عشر ومائتين، فرجع أخوه بأمه وبقى في طلب العلم، فسمع بمكة من الحميدي وغيره، وبالمدينة من عبد العزيز الأويسي وغيره، ثم رحل إلي أكثر محدثي الأمصار في خراسان والشام ومصر ومدن العراق وقدم بغداد مراراً واجتمع إليه أهلها واعترفوا بفضله وشهدوا بتفرده في علمي الرواية والدراية، وسمع ببلخ من مكي بن إبراهيم وغيره، وبمرو من على بن الحسن وعبد الله بن عثمان وغير هما، وبنيسابور من يحي بن يحي وغيره، وبالري من إبراهيم بن موسى وغيره، وببغداد من سريج بن النعمان وأحمد بن حنبل وغير هما، وبالبصرة من أبى عاصم النبيل ومحمد بن عبد الله الأنصاري وغير هما، وبالكوفة من طلق بن غنام وخلاد بن يحي وغير هما، وبمصر من سعيد بن كثير بن عفير وغيره، وسمع من أناس كثيرين غير هؤلاء، ونقل عنه أنه قال كتبت عن ألف وثمانين نفسا ليس فيهم إلا صاحب حديث. وقال أيضا لم أكتب إلا عمن قال الإيمان قول وعمل.