سمع ابن المديني العلم عن أبيه في بلده، وحماد بن زيد، ولازم الشيوخ الكبار في البصرة كـ يحيى بن سعيد القطان، وعبد الرحمن بن مهدي، وكان: يحيى بن سعيد القطان وعبد الرحمن بن مهدي، وحماد بن زيد رءوس الناس في البصرة في ذلك الوقت، وكان عبد الرحمن بن مهدي رحمه الله من أجل العلماء، ولعلنا نتحدث في درس مستقل عن سيرة عبد الرحمن بن مهدي العالم الجليل.
ورحل علي بن المديني رحمه الله إلى الكوفة، وسمع فيها، وكتب عن أبي نعيم الفضل بن دكين، ووكيع بن الجراح، ويحيى بن زكريا بن أبي زائدة، ويحيى بن آدم، وغيرهم.
ورحل إلى بغداد أيضاً، وكانت حاضرة العلم ومقصد العلماء، وكتب فيها عن عدد من أهل العلم، مثل: أبي عبيد القاسم بن سلام، وهو إمام جليل، وسيرته سيرة مهمة، وكذلك: إسماعيل بن إبراهيم بن علية، والحكم بن موسى وطبقته.
وقال عثمان بن سعيد الدارمي: قدم علي بن المديني بغداد، فحدثه الحكم بن موسى بحديث أبي قتادة: (إن أسوأ الناس سرقةً الذي يسرق في صلاته) فقال له علي: لو غيرك حدث به، كنا نصنع به -أي: لولا أنك ثقة، لو غيرك حدث بهذا المتن المستغرَب، لكنا صنعنا به أشياء، لكن أنت الحكم بن موسى ثقة، لا نستطيع أن نقول فيك شيئاً- ولأن الحديث هذا تفرد به الحكم ولم لم يروه غيره.
وكذلك فإن علي بن المديني رحمه الله قد أخذ العلم عن مشايخ واسط لما قدم إليها، ومنهم: هشيم بن بشير الواسطي، وحسين بن نمير الواسطي، وقال عن نفسه: أتيت علي بن عاصم بـ واسط، فنظرت في أثلاث كثيرة -جمع ثلث وهو: الجزء، الأجزاء الحديثية- فأخرجت منها قدر مائتي طرف.
طرف الحديث: هو الجزء من المتن الدال على بقيته، هذا هو الطرف، عندما نقول: أطراف الحديث، أي: أول المتن، فمثلاً إذا قلنا: حديث: (كلكم راعٍ) هاتان الكلمتان: هذا طرف، طرف الحديث، (كلكم راعٍ) هذا الطرف تستدل به على الطرف الآخر، إذا قال لك أحد: اسرد علينا حديث: (كلكم راعٍ) فإن هذه معروفة، فبقية المتن معروفة، فهذا الطرف هو الجزء من المتن الدال على بقية المتن، وهناك كتب رتبت الأحاديث على الأطراف، مثل: كتاب المزي رحمه الله: تحفة الأشراف بمعرفة الأطراف.
ثم رحل رحمه الله تعالى كذلك إلى مكة، وكتب عن سفيان بن عيينة، وجرير بن عبد الحميد، والوليد بن مسلم.
وكذلك فإنه رحل إلى مكة مرةً بصحبة أحمد بن حنبل، ويحيى بن معين، ومرةً عزم على الرحلة إلى مكة، فتمنى أحمد بن حنبل أن يصحبه، لكنه ترك الصحبة، خشية أن يحدث ملل بينهما في السفر، فحفاظاً على جو الأخوة لم يصحبة في هذه السفرة، ولكن في سفرة أخرى يبدو أنهما قد صحب بعضهما بعضاً ومعهما يحيى بن معين.
وأيضاً ذهب رحمنه الله تعالى إلى المدينة، وسمع فيها من خلق كثير، وقال علي بن المديني: سمعت معن بن عيسى يقول: مخرمة سمع من أبيه.
وعرض عليه ربيعة أشياء من رأي سليمان بن يسار، قال علي: ولا أظن مخرمة سمع من أبيه كتاب سليمان، لعله سمع الشيء اليسير، ولم أجد بـ المدينة من يخبرني عن مخرمة بن بكير أنه كان يقول في شيء عن حديثه: سمعت أبي، فذهب إلى المدينة ليتحرى من قضية سماع مخرمة بن بكير من أبيه، وفعلاً هذا الذي تبين له، ما رأى أحداً من الرواة في المدينة يقول: مخرمة بن بكير عن أبيه أبداً.
ورحل إلى اليمن، وأخذ فيها عن شيخ اليمن: عبد الرزاق بن همام الصنعاني، وهشام بن يوسف الصنعاني، وهذه الرحلة كانت قبل المائتين للهجرة؛ لأن شيخه يحيى بن سعيد القطان كان موجوداً وقت هذه الرحلة، ويحيى بن سعيد القطان هو الذي كان يزور أم علي بن المديني، ويطمئنها ويسليها، ويحثها على الصبر على فراق ولدها، ويبين لها فضل الرحلة في طلب العلم، وكانت أم علي بن المديني ترتاح غاية الراحة لكلام يحيى بن سعيد القطان وهو يصبرها على فراق ولدها الذي ذهب في طلب العلم.
وهكذا أهل العلم وطلبة العلم يسد بعضهم ثغرة بعض، ويساعد بعضهم بعضاً.
وربما رحل الواحد وأوصى الآخر على أهله، يتفقدهم، ويأتيهم بما يحتاجون إليه، هذه أخلاقهم هكذا ينبغي أن تكون الأخلاق، إذا رحل الواحد، قام الثاني على أهله وهكذا يتناوبون.
ورحم الله من خلف طالب علم في أهله.
رحلوا ولم تكن الطرق معبدة ولا سيارات ولا طائرات.
بل كانت المركب هي: الجمال.
بل ربما ذهب بعضهم مشياً على الأقدام.
وبعضهم قد افترسته الذئاب.
وبعضهم خرج عليهم قطاع الطرق، فقتلوهم.
وبعضهم وقع في أسر العدو.
وبعضهم خرج عليهم لصوص فأخذوا ما معهم من متاع وسلبوهم أموالهم.
وبعضهم مات من الجوع في الرحلة في طلب الحديث.
وبعضهم اضطر لأن يشرب بوله.
وبعضهم أكل أوراق الشجر.
وبعضهم أكل من سلحفاة، مشى على شاطئ البحر يلتمس شيئاً، فما وجد إلا سلحفاة، فأخرج غطاءها وأكله، فسألوه عن مذاقه، فقال: مثل صفار البيض.
وعانوا من برد الليل وقيظ النهار.
كل ذلك في سبيل جمع حديث النبي صلى الله عليه وسلم.
وانقطعت ببعضهم النفقة في السفر، وربما تعطل في بلد ينتظر فرج ربه، كما حصل لأربعة من أهل الحديث، ومنهم: الإمام ابن خزيمة رحمه الله تعالى، لما انقطعت بهم النفقة في السفر حتى أنهم ما صار عندهم شيء يوارون به عوراتهم، حتى لجئوا إلى الله سبحانه وتعالى بالدعاء، حتى أن بعضهم في النهاية اتفقوا على أن يخرج واحد منهم لسؤال الناس، يبحث عن حل، حتى أن السهم خرج على ابن خزيمة رحمه الله، فقام يصلي ويدعو ربه ويناشده، حتى جاء إنسان وطرق الباب، وأخبر أنه غلام السلطان، وقال: إن الأمير -أمير البلد- رأى في الليل في منامه أن النبي صلى الله عليه وسلم يقول له: إن أربعة من المحمدين من العلماء نزلوا ببلدك فقراء وأنت لا تدري عنهم، وطبعاً منهم: الإمام ابن خزيمة رحمه الله، وأرسل إليهم بالنفقة، فكان من كرامة الله تعالى لهم، فكفى الله ابن خزيمة السؤال، وكفاهم الفقر وقطْع النفقة، فأرسل إليهم بأموال، فخرجوا من البلد معززين مكرمين بعد أن صبروا على مرارة الفقر.
ورحل علي بن المديني رحمه الله كذلك إلى الري -وهي من أهم المراكز العلمية في بلاد المشرق- وكتب فيها عن جرير بن عبد الحميد الرازي.
وكذلك رحل إلى همذان، وكتب فيها عن أصرم بن حوشب قاضي همذان، وقال: كتبت عنه بـ همذان وضربت على حديثه.
بعدما كتب وجمع حديث هذا الرجل، شطب على الأحاديث كلها؛ لأنه اتضح له بعد ذلك ما يوجب ترك حديث هذا الرجل؛ لأنه غير ثقة.