لما قدم ابن المديني الكوفة من عند جرير بن عبد الحميد، جعل يُعْنَى في الكوفة بحديث الأعمش -أي حديث فيه الأعمش يطلبه ابن المديني ويكتبه- فتتبع الحديث من أصحاب الأعمش وعلى رأسهم أبو معاوية محمد بن خازن السعدي، وقدم البصرة ولقي عبد الرحمن بن مهدي رحمه الله، ويحيى بن سعيد القطان قرينان تعاصرا وعاشا معاً، وكانا من كبار العلماء، وتخرج علي بن المديني على أيديهم.
أخبر علي بن المديني عبد الرحمن بن مهدي، أنه يحرص على حديث الأعمش وأنه قد جمعه وكتبه، وأنه لا يزال يبحث في حديث الأعمش.
فقال عبد الرحمن بن مهدي لـ علي بن المديني: اكتب ما ليس عندك.
قال: فأملى عليَّ ثلاثين حديثاً من أحاديث الأعمش لم أسمع شيئاً منها، قال علي: فجعلت أتعجب من فمهمه -من أي شيء تعجب علي؟ كيف علم أنه لا يعرف الأحاديث الثلاثين؟! - قال: فجعلت أتعجب من فهمه بما ليس عندي -لأنه مجرد أن لقي علي بن المديني عبد الرحمن بن مهدي، قال: أنا حريص على جمع حديث الأعمش، وجمعت منه، قال: اكتب، اكتب، اكتب، اكتب، هذه ثلاثون حديثاً ما عندك منها شيء.
قال علي: فجعلت أتعجب من فهمه بما ليس عندي.
هؤلاء عباقرة، عبد الرحمن بن مهدي يعرف إلى من ذهب علي بن المديني، ذهب إلى البلد الفلانية، إذاً: لقي فلاناً وفلاناً وفلاناًَ، وعبد الرحمن بن مهدي كان قد طاف الأرض قبله، فيعرف أن الأحاديث التي سيقولها -الآن- ليست من الأحاديث التي أخذها من البلد، هو أتى بها من بعيد من قبل، فكل واحد كان يفهم ماذا عند الآخر من هؤلاء الكبار.
وقال إبراهيم بن منذر: قدمت البصرة، فجاءني علي بن المديني، فقال: أول شيء أطلب: أَخْرِجْ إليَّ حديثَ الوليد بن مسلم.
فقلت: يا سبحان الله! وأين سماعي من سماعك؟ إبراهيم بن منذر تواضعاً منه يقول: تريدني أن أحدثك بحديث الوليد بن مسلم وأنت يا علي بن المديني أخذت من الوليد بن مسلم وسمعته، لقيته في الحج وجلستَ عنده ورحلتَ إلى الشام، وتريدني أن أحدثك بحديث الوليد بن مسلم، وأين سماعي من سماعك؟ أنت أتقن وأجود وأضبط، فجعل يأبى ويلح.
فقلت له: أخبرني بإلحاحك ما هو؟ قال: أخبرك! الوليد رجل الشام -أي: عالم أهل الشام - وعنده علم كثير، ولم أستمكن منه -ما استطعت أن أحصر روايات الوليد بن مسلم - وقد حدثكم بـ المدينة -في المواسم، وأنت يا إبراهيم بن منذر مدني، لابد أن الوليد عندما جاءكم حدثكم بأحاديث، أنا تبعت الوليد بن مسلم إلى منى، وتبعته في الشام، لكن الرجل موسوعة، وعنده روايات كثيرة جداً، ولكني لم أحصل على روايات ابن مسلم كلها، فأنا أرى أن أسمع منك -قال: وقد حدثكم بـ المدينة فتقع عندكم الفوائد؛ لأن الحجاج يجتمعون بـ المدينة من آفاقٍ شتى- قال: فأخرجت إليه، فتعجب من فوائده، وكاد أن يكتب على الوجه -أي: على الإسناد، عن إبراهيم بن منذر عن الوليد بن مسلم.