ومن دقة علي بن المديني رحمه الله وجمعه للعلم أيضاً: أنه كان يُعنى بجمع الحديث بالطرق المختلفة عن الشيخ الواحد يبحث عن طريق هذا الشيخ، من هنا ومن هنا ومن هنا، يبحث عن كثرة الطرق، فقال: كتبتُ عبد الوارث، عن عبد الصمد وأنا أشتهي أن أكتبها عن أبي معمر.
أي: قال: أنا أريد أن أجمع حديث عبد الوارث - عبد الوارث بن سعيد التنوري التميمي من مشاهير الرواة- قال علي بن المديني: أنا سمعت أحاديث عبد الوارث من ابنه عبد الصمد، لكني أشتهي أن أسمع أحاديث عبد الوارث من غير ابنه، من طريق أبي معمر عن عبد الوارث، مع أن علي بن المديني لقي عبد الوارث مباشرةً وسمع منه، فهو سمع منه مباشرة، وسمع منه بواسطة ابنه عبد الصمد، وسمع منه بواسطة تلميذه أبي معمر، وأبو معمر كان راوية عبد الوارث، وأتقن لحديثه من ابنه.
فالآن هذا علي بن المديني يجمع حديث عبد الوارث من طريق ابنه عبد الصمد، ومن طريق أبي معمر، وقد سمع منه مباشرة، ويجمع حديث الأعمش من هذا ومن هذا، ومن طريق عبد الرحمن بن مهدي، ومن طريق أبي معاوية، ومن طريق كذا، لماذا؟ حتى تُدْرَك العلل؛ لأنه إذا اتفقت الطرق عن الشيخ بنفس اللفظة، عرفت أن هذا ثابتٌ عنه، وإذا اضطربَتْ، ولاحظتَ الموازنة، ولاحظتَ الفروق، ولذلك ما كانوا يسمعون الحديث من طريق واحد، بل كانوا يسمعونه من طرق عديدة.
ولذلك يقول يحيى بن سعيد القطان لـ علي بن المديني: ويحك يا علي! إني أراك تَتَتَبَّع الحديث تتبعاً لا أحسبك تموت حتى تُبْتَلى.
وكان له مراسلات بينه وبين علماء عصره كـ أحمد رحمه الله، قال عندما أراد أن يسمع من الواقدي، وكان قاضي بغداد، كان علي بن المديني متروياً في ذلك، ولذلك كتب إلى أحمد يستشيره: هل أسمع من الواقدي أم لا؟ فكتب إليه أحمد يقول: كيف تستحل أن تكتب من رجل روى عن معمر حديث نبهان، وهذا حديث يونس تفرد به، ومعروف أن الواقدي متروك، مع سعة علمه بالمغازي والتاريخ والمرويات، لكنه متروك.
والمراسلات بين العلماء سنة ماضية ومتبعة، يستفيد بعضهم من بعض.