يقول الإمام أحمد رحمه الله: "ما رأيت بعيني مثل يحيى بن سعيد، وعبد الرحمن بن مهدي إماماً".
وقال: عبد الرحمن ثقة، خيار، صالح، مسلم، من معادن الصدق.
وقال جرير الرازي: "ما رأيت مثل عبد الرحمن بن مهدي، ووصف عنه بصراً بالحديث وحفظاً".
وقال علي بن المديني: "كان عبد الرحمن بن مهدي أعلم الناس"، قالها مراراً.
وقال مرةً: "أعلم الناس بالحديث ابن مهدي "، والذي يشهد له: علي بن المديني، وهو من كبار العلماء والنقاد.
وقال أيضاً: "لو حلفت بين الركن والمقام أني لم أر أعلم من ابن مهدي، لصدقتُ".
وقال أيضاً: "كان يحيى بن سعيد أعلم بالرجال، وكان عبد الرحمن أعلم بالحديث، وما شبَّهتُ علم عبد الرحمن بالحديث إلا بالسحر".
وقال أيضاً: كان علم عبد الرحمن في الحديث كالسحر.
وقال الشافعي: "لا أعرف له نظيراً في هذا الشأن".
وقيل لـ أبي نعيم: "أيُّما أحب إليك: عبد الرحمن بن مهدي عن مالك؟ أم روح بن عبادة عن مالك؟ فقال: عبد الرحمن إمام وهو أحب إلي من كل أحد".
فقيل له: إن عبد الرحمن عَرَض على مالك، وروح بن عبادة سمعه لفظاً.
وهذه المسألة تعود إلى طرق الرواية: - أعلى طريقة للرواية طريقة السماع: أن يسمع الطالب من فم الشيخ، فيحفظه، أو يكتبه، ويقول: سمعت، وحدثنا، وحدثني، هذه أعلى مرتبة وهي مرتبة السماع.
- المرتبة الثانية: العَرْض: أن الشيخ يُعْرَض عليه الحديث من قبل أحد الطلبة، ويُقرأ عليه والشيخ يقر، فيقول الطالب: أخبرنا، ولا يقول سمعتُ، لأن الشيخ ما تكلم، الذي قرأ -الآن- هو الطالب والشيخ يُقِر، فالطالب يقول: أخبركم فلان، أو حدثكم فلان، ويذكر أحاديث الشيخ، والشيخ يسمع ويُقِر، هذه الطريقة اسمها: طريقة العرض، أدنى من مرتبة السماع عند كثير من المحدِّثين.
فلما سئل أبو نعيم: حديث عبد الرحمن بن مهدي، عن مالك عندك أحسن، أو روح بن عبادة عن مالك؟ فقال: عبد الرحمن إمام، وهو أحب إلي من كل أحد.
فقيل له: إن عبد الرحمن عَرَض على مالك، أي: عبد الرحمن أخذ حديث مالك بطريقة العَرْض، وروح بن عبادة سمعه لفظاً بطريقة السماع، والسماع أعلى من العرض.
فقال أبو نعيم: عَرْض عبد الرحمن أجل وأحب إلينا من سماع غيره، مع أن السماع مرتبة أعلى من العَرْض.
وقال محمد بن أبي بكر المقدمي: "ما رأيت أتقن لما سَمِعَ ولما لم يَسْمَع لحديث الناس من عبد الرحمن بن مهدي، إمام ثبتٌ، أثبتُ الناس في يحيى بن سعيد، وأتقن من وكيع، كان قد عَرَضَ حديثه على سفيان ".
وقال ابن حبان: "كان في الحفَّاظ المتقنين، وأهل الورع في الدين، ممن حفظ وجمع وتفقَّه وصنَّف وحدَّث".
وقال يزيد بن هارون: "وقعت بين أسدين: عبد الرحمن بن مهدي، ويحيى القطان " كأنه يقول: لا أستطيع أن أفضل أحدهما على الآخر، وأنهما متقاربان ومتساويان وقرينان، ولا أرجح أحداً على الآخر.
وقال الخطيب البغدادي عن عبد الرحمن بن مهدي: "كان من الربانيين في العلم، وأحد المذكورين بالحفظ، وممن برع في معرفة الأثر، وطُرق الروايات، وأحوال الشيوخ".
وقال الذهبي فيه: "الحافظ الكبير، والإمام العَلَم الشهير".
وقال أبو نعيم في الحلية: "الإمام الرضي، والزمام القوي، ناقد الآثار، وحافظ الأخبار".
وقال ابن ناصر الدين: عبد الرحمن بن مهدي أبو سعيد الحافظ المشهور، والإمام المنشور، كان فقيهاً مفتياً، عظيم الشأن، وهو فيما ذكره أحمد: أفقه من يحيى القطان، وأثبت من وكيع في الأبواب".
ولا شك أن مما ساعده على تبوء هذه المكانة أن شيخه سفيان الثوري، فحديثه عن سفيان نفعه جداً، لأنه لازم سفياناً، ولازم مالكاً كذلك.