قال الحاكم في تاريخه: ورد نيسابور على محمد بن يحيى الذهلي، فاستفاد وأفاد، وكتب عنه مشايخنا في ذلك العصر، ولا أعرف إماماً من أئمة عصره في الآفاق إلا وله عليه انتخاب يُستفاد1.
وقد أورد الحافظ ابن عساكر2عدداً من شيوخه الذين سمع منهم، وذكر البلدان التي سمع فيها منهم، فمن هذه البلدان: بيروت، ودمشق، وحمص، ومصر، وحَرَّان، والمِصَّيصة، والكوفة، وبغداد، ومكة.
توثيقه، وثناء العلماء عليه:
أجمع كل من ترجم له على إمامته وتوثيقه وحفظه3.
قال الدارقطني: ثقة مأمون جبل.
وقال أبو الشيخ الأصبهاني: من حفاظ الحديث وكبرائهم.
وقال الخطيب: كان ثقة فاضلاً فَهماً حافظاً.
قال الذهبي: الإمام الحافظ الحجة… جمع وصنف، وبرع في علم الأثر.
وبنحو ذلك وصفه غير واحد من الأئمة، مما يطول استقصاؤه.