قال الخطيب: سمع العِلمَ بخراسان وغيرها من البلدان، وكتب الكثير، وصنف، وجمع، وذاكر العلماء، وكان معدوداً في حفاظ الحديث، حَدَّثَ ببغداد عن محمد بن إسحاق بن خزيمة، ومحمد بن إسحاق السراج، وعبد الله بن محمد بن شيرويه النيسابوريين، وعبد الله بن محمود المروزي، ومحمد بن الفضل السمرقندي، ومحمد بن محمد الباغندي، وأبي خليفة الفضل بن الحباب الجمحي وغيرهم.
وحدث عنه الدارقطني، وابن شاهين، ونحوهما.
سُئل أبو زرعة محمد بن يوسف عنه: فأومأ إلى أنه ضعيف أو كذاب، شك حمزة السهمي.
وقال أبو نعيم: أحمد بن محمد بن رُميح النسوي كان ضعيفاً.
قال الخطيب: والأمر عندنا بخلاف قول أبي زرعة وأبي نعيم، فإن ابن رميح كان ثقة ثبتاً لم يختلف شيوخنا الذين لقوه في ذلك، أنا البرقاني قال: قال لي أبو الفتح محمد بن أبي الفوارس: كان ابن رُميح ثقةً في الحديث.
وأنا الحسين بن محمد أخو الخلال عن الإدريسي قال: أحمد بن محمد بن رميح لم أُرزق السماع منه، ذكر لي أصحابنا حفظه وتيقظه ومعرفته بالحديث.
أنا أحمد بن علي المقرئ عن محمد بن عبد الله الحافظ النيسابوري، قال: أحمد بن محمد بن رميح النَّحَعي أبو سعيد الحافظ ثقةٌ مأمونٌ، توفي بالجحفة