ثم انصرف من بغداد فمات بالكوفة رحمه الله.
وسمعت أبا القاسم ابن بنت منيع ببغداد يقول: سمعت أبا عبد الله أحمد بن حنبل -رحمه الله- يقول: كان ابن أبي ذئب رجلاً صالحاً قوالاً بالحق، وكان يشبه بسعيد بن المسيب، وكان قليل الحديث.
قال أبو سليمان: ولد ابن أبي ذئب في المحرم من سنة إحدى وثمانين، ومات بالكوفة ودفن بها سنة تسع وخمسين ومائة.