ولما دخل المهدي العباسي المسجد النبوي عام حجَّ قال له المسيب بن زهير: قم هذا أمير المؤمنين, فقال ابن أبي ذئب، إنما يقوم الناس لرب العالمين, فقال المهدي: اتركه, فلقد قامت كل شعرة في رأسي. ولما سأل المنصور مالكًا عمَّن بقي من المشيخة قال له: ابن أبي ذئب وابن أبي سلمة1، وابن أبي سبرة2.

وكان بينه وبين مالك ألفة أكيدة، توفي سنة 159 تسع وخمسين ومائة عن ثمان وسبعين3.