وجاءه كتابُ أبي مسلم يحثُّه على قتله، فكتب أبو العباس إلى أبي جعفر يأمره بقتله، فقال: لا أفعل وله في عنقي عهدٌ وأَيمان، فلا أضيِّعها يقول أبي مسلم، فكتب: ما أقتلُه يقول أبي مسلم، بل بنَكْثِه وغَدْره ودسيسه إلى آل أبي طالب، وقد أُبيح لنا دمُه، فلم يُجبه أبو جعفر وقال: هذا فَسَادُ الملك، فكتب إليه أبو العباس: لستَ منّي ولستُ منك إنْ لم تقتلْه، فقال أبو جعفر للحسن بن قَحْطَبَة: اقتله أنتَ. فامتنع، فقال خازم بن خُزيمة: أنا أقتلُه. فدخل عليه في جماعة من قُوَّاد خُراسان وهو في القصر وعنده ابنُهُ داود، وكاتبُه عُمر بن أيوب، وعدَّةٌ من مواليه، وعليه قميص مصريّ، ومُلاءة مورَّدة، وعنده الحجَّام وهو يريد أن يحجمه، فلما رآهم سجد، فقتلُوه وقتلُوا ابنَه وكاتبَه ومَنْ كان معه، وحملُوا رأسَه إلى أبي جعفر -وكان مَعْنُ بنُ زائدة غائبًا عند السَّفَّاح فَسَلِم- ويعث أبو جعفر برأسه إلى السَّفَّاح (?).
وكان ليزيد ثلاثة أولاد: داود، قُتل معه، والمُثنَّى؛ وكان واليًا لأبيه على اليمامة، فقتلَه أبو حمَّاد المروزيّ، ومَخْلَد؛ له عقب (?).
ولما قُتل قال بعض الخُراسانيين لبعض أصحابه: ما كانَ أكبرَ رأسِ صاحبِكم! فقال له: أمانكم كان أعظم (?)!
ولما قُتل هدم أبو جعفر قصر واسط (?).
ورثاه أبو عطاء السِّنْدِيّ، فقال:
ألا إنَّ عينًا لم تَجُدْ يومَ وَاسِطٍ ... عليك بجاري دمعِها لَجَمُودُ
عَشِيَّةَ قامَ النائحاتُ وشُقِّقَتْ ... جُيوبٌ بأيدي مَأتمٍ وخُدُودُ
فإن تُمْسِ مَهْجُورَ الفِناءِ فربَّما ... أقامَ به بعدَ الوُفودِ وُفُودُ
فإنَّك لم تَبْعَدْ على مُتَعَهِّدٍ ... بلى كلُّ مَن تحتَ التُّرابِ بعيدُ (?)