مفارقًا للجماعة التي خرج فيها، منصرفًا إلى المدينة، فسمع ابن جُرْمُوز ذلك، وهو عبد الله أو عُمير أو عمر أو عُميرة السَّعدي، فقال: أتى يؤرِّشُ بين الناس ثم تركهم، والله لا تركته، ثم اتبعه فلما لحق به ورأى الزبير أنه يريده، أقبل عليه فقال له ابن جرموز: أذكرك الله. فكف عنه الزبير حتى فعل ذلك مرارًا، فقال الزبير: قاتله الله يذكرنا الله ثم ينساه، ثم غافله ابن جرموز فقتله. وذلك يوم الخميس لعشر خلون من جمادى الأولى سنة ست وثلاثين. وفي ذلك اليوم كانت وقعة الجمل بمحل يقال له وادي السّباع بناحية البصرة ودفن ثَمَّة، ثم حُوَّل إلى البصرة وقبره بها مشهور يُزار ولما أتى قاتل الزبير عليًا برأس الزبير. استأذن عليه فلم يأذن له، وقال للآذن: بشر قاتل ابن صفية بالنار. ويقال: إن الذي استأذن له على علي ابن عباس فقال ابن جرموز:

أتيت عليًا برأس الزبير ... أرجو لديه به الزِّلْفَة

فبشر بالنار إذ جئته ... فبئس البشارة والتُّحفة

وسيانَ عندي قتل الزبير ... وضرطة عير بذى الجحفة

وروي عن الأحنف أنه قال: لما بلغ الزبير سفوان، موضعًا بالبصرة، كمكان القادسية من الكوفة، لقيه النَّعِر، رجلٌ من بني مُجاشِع، فقال: أين تذهب يا حواري رسول الله صلى الله عليه وسلم؟ إليّ فأنت في ذمتي لا يُوصل إليك. فأقبل معه وأتى إنسان الأحنف، فقال: هذا الزبير قد لقي بسفوان. فقال: ما شاء الله كان قد جمع بين المسلمين حتى ضرب بعضهم حواجب بعض بالسيوف، ثم يلحق ببنيه وأهله، فسمعه عُميرة بن جُرموز وفضالة بن جابس ونفيع، في غواة من غوات بني تميم، فركبوا في طلبه، فلحقوه مع النعر، فأتاه عُميرة بن جُرْمُوز من خلفه، وهو على فرس له ضعيفة، فطعنه طعنة خفيفة، وحمل عليه الزبير، وهو على فرسٍ له يقال له ذو الخمار، حتى إذا ظن أنه قاتله نادى صاحبيه: يا نفيع يا فضالة، فحملوا عليه حتى قتلوه. وهذا أصح من الأول. وكانت سنه يوم قتل سبعًا وستين سنة وقيل ستا وستين.