أدرك علي رضي الله عنه خطورة الموقف، وما يمكن أن يجرَّ إليه الخلاف من تمزيق الدولة الإسلامية، فعزم على إعادة المعارضين إلى الطاعة، واستنفر أهل المدينة للخروج معه فاجتمع معه حوالي سبعمائة رجل (?)، وتثاقل عنه عدد من كبار الصحابة منهم سعد بن أبي وقاص وعبد الله بن عمر وأبو مسعود الأنصاري ومحمد بن مسلمة الأنصاري وعبد الله بن سلام وأسامة بن زيد وأهبان بن صيفيّ .. إذ رأوا أنها أحداث فتنة ينبغي عدم الخوض فيها. وقد اختص النبي صلى الله عليه وسلم بعضهم بالتحذير من المشاركة في الفتن الداخلية، فاعتذروا لعلي بذلك.
وقد حاول عبد الله بن سلام أن يثني علياً عن عزمه على الخروج من المدينة إلى العراق "لا تأتِ العراق، وعليك بمنبر رسول الله صلى الله عليه وسلم فالزمه .. فوالله لئن تركته لا تراه أبداً". فقال رجال من حول علي: دعنا فلنقتله. فأجابهم: إن عبد الله بن سلام منا رجل صالح (?).
وقد خرج علي من المدينة متجهاً إلى العراق، وقد عسكر في الربذة (?) حيث أضيف إلى جنده مائتا رجل (?)، فبلغوا تسعمائة رجل.
وقد حاول الحسن بن علي ثني أبيه عن الذهاب إلى العراق وهو يبكي لما أصاب المسلمين من الفرقة والاختلاف، لكن علياً رفض ذلك، وأصر على إعادة المعارضين له إلى الطاعة محتجاً ببيعتهم له بالمدينة (?).