لما رجع علي إلى الكوفة ارتحل معاوية إلى علي بجيشه من الشام، فبعث إليه علي بن أبي طالب يبين له أن الإمرة له، وأنه لا يحق له أن يشق عصا الطاعة، فلم يستمع معاوية إلى هذه الرسالة، وزحف بجيشه وكانت الفتنة الثانية وهي: فتنة صفين.
وهذه الفتنة ضيع المؤرخون والمستشرقون التاريخ فيها، ولطخوه بدماء فاسدة وبكلام مزور، حتى إنهم ذكروا أن أبا موسى الأشعري يضحك عليه وكأنه طفل غر، وأن عمرو بن العاص رضي الله عنه وأرضاه ضحك عليه وغرر به حتى قال: خلعت علي بن أبي طالب، وقال عمرو بن العاص: أثبت معاوية، وهذا كله باطل مختلق، والصحيح في ذلك ما عليه أهل التحقيق أن أبا موسى الأشعري لما جلس معهم في الجلسة قال: أرى أن الأمر لا يخرج عن النفر الذين توفي رسول الله وهم عنهم راضٍ، ومن هؤلاء النفر سعد لكنه رحل وباع الدنيا وزخارفها وباع الخلافة، حتى إن ابنه يقول له: إنهم يتصارعون على الخلافة وأنت هنا في الصحراء، فقال: سمعت رسول الله صلى الله عليه وسلم يقول: (إن الله يحب العبد التقي الغني الخفي)، فاعتزل الناس.
وبالاتفاق أن علياً هو أولى الناس بها ممن تبقى من الستة أصحاب الشورى.
فقال أبو موسى: ولا شأن لك أنت ولا معاوية، وإن يستعن بكما ففيكما معونة، يعني: فأنتم أمراء، وأما الخلافة فلا تكون إلا في هؤلاء النفر، فهذا الذي عليه أهل التحقيق.
فلم يسمع لـ أبي موسى الأشعري، وحدثت مقتلة عظيمة بين الاثنين ولن نتكلم عنها، وإنما نقول: حسبنا الله ونعم الوكيل في الذي أثار الفتنة، ولا حول ولا قوة إلا بالله، وأسأل ربي العظيم أن يجعل المخطئ منهم مأجوراً غير مأزور، ويجعل أجر المصيب منهم فوق الذي أخطأ، ويغفر لهم زلتهم.
ولما حدثت المقتلة قام علي بمروءته فقال لـ معاوية: اخرج بارزني؛ يقتل أحدنا الآخر وتبقى الخلافة لواحد منا ولا نريق دماء المسلمين، فلم يستمع له وخاف من مبارزته، فخرج عمرو بن العاص فبارزه وكاد أن يقتله حتى أظهر سوءته فاستحيا علي منه فتركه، فهرب عمرو بن العاص رضي الله عنه وأرضاه، ثم رفعوا -أي: أصحاب الشام- المصاحف بعدما كانت الدائرة تدور عليهم، فرفعوا المصاحف على أسنة الرماح والسيوف، فتوقف جيش الكوفة، وكان علي صائب النظر فقال: لا تتوقفوا، فلم يستمعوا له وتألبوا عليه، فلما يرضوا بكلام علي بعد رفع المصاحف، ثم أتوا بـ أبي موسى الأشعري، وكان علي يقول: ابن عباس، وقال ابن كثير يقول: يا ليتهم رضوا بـ ابن عباس؛ لأنه كان ذا حجة يستطيع أن يقنع القوم، ولكن لم يرضوا إلا بـ أبي موسى الأشعري رضي الله عنه وأرضاه، وأبوا على علي أن يبعث عبد الله بن عباس.