وبمقتل عثمان تفتحت أبواب الفتنة على مصاريعها حيث أقبل الناس على على رضي الله عنه فبايعوه، واتخذ الكوفة عاصمة الخلافة، وأبي معاوية في الشام أن يؤمن لهذه البيعة.
وذهب فريق من الصحابة مغاضبين إلى البصرة، على رأسهم أم المؤمنين عائشنة بنت أبي بكر، وطلحة بن عبيد الله، والزبير بن العوام، ثم كانت موقعة الجمل، وتبعتها موقعة صفين، وقصة التحكيم فيها برفع المصاحف على الأسنة من قبل جيش معاوية، دعوة لعلي وأصحابه إلى كتاب الله يحتكمون إليه، وكانت الهدنة بين الفريقين، إلا أن عاقبتها كانت فرقة واختلافا.
فقد رضيت كثرة جيش على بالهدنة، وفرضت على على أن يقبل اختيار أبي موسى الأشعري حكما واختيار معاوية عمرو بن العاص، وأبت قلة من جيش على هذه الهدنة، وأعلنوا أن علينا وأصحابه الذين قبلوا الهدنة قد كفروا، لأنهم حالفوا عن أمر الله في قوله تعالى:
{وَإِنْ طَائِفَتَانِ مِنَ الْمُؤْمِنِينَ اقْتَتَلُوا فَأَصْلِحُوا بَيْنَهُمَا فَإِنْ بَغَتْ إِحْدَاهُمَا عَلَى الْأُخْرَى فَقَاتِلُوا الَّتِي تَبْغِي حَتَّى تَفِيءَ إِلَى أَمْرِ اللَّهِ فَإِنْ فَاءَتْ فَأَصْلِحُوا بَيْنَهُمَا بِالْعَدْلِ وَأَقْسِطُوا إِنَّ اللَّهَ يُحِبُّ الْمُقْسِطِينَ، إِنَّمَا الْمُؤْمِنُونَ إِخْوَةٌ فَأَصْلِحُوا بَيْنَ أَخَوَيْكُمْ وَاتَّقُوا اللَّهَ لَعَلَّكُمْ تُرْحَمُونَ} 1 ولما كان على قد عرض الصلح على معاوية وأصحابه فرفضوه، ثم كانت الحرب فقد كان من الواجب المضي فيها حتى يقضي الله أمره، ولكن عليا وأصحابه قبلوا التحكيم فيما رأي الخوارج، فحكموا الرجال في دين الله والله وحده أحكم الحاكمين، وما كان ينبغي أن يضع السيوف حتى يفيء معاوية وأهل الشام إلى أمر الله.
ثم عظم أمر الخوارج، فأئتمر نفر منهم بقتل ثلاثة زعموا أنهم ملأوا الأرض شرا وهم: على، ومعاوية، وعمرو بن العاص، ولم يبلغ أربه من هؤلاء الثلاثة إلا صاحب على: عبد الرحمن بن ملجم، قتلهه في المسجد غيلة.