وسواء أعلن الحكمان ما توصلا إليه وأظهراه للناس على الصورة التي حكتها بعض الروايات أم لم يفعلا ذلك، فإن عدم اتفاقهما على من يقوم بأمر المسلمين جعل ما دار بينهما لا سبيل لهما به على أحد من الجانبين، ولا سبيل به لأحد على أحد، وحتى لو قيل اتفق الحكمان على خلع علي ومعاوية، وردّ الأمر إلى شورى المسلمين [69] ، فإن الحكمين لا يكونان قد أوفيا ما أوكل إليهما تماما من حل الخلاف، ويكونان فتحا بابا آخر للخلاف أوسع، وسوف لا يكون الحكمان مقتنعين أنهما توصلا إلى حل الخلاف، ويكون وصف نتائج المؤتمر بعدم الاتفاق أقرب ما يكون إلى حقيقة عمل الحكمين ومباحثاتهما في مؤتمر التحكيم.
وقد بنى الشاميون، كما قال الذهبي [70] ، على خلع عليّ جواز استخلاف معاوية.
وفي حين زال الحرج من نفوس أهل الشام، وقووا بمبايعة معاوية، أدى فشل التحكيم في إزالة الخلاف وجمع الكلمة إلى استفزاز الذين كانوا اعترضوا على عليّ من قبل وعادوا إلى الخروج ثانية وتجمعوا في منطقة النهروان بقيادة عبد الله بن وهب الراسبي عام 38 هـ وأخذوا يعتدون، فخرج إليهم عليّ فاعذرهم ونصب راية أمان مع أبي أيوب الأنصاري، وناداهم أبو أيوب، من جاء هذه الراية ممن لم يقتل ولم يستعرض فهو آمن، ومن انصرف إلى الكوفة أو إلى المدِائن وخرج عن هذه الجماعة فهو آمن، فتركهم بهذا السبب كثير ممن كان معهم، ومن ظلَّ تعبأّ للقتال، فقتل منهم ألفان وثمانمائة، ثم لم يلبث من كان انفصل عن أهل النهروان منهم ممن كان استأمن إلى أبي أيوب أو رجع منهم إلى الكوفة وغيرها من المدن أن تجمعوا ثانية بالنخيلة، فخرج إليهم علي فدعاهم ورفق بهم غير مرة، فلم يستجيبوا، فقاتلهم وقتلهم جميعا [71] .