ثم نشب القتال بين علي وبين خصومه : أثارت عليه عائشة بنت أبي بكر وزوج الرسول صلّى اللّه عليه وسلّم حرب الجمل ، بتحريض معاوية وبتأييد طلحة والزبير - وقد كانا يطلبان الخلافة - فانتصر علي عليهم في جمادي الآخرة من سنة 36 ه ( كانون الأول 656 م ) . ثم تصدّى معاوية لعليّ فنشبت بينهما المعارك في صفّين ( قرب الأنبار على الفرات من الجانب الشمالي الغربي من العراق ) . وكثر القتلى في جيش الإمام عليّ من غير أن تنجلي المعارك عن نصر حاسم لأحد الفريقين . ورفع جيش معاوية المصاحف على رؤوس الرماح يطلبون التحكيم إلى كتاب اللّه . وأدرك عليّ أن ذلك كان خدعة ، ولكن أتباعه الذين كانوا قد سئموا القتال أصروا على الاستجابة لدعوة التحكيم . وعيّن معاوية حكما من أتباعه هو عمرو بن العاص أحد دهاة العرب ، وأراد عليّ أن يجعل عبد اللّه بن عباس حكما في ذلك الخلاف . ولكن أتباع عليّ أرادوا رجلا ليّنا يشتري لهم الصلح مهما كان الثمن فأصروا على أبي موسى الأشعري . واتفق الحكمان على تأجيل التحكيم عاما ريثما تهدأ ثائرة القوم وينسى الناس قتلاهم . وفي رمضان من سنة 37 ه ( شباط 658 م ) اجتمع أبو موسى وعمرو بن العاص في اذرح في شرقي الشام ( سورية ) واتفقا فيما بينهما على أن يخلعا عليّا ومعاوية ويتركا الأمر للمسلمين يولّون على أنفسهم من شاءوا . وصعد أبو موسى منبرا واعلن خلع عليّ ومعاوية . ثم صعد عمرو وأعلن أنه يخلع عليّا كما خلعه أبو موسى ويثبت معاوية . وارتحل عمرو حالا بمن معه إلى دمشق فنصب معاوية نفسه في دمشق خليفة . فانقسم العالم الاسلامي بذلك بين خليفتين : الإمام عليّ في الشرق ( في شبه جزيرة العرب والعراق وفارس ) ومعاوية في الغرب ( الشام ومصر ) . وسئم قسم من أتباع علي هذا النزاع فخرجوا من صفوفه فأصبح اسمهم « الخوارج » . ثم إن نفرا من هؤلاء الخوارج هم البرك بن عبد اللّه التميمي وعمرو بن بكر التميمي وعبد الرحمن بن ملجم المرادي اتفقوا على أن يقتلوا معاوية وعمرو بن العاص وعليا ؛ فنجا معاوية وعمرو ، واستطاع عبد الرحمن ابن ملجم أن يقتل عليا في 17 رمضان من سنة 40 ه ( 24 - 12 - 661 م ) .