Le premier Fitna
La première guerre civile de l'islam, également connue sous le nom de First Fitna, a éclaté sous le règne du quatrième calife Ali et a duré pendant tout le califat. Le troisième calife Uthman ibn Affan avait été assassiné par des groupes musulmans rebelles qui avaient des motifs politiques. Après la prise de pouvoir d'Ali, le problème le plus important auquel il a dû faire face a été celui de la punition des responsables de ces meurtres. Cependant, beaucoup de gens pensaient qu'avant d'accepter le poste de calife, Ali aurait dû concentrer son attention sur la recherche et la punition des meurtriers. Un groupe de personnes dirigé par Aisha, la femme de Mohammed, ses beaux-frères Talhah et Zubair ibn al-Awam ont refusé de reconnaître le califat d'Ali. Ils ont plutôt levé une armée qui a rencontré l'armée d'Ali à Bassorah en Irak, à l'origine pour des négociations. Dans la nuit, des combats ont éclaté, probablement par confusion ou à cause des groupes rebelles qui étaient impliqués dans le tristement célèbre meurtre. Cela a conduit à la bataille de Bassorah (également connue sous le nom de bataille du chameau) dans laquelle le parti d'Ali est sorti victorieux. Aisha a été escortée à Médine avec honneur après la bataille par Ali.
Cette bataille n'a cependant pas entièrement mis fin à la tension dans l'empire musulman. Ali est bientôt défié par Muawiyah, le gouverneur des provinces musulmanes de Syrie. Il a lui aussi soulevé la question de la punition des assassins d'Othman et a refusé de reconnaître Ali comme calife tant que la question n'était pas résolue. Muawiyah était un parent d'Othman et son armée s'est engagée à traduire en justice les meurtriers et ceux qui les ont hébergés. Cette référence aux personnes qui abritent les meurtriers visait Ali et ses disciples. En conséquence, les deux groupes se sont rencontrés et ont mené une bataille, appelée la Bataille de Siffin. Cette bataille s'est terminée par un match nul et les deux groupes ont donc décidé d'un arbitrage qui n'a pas non plus abouti à une décision concrète. Un autre groupe de musulmans, les Kharijites, qui avaient déjà été avec Ali, l'ont entre-temps rejeté parce qu'ils estimaient qu'il ne suivait pas le véritable Islam et qu'il faisait des affaires sur le califat comme s'il lui appartenait.
Dans les années qui suivirent, les gouverneurs d'Ali ne purent empêcher la perte de ses provinces au profit de Muawiyah qui augmenta ses effectifs en développant encore son armée. Ali avait déplacé la capitale du califat de Médine à Koufa en 656. Il a été tué par un assassin kharijite à Koufa en 661.