Après que Mohammed eût prêché publiquement durant plus d’une décennie, l’opposition envers lui et ses fidèles atteignit une force telle que, craignant pour leur sécurité, il envoya un groupe d’entre eux en Éthiopie, où le dirigeant chrétien leur offrit sa protection (les musulmans apprécièrent tant ce geste qu’ils en caressent le souvenir aujourd’hui encore).  À la Mecque, pendant ce temps, la persécution atteignait un sommet.  Les fidèles de Mohammed étaient victimes de harcèlement, d’abus de toutes sortes et même de torture.  C’est alors que Mohammed envoya soixante-dix de ses fidèles à Yathrib (plus tard renommée Médine), une ville située au nord, dans l’espoir d’y établir une nouvelle communauté musulmane.  Plusieurs autres groupes de musulmans émigrèrent à la suite de ce premier groupe.  Puis, en l’an 622, Mohammed et son ami intime, Abou Bakr al-Siddiq, partirent à leur tour vers Yathrib.  Ce départ coïncidait avec un complot ourdi par les dirigeants de la Mecque pour assassiner Mohammed.

D’ailleurs, peu après le départ de Mohammed, ses ennemis firent irruption chez lui, où ils trouvèrent son cousin ‘Ali couché à sa place, dans son lit.  Enragés, ils partirent à sa poursuite, le cherchant partout.  Mohammed et Abou Bakr, de leur côté, avaient trouvé refuge dans une grotte, à l’abri de leurs poursuivants.  Protégés par Dieu, ils ne furent jamais découverts par leurs ennemis qui passèrent pourtant tout près de leur cachette.  Puis, le moment venu, ils quittèrent la grotte et partirent en direction de Médine où ils furent joyeusement accueillis par une foule enthousiaste composée de locaux et d’émigrants mecquois qui avaient atteint Médine avant eux.

Telle fut la hijrah (hégire, en français), qui marqua la première année de l’ère islamique.  La hijrah, parfois définie à tort comme une fuite, fut en réalité une migration minutieusement planifiée qui marqua non seulement le début de l’ère islamique, mais aussi, pour Mohammed et ses fidèles, le début d’un nouveau mode de vie.  Dès lors, ce qui allait unir les gens en communauté ne serait plus simplement le lien de parenté, mais une grande fraternité entre tous les musulmans.  Les gens qui émigrèrent à Médine avec Mohammed furent appelés les Mouhajirounes (i.e. « ceux ayant accompli la hijrah », ou « émigrants »), tandis que les natifs de Médine convertis à l’islam furent appelés les Ansars (i.e. « alliés » ou « auxiliaires »).

Mohammed connaissait bien la situation de Médine.   Avant la hijrah, certains de ses habitants étaient venus accomplir le pèlerinage annuel à la Mecque.  Et comme le Prophète avait saisi l’occasion du pèlerinage pour prêcher l’islam aux pèlerins, le groupe qui était venu de Médine avait répondu à son invitation et accepté l’islam, puis l’avait invité, lui, à venir s’installer à Médine.  Après la hijrah, les qualités exceptionnelles de Mohammed impressionnèrent tant les Médinois que les tribus rivales et leurs alliés serrèrent les rangs temporairement.  Puis, au mois de mars de l’an 624, Mohammed et ses fidèles durent se battre contre les païens de la Mecque.

La première bataille, qui eut lieu près de Badr, une petite ville située au sud-ouest de Médine, eut d’importantes conséquences pour tous.  L’armée musulmane, trois fois moins importante que l’armée mecquoise, parvint à mettre cette dernière en déroute.  La discipline dont firent montre les musulmans fit découvrir aux Mecquois toute l’adresse et la capacité de ceux qu’ils avaient chassés de leur cité.  Une des tribus alliées qui s’était engagée à soutenir les musulmans durant la bataille de Badr pour ensuite se désister dès le début de l’affrontement fut expulsée de Médine un mois après la bataille.  Ceux qui prétendaient être alliés des musulmans tout en s’opposant à eux en secret virent en cela un avertissement : l’appartenance à la communauté obligeait à un soutien inconditionnel.

Un an plus tard, les Mecquois attaquèrent de nouveau.  Ayant rassemblé une armée de trois milles hommes, ils affrontèrent les musulmans à Ouhoud, un mont situé à l’extérieur de Médine.  Prenant le dessus dès le départ, les musulmans furent par la suite repoussés et le Prophète lui-même fut blessé. 

Deux ans plus tard, les Mecquois marchèrent sur Médine avec une armée de dix milles hommes, mais l’issue de l’affrontement fut bien différente.  Au cours de ce qui est maintenant connu sous le nom de « la bataille des tranchées » ou « la bataille des confédérés », les musulmans vinrent à bout de leurs ennemis en utilisant un nouveau type de défense.  Du côté de Médine par lequel ils s’attendaient à voir arriver l’ennemi, ils creusèrent une tranchée impossible à franchir par la cavalerie mecquoise qui essuya, à chaque tentative, une pluie de flèches de la part d’archers dissimulés derrières des contreforts.  Après un siège interminable et infructueux, les Mecquois furent forcés de se retirer, suite à quoi Médine revint entièrement aux mains des musulmans.