Avant d’être un appel à la lutte contre un ennemi extérieur à l’islam, le jihad – « combat sacré dans la voie de Dieu » – a d’abord été la principale arme conceptuelle utilisée par les docteurs de la loi contre le pouvoir califal à partir du 8e siècle. La question était alors de savoir qui pouvait prétendre parler au nom de la collectivité des croyants. Après leur accession au pouvoir en 750, les Abbassides considéraient qu’ils étaient les dépositaires exclusifs de la légitimité religieuse. À ce titre, il leur incombait de déclarer la guerre et de définir l’ennemi.
À la même période, des savants religieux construisirent la notion de « communauté des croyants » (oumma) pour exciper du droit de parler, eux aussi, au nom de la religion. Ces « oulémas » (docteurs de la loi) se mirent à compiler les paroles, actes et attitudes du Prophète (hadith) pour constituer une tradition (sunna) élevée par eux à la même dignité que le Coran. La loi religieuse (charî’a) était désormais composée d’une nouvelle couche de normes, tirée de l’exemplarité du Prophète, à laquelle s’ajoutera celle de ses compagnons et de leurs épigones.
La notion de jihad militaire souda cette conception de la communauté. Une partie des oulémas en vint à concevoir le « combat sacré dans la voie de Dieu » comme une attribution organique de la oumma. Selon eux, ce combat constituait un devoir communautaire et non une prérogative laissée à l’arbitraire du pouvoir politique. Les dirigeants politiques ne devaient pas entraver sa mise à exécution, car, face au jihad, princes et croyants étaient placés sur un pied d’égalité.