Très tôt, les persécutions vont apparaître, et cela durant quatre siècles. A l’origine, cela est dû à une mauvaise perception de cette nouvelle religion. Elles apparaissent surtout en période de crise de l’empire et les chrétiens servent alors de « Boucs émissaires ». Elle sera tout d’abord acceptée par l’empire romain qui ne la différencie pas de la religion juive, puis ils vont s’en méfier et finalement la considérer comme un danger.

En effet, les Chrétiens n’acceptent pas le culte à l’empereur (c’est un problème de conscience, cf. la première épître de St Pierre), ils commettent « le crime d’athéisme » (ils n’honorent pas les dieux). A cette époque, de moins en moins de romains rendent le culte à l’empereur et souvent, ils ne croient plus aux dieux. Rome en étant consciente tente de trouver des coupables et veut se prouver qu’elle croit toujours à ses valeurs traditionnelles. Pour cela elle se trouve des coupables : les chrétiens. Ils refusent de participer à la vie de l’empire, méprisant la violence des jeux du cirque, refusant de combattre dans les campagnes militaires. Ainsi St Martin de Tour ne voudra pas monter au combat, refusant sa prime (il s'agit de la prime que les militaires recevaient pour les stimuler avant le combat) de l’empereur Constance en personne.

Les persécutions dans la vie courante.

Outre des persécutions généralisées à tout l’empire, les chrétiens subissent des persécutions beaucoup moins violentes mais de manière beaucoup plus fréquentes : l’entourage même des chrétiens, les juifs, les plébéiens, les voisins et les anciens amis des chrétiens les rejettent et les excluent de la vie sociale. Ils ne sont plus acceptés dans les bains. Par la force des choses, les juifs seront les premiers à persécuter les chrétiens en lapidant le premier martyr, St Etienne (le protomartyr). L'entourage immédiat est donc le premier ennemi des chrétiens qui les persécute et les dénonce à l'empire : Trajan disait en 112 : « Il ne faut pas rechercher les Chrétiens : mais s’ils sont dénoncés et convaincus, qu'on les châtie. Pourtant si quelqu’un nie être chrétien, et le prouve en suppliant nos dieux, qu’il obtienne son pardon. » Ceci est la réponse de Trajan à la lettre de Pline le Jeune qui lui demandait quelle attitude adopter envers les Chrétiens.

Si ces persécutions ne sont pas constantes, les chrétiens y sont relativement préparés, ils savent en s’engageant à quels dangers ils s’exposent. Néanmoins, lors de l’une des dernières qui sera la plus violente, celle de Dioclétien, les chrétiens avaient connu une grande période de paix auparavant et ne s’étaient pas préparés à cette persécution. C’est pourquoi elle fut celle où on a pu constater le plus de reniement de la foi chrétienne et où s’est posé le problème des relapses (faut-il « réintégrer » dans la communauté chrétienne une personne ayant renié sa foi).

Toutes ces persécutions n’empêchent pas les chrétiens de se multiplier :

« Le sang des martyrs est une semence de chrétiens » Tertullien