Le site de Chamalières était initialement occupé par un oratoire marial, popularisé par Godescalc, évêque du Puy-en-Velay. Il possède une prestigieuse relique, un clou de la croix offert par Charlemagne. Dans la première moitié du Xe siècle, Dalmace de Beaumont, abbé du Monastier, fait de cet oratoire un prieuré de son abbaye. Le succès est accru quand le prieuré reçoit les reliques de saint Gilles d'Arles. La noblesse locale fait de nombreux dons au prieuré, dont le nombre de moines reste cependant modeste. L'importance croissante du Puy conduit à une subordination du prieuré à l'évêque (XIIIe siècle).
Les dates de la construction de l'église ne sont pas connues. On peut supposer qu'elle date de la fin du XIIe siècle. Des restaurations de la nef et du clocher ont été réalisées au début du XXe siècle par l'architecte Nodet, avec une grande fidélité au passé.