L’église de Saint-Caprais, située dans le cimetière, est un joyau du patrimoine religieux. Donnée en 1058 à l’Abbaye Saint-Victor de Marseille, elle fut le centre d’une ancienne paroisse englobant les châteaux de Lapeyre, Montalègre et Versols. Les Bénédictins y fondèrent un monastère, qui fut rapidement abandonné. Au XVIIIe siècle, seule une ruine subsistait, comme l’indique la charte de Cassini.En 1880, les décombres de l’église romane furent dégagés, révélant un plan au sol. Le tympan sculpté est un élément remarquable : orné de feuilles d’acanthe dans une tresse à trois brins, il rappelle les chapiteaux de Conques, permettant sa datation au XIe siècle. Du cimetière, on aperçoit les vestiges de l’église Saint-Sauveur de Lapeyre, située sur un rocher fortifié, et dont deux arcades subsistent encore. Ces vestiges témoignent de la richesse architecturale et spirituelle de la région.