Avant le X siècle, une autre église s'élevait sur cet emplacement, et elle abritait depuis 868 les reliques de Saint Vorles.
L'église actuellement en place fut principalement construite sous l'impulsion de Brun de Roucy, qui fut évêque de Langres de 980 à 1016. Elle était alors dans l'enceinte du castrum. Édifiée dans un pur style roman, sa façade extérieure est ornée de bandes caractéristiques de l'art lombard. Le clocher qui se situe à la croisée du transept a été reconstruit au XII siècle. Le choeur est entouré de deux petites chapelles, la chapelle Sainte Thérèse et la chapelle du Carmel, qui datent du XIV siècle et du XV siècle.
L'église fut l'objet d'importants travaux dans le premier quart du XVII siècle. Elle vit notamment la construction de la chapelle Saint-Bernard et de la chapelle du Rosaire.
Durant le XX siècle, elle fut trois fois rénovée, entre 1927 et 1934, puis entre 1959 et 1974, et enfin dans les années 90. Plusieurs manifestations, agrémentées de fêtes à la mode moyennageuse, ont eu lieu à l'occasion du millénaire de Saint Vorles.