Études à l'École impériale des beaux-arts de Paris (atelier Laisné). Attaché à la Commission des monuments historiques dès 1871, dont il devient membre en 1887 en remplacement de Victor Ruprich-Robert, et dont il démissionna en 1892, lorsque les membres de la Commission ne purent plus cumuler leur fonction avec celle d'architecte en chef des monuments historiques.
Nommé architecte diocésain d'Auch en 1879, à la place de Laisné, puis de Meaux, Poitiers et Laval. Inspecteur général-adjoint en 1901. Il fut architecte en chef du service des édifices et promenades et jardins de la ville de Paris et architecte en chef à Arles (pendant près de vingt ans).
Rapporteur au Comité des inspecteurs généraux à partir de 1876 (il était considéré comme le meilleur rapporteur). Atteint par la limite d'âge le 29 janvier 1916, il est élu à l'institut en 1920. Prix Duc en 1876, médaille d'or aux salons de 1875 et 1876 et à l'exposition universelle de 1878.
Une rue de Paris (XV° arrondissement) a été baptisée de son nom en 1932, ainsi qu'à Orange et une place à Fréjus.
L'ancienne abbaye de Conques, à partir de 1878, fut l'une de ses premières restaurations. À Poitiers, il restaure également la façade de l'église Notre-Dame-la Grande, l'église Sainte-Radegonde (en remontant de la crypte, on découvre, au-dessus du porche, la tribune édifiée en 1895 qui supporte l’orgue actuel), le palais de Justice et l'église Saint-Hilaire le Grand. Il procéda au dégagement des ruines antiques découvertes à Sanxay (Vienne) et dirigea des travaux à l'Abbaye de Saint-Savin-sur-Gartempe, Chauvigny, Poissy. À Paris, il restaure la tour Saint-Jacques.
Cependant, son activité principale s'exerça surtout dans les départements du midi de la France. ll y dirigea plusieurs chantiers de fouilles et, après Charles Questel et Henri Antoine Révoil, consolida et restaura les monuments gallo-romains notamment à Orange et à Arles.
Jules Formigé, son fils, allait poursuivre ces travaux de consolidation et de restauration.