Fin 1794, il constitue avec Royer, Desbois et Saurine le groupe des "Évêques réunis à Paris" qui se donne pour mission de régénérer l’Eglise de France gravement affaiblie par la campagne de déchristianisation et les démissions d’évêques et de prêtres. En 1795, il crée avec les évêques constitutionnels Saurine et Debertier, ainsi qu'avec des laïcs, la Société libre de philosophie chrétienne, qui a pour but de reprendre les études théologiques arrêtées à cause de la Révolution, de lutter contre la déchristianisation et contre la théophilanthropie et le culte de la Raison et de l'Être suprême. L'organe de cette société, les Annales de la religion, est un journal gallican et virulent, supprimé par Bonaparte à la suite du Concordat.
Il œuvre aussi à la réhabilitation de Port-Royal-des-Champs en publiant, en 1801 puis en 1809, Les Ruines de Port Royal des Champs, qui mettent en valeur les vertus des religieuses jansénistes et des Solitaires. Cet écrit contribue à la naissance du mythe de Port-Royal comme foyer intellectuel et comme foyer de résistance à l'absolutisme.
Sous le Directoire, il s'efforce de réorganiser l'Église constitutionnelle. Il organise avec les évêques constitutionnels deux conciles nationaux, en 1797 et 1801, pour tenter de mettre sur pied une véritable Église gallicane. Il publie en 1799 un Projet de réunion de l'Église russe à Église latine. En 1802, il est nommé sénateur et tente de s'opposer à la signature du Concordat. Fidèle à ses convictions républicaines, l'homme à la « tête de fer » (comme le définit l'historien Jules Michelet) fera toujours suivre son nom de la mention « évêque constitutionnel de Blois ».
En 1814 Grégoire fut nommé, parmi vingt-huit personnes « distinguées pour leur savoir », membre honoraire de l'université de Kazan, mais cette nomination fut annulée en 1821, le conseil de l'université ayant trouvé qu'il était « contraire non seulement à la justice mais à la simple décence d'avoir en son sein un homme qui s'était rendu coupable d'un crime odieux » (la mort de Louis XVI).
Lors des funérailles de l’abbé Grégoire, l'autorité romaine interdit l'église à sa dépouille. Mais rassemblées autour de La Fayette, deux mille personnes accompagnent le corps de l'évêque humaniste et gallican au cimetière Montparnasse.
Plus de 150 ans plus tard, le 12 décembre 1989, ses cendres sont transférées au Panthéon en même temps que celles de Monge et de Condorcet, à l'occasion de la célébration du bicentenaire de la Révolution française. La hiérarchie catholique, en la personne du cardinal Lustiger, refuse de s'associer à cet hommage.
Au Conservatoire national des arts et métiers, le plus prestigieux des amphithéâtres porte le nom d'Abbé-Grégoire.
À Blois, la grande bibliothèque municipale construite et inaugurée dans les années 1990 porte le nom de bibliothèque Abbé-Grégoire.