Il entra au service dans l'arme du génie en 1771, à l'âge de 18 ans ; il n'avait encore que le grade de capitaine au corps royal du génie en 1783, lorsqu'il écrivit l'éloge de Vauban qui fut couronné par l'Académie de Dijon. Il était entré très jeune dans l'arme du génie et passait pour un original parmi ses camarades. Il refusa des propositions de service dans l’armée prussienne.
Il était chevalier de Saint-Louis mais restait limité dans ses ambitions par la modestie de ses origines. Il se rallia à la Révolution française. Élu député du Pas-de-Calais en 1791 à l’Assemblée législative, puis en 1792 à la Convention, il sièga d'abord avec les députés de la Plaine avant de rejoindre les Montagnards. Membre du comité militaire, il fit décréter l'armement d'une nombreuse garde nationale et le licenciement de la garde du roi.
Il fait partie des députés qui votèrent la mort de Louis XVI.
Membre du Comité de salut public en juillet 1793, délégué aux Armées, il créa les quatorze armées de la République. Il s'occupa exclusivement des opérations militaires, eut la plus grande part aux succès des armes françaises, et fut surnommé l’Organisateur de la victoire. En 1793, envoyé comme inspecteur à l'armée du Nord, il destitua le général Gratien, accusé d'avoir reculé sur le champ de bataille, se mit lui-même à la tête des colonnes françaises, et contribua puissamment à la victoire de Wattignies, près de Maubeuge, gagnée par Jourdan, le 16 octobre 1793.
Modéré de cœur comme de raison, il prit position contre Robespierre et Saint-Just lors des 8 et 9 Thermidor (26 - 27 juillet 1794). En 1795, il fut l'un des directeurs du Directoire mais il se trouva bientôt en opposition avec Barras, fut proscrit et se retira en Allemagne.
Élu membre de l'Académie des sciences en 1796, il dut céder sa place à Napoléon l'année suivante et ne fut réélu qu'en 1800.
Rappelé par le Premier Consul après le 18 brumaire, il reçut le portefeuille de la Guerre qu'il conserva jusqu'à la conclusion de la paix, après les batailles de Marengo et de Hohenlinden. Élu au Tribunat en 1802, il vota contre le consulat à vie, puis contre la création de l'Empire. Il resta sans emploi jusqu'à la campagne de Russie : à cette époque, il offrit son épée à Napoléon Ier. La défense d'Anvers lui fut confiée : il s'y maintint longtemps, et ne consentit à remettre la place que sur l'ordre de Louis XVIII.
Il devint ministre de l'Intérieur pendant les Cent-Jours. Il accepta d'être fait Comte de l'Empire le 20 mars 1815. Après la deuxième abdication de Napoléon, il fit partie du gouvernement provisoire. Exilé à la Restauration, il fut banni comme régicide en 1816 et se retira à Varsovie, puis à Magdebourg, où il consacra le reste de ses jours à l'étude. Il y mourut en exil.
Ses cendres ainsi que celles de Marceau, de La Tour d'Auvergne et de Baudin, furent transférées au Panthéon le 4 août 1889 au cours d'une imposante cérémonie, pendant le septennat de son petit-fils Sadi Carnot.