Il est formé par Libéral Bruant. Il gagne l'estime du roi Louis XIV après avoir dessiné les plans du château de Clagny, destiné à la maîtresse favorite du roi, Madame de Montespan. Il devient architecte ordinaire en 1675 et entre à l'Académie royale d'architecture, premier architecte du Roi en 1681, intendant général des bâtiments du roi en 1685, inspecteur général des Bâtiments du Roi en 1691 et surintendant des Bâtiments du Roi en 1699. Il fut anobli par Louis XIV en 1682, mais il n'a pour tout titre que celui d'écuyer, car il n'a pas de terre titrée. Il devra attendre 1699 et l'acquisition du comté de Sagonne en Bourbonnais pour 130 000 livres pour faire valoir son titre de comte.
Jules Hardouin-Mansart épousa le 3 février 1668 Anne Bodin (1646-1738) dont il eut quatre enfants :
- Catherine (†1702), qui épousa en 1699 Vincent Maynon (1668-1736) ;
- Catherine Henriette (1673-1748), qui épousa en 1693 Claude Lebas de Montargis (1659-1731), marquis du Boucher-Valgrand, très riche trésorier de l'extraordinaire des Guerres ;
- Jacques I (1677-1762), qui épousa Madeleine Marie Bernard (1684-1716), fille du financier Samuel Bernard, puis se remaria en 1720 avec Guillemette dite Madeleine d'Hugueny, avec qui il avait eu cinq enfants doublement adultérins car elle était elle-même mariée ;
- Julie Andrée Anne (†1677).