Après une première formation dans un atelier d'architecture privé, il entre dans l'atelier de Charles-Auguste Questel à l'École nationale supérieure des beaux-arts puis dans celui de Jean-Louis Pascal son successeur à partir de 1872. Il commence rapidement à travailler dans des ateliers d'architectes en parallèle, notamment dans celui de Charles Garnier, qui le soutiendra au début de sa carrière. Cela ne l'empêche pas de remporter le grand Prix de Rome en 1877 pour le sujet : "un athénée pour une grande capitale". Il réside à la Villa Médicis du 28 janvier 1878 au 31 décembre 1881.
Il entame alors une carrière d'architecte officielle, architecte en chef des bâtiments civils et des palais nationaux, répondant à de nombreuses commandes prestigieuses. Il est nommé architecte de la Sorbonne qui reste sa grande œuvre. Théobald Chartran l'a d'ailleurs représenté dans sa grande fresque de l'histoire des sciences dans le grand escalier de la Sorbonne. Nénot réalise aussi d'autres bâtiments universitaires à Paris. Il a réalisé par ailleurs un certain nombre de bâtiments privés, administratifs ou résidentiels.
En 1885, il est classé premier du concours pour l'édification du monument à Victor-Emmanuel II à Rome mais, comme il est non italien, il est éliminé et c'est finalement le projet de Giuseppe Sacconi qui est choisi.
Il est enfin choisi pour réaliser le Palais de la Société des Nations à Genève, et est nommé directeur général des travaux et président du comité des architectes. Mais il décède dans un accident avant la fin du chantier.
Il est élu en 1895 à l’Académie des beaux-arts, au 5 fauteuil de la section architecture.
