Soucieux de simplifier les Éléments d'Euclide, Legendre écrivit l'un des plus grands succès de l'édition scolaire : ses Éléments de géométrie connurent 15 éditions de son vivant (la 1re édition date de 1794, la 11e de 1817). L'auteur emploie des énoncés brefs et concrets avec des définitions en nombre minimum. Les démonstrations abandonnent le langage des proportions : des relations algébriques apparaissent à l'intérieur des phrases. D'une manière générale, Legendre évite le recours à l'argument de continuité d'une ligne, ou d'existence nécessaire d'une limite. Cela l'amène à un recours très fréquent au raisonnement par l'absurde, qui est une des principales critiques que l'on peut faire à ce livre.
La dernière édition fut traduite très tôt en anglais et connut un succès identique aux États-Unis pendant tout le XIXe siècle. Crelle le traduisit en 1822 en allemand. En France, les éditions Didot, propriétaires des droits, diffusèrent ensuite des versions abrégées des Éléments dues à M. A. Blanchet (1854, 1862), puis Girard (1881). Les manuels ultérieurs (par exemple, Géométrie de Rouché et Comberousse) reprirent à peu de chose près l'ordre et la matière des Éléments de Legendre.
Dans ses travaux de géométrie, Legendre reste connu pour avoir tenté de démontrer en vain le cinquième postulat d'Euclide ; utilisant de fait des raisonnements par l'absurde, il ne franchit jamais le pas, à savoir que justement pouvaient exister des géométries où le cinquième postulat est faux, un résultat pressenti par Saccheri. Ce pas sera franchi quelques décennies plus tard par les concepteurs des géométries non-euclidiennes, dont Lobatchevski en 1837.
Legendre enseigna cinq années durant à l'École militaire, ce qui l'amena d'abord à étudier la trajectoire des projectiles ; étude d'où il tira ensuite ses méthodes pour l'étude des comètes (1805). C'est à l'occasion de ces calculs de mécanique céleste qu'il publia la méthode des moindres carrés (écrite à l'époque méthode des moindres quarrés). En mécanique, il est connu pour la transformation de Legendre, qui est utilisée pour passer de la formulation de la mécanique de Lagrange à Hamilton.
En 1825, il finalisa la preuve du dernier théorème de Fermat pour l'exposant n = 5 (voir démonstrations du dernier théorème de Fermat), à la suite des travaux de Dirichlet.
En arithmétique modulaire, il apporta des éléments de preuve à la loi de réciprocité quadratique, conjecturée par Euler et prouvée ultérieurement par Gauss. Il fit aussi un travail de pionnier sur la distribution des nombres premiers, et sur l'application de l'analyse dans la théorie des nombres. Sa conjecture de 1798 à propos du théorème des nombres premiers fut rigoureusement prouvée par Hadamard et de la Vallée Poussin en 1896.
Legendre fit une quantité de travaux impressionnante sur les fonctions elliptiques, incluant la classification des intégrales elliptiques, mais il revient à Abel d'avoir le trait de génie d'étudier les inverses des fonctions de Jacobi et d'ainsi résoudre complètement le problème.