En géométrie différentielle une famille de courbes planes possède fréquemment une courbe enveloppe. Celle-ci admet deux définitions géométriques traditionnnelles, presque équivalentes :
De façon plus précise, l'enveloppe possède une définition analytique, c'est l'ensemble des points critiques de l'application de projection associée à la famille de courbes.
Les enveloppes rendent compte de certains phénomènes très communs, tels que les caustiques. Elles sont utiles en analyse pour décrire les solutions singulières des équations différentielles ou aux dérivées partielles, comme enveloppes de solutions régulières.
On définit de même l'enveloppe d'une famille de surfaces dans l'espace, ou plus généralement d'une famille d'hypersurfaces ou même de variétés en dimension quelconque.
On considère une famille de courbes Γλ, indexée par un paramètre λ. Pour chaque valeur de λ, l'équation de la courbe est supposée de la forme fλ(x,y)=0. On suppose enfin que la famille dépend du paramètre de façon différentiable, c'est-à-dire que
est une application différentiable.
On cherche les conditions sur une courbe pour qu'au point de paramètre λ elle soit tangente à la courbe définie par fλ. Une telle courbe est solution du système d'équations
On appelle enveloppe de la famille de courbes Γλ la courbe vérifiant ce système d'équations. L'existence de l'enveloppe n'est pas toujours assurée. Ainsi une famille de droites parallèles ou une famille de cercles concentriques ne possèdent pas d'enveloppe. Mais si elle existe, la courbe enveloppe est « en général » tangente à toutes les courbes de la famille (le système d'équations est seulement une condition nécessaire pour cela ; la question est reprise en détails plus bas).
La famille de courbes peut aussi être donnée en représentation paramétrique, avec des équations , les fonctions en jeu étant différentiables. Dans ce cas, l'enveloppe s'obtient en résolvant l'équation
Un calcul d'enveloppe facile à réaliser matériellement consiste à relier par des ficelles des pointes formant une figure simple. Ainsi, on peut construire deux rangées de pointes formant des intervalles réguliers, et relier successivement les pointes de l'une et l'autre rangée. L'enveloppe est la courbe « dessinée » par l'entrelacs de ficelles.
Pour simplifier, quitte à effectuer un changement de repère, on peut supposer que les pointes sont disposées le long des deux axes de coordonnées. On représente par k le décalage entre les deux séries de points qu'on relie. De ce fait
La résolution donne λ = (x − y) / 2 puis l'équation qui est celle d'une parabole. Le changement de repère effectué initialement ne modifie pas la réponse : on obtient une parabole, ou plutôt un arc de parabole puisque la figure est limitée.
Le même mode de construction dans l'espace à trois dimensions permet d'obtenir des surfaces réglées.
Parmi les exemples les plus classiques de calculs d'enveloppes on peut citer les résultats suivants : si Γ est un arc plan birégulier
Les équations définissant l'enveloppe peuvent être interprétées d'une autre façon. On prend pour référence la courbe Γλ, et on observe les courbes Γμ pour les valeurs de μ assez proches de λ. On peut étudier les points d'intersection de ces deux courbes, et passer à la limite lorsque μ tend vers λ. Les points limites obtenus sont appelés des points caractéristiques et se situent sur l'enveloppe de la famille de courbes. Ce sont les « points d'intersection de Γλ avec une courbe infiniment proche ».
Certains auteurs définissent la courbe enveloppe comme l'ensemble de ces points d'intersection, d'autres comme une courbe tangente à toutes les courbes de la famille. Ces deux points de vue sont équivalents à la définition par équations, sauf en un certain nombre de points exceptionnels.
Les équations de l'enveloppe possèdent elles aussi une origine géométrique. Il faut pour en effectuer l'interprétation se placer dans l'espace à trois dimensions (x,y,λ). L'équation générale de la famille F(x,y,λ)=0 se lit alors comme l'équation d'une surface dans un espace à trois dimensions. Les courbes de la famille sont les sections « horizontales » de cette surface.
On considère les points de la surface qui sont également points critiques de l'application de projection , c'est-à-dire les points où le plan tangent à la surface est « vertical ». Les projetés de ces points critiques sont les points caractéristiques de la famille de courbes, leur réunion est l'enveloppe de la famille.
Il est possible de décrire le comportement aux points particuliers. Notamment la courbe formée par les points critiques peut avoir elle-même une tangente verticale. En un tel point, la courbe enveloppe admet un point singulier, et on perd éventuellement la propriété de tangence à la famille de courbes. Une étude plus détaillée relève de la théorie des singularités.