En mathématiques, le déterminant fut initialement introduit en algèbre, pour déterminer si un système d'équations linéaires comportant autant d'équations que d'inconnues admet une unique solution. Il se révèle un outil très puissant dans de nombreux domaines (étude du déterminant d'un endomorphisme et recherche de ses valeurs propres, définition du déterminant de certaines familles de vecteurs, calcul différentiel).
Comme pour de nombreuses opérations, le déterminant peut être défini par une collection de propriétés (axiomes) qu'on résume par le terme « forme n-linéaire alternée ». Cette définition permet d'en faire une étude théorique complète et d'élargir encore ses champs d'applications. Mais le déterminant peut aussi se concevoir comme une généralisation à l'espace de dimension n de la notion de surface ou de volume orientés. Cet aspect, souvent négligé, est une approche pratique et éclairante des propriétés du déterminant.
Les déterminants furent introduits en Occident à partir du XVIe siècle, soit bien avant les matrices, qui n'apparaissent qu'au XIXe siècle. Il convient de rappeler que les Chinois furent les premiers à utiliser des tableaux de nombres et à appliquer un algorithme maintenant connu sous le nom de procédé d'élimination de Gauss-Jordan.
Dans son sens originel, le déterminant détermine l'unicité de la solution d'un système d'équations linéaires. Il fut introduit dans le cas de la taille 2 par Cardan en 1545 dans son Ars Magna, sous forme d'une règle pour la résolution de systèmes de deux équations à deux inconnues. Cette première formule porte le nom de regula de modo.
L'apparition des déterminants de taille supérieure demande ensuite plus de cent ans. Curieusement le Japonais Kowa Seki et l'Allemand Leibniz en donnèrent les premiers exemples presque simultanément.
Leibniz étudie de nombreux systèmes d'équations linéaires. En l'absence de notation matricielle, il représente les coefficients inconnus par un couple d'indices : il note ainsi ij pour ai, j. En 1678, il s'intéresse à un système de trois équations et trois inconnues et donne, sur cet exemple, la formule de développement suivant une colonne. La même année, il écrit un déterminant de taille 4, correct aux signes près. Leibniz ne publie pas ces travaux, qui semblent avoir été oubliés avant que les résultats soient redécouverts indépendamment une cinquantaine d'années plus tard.
À la même période, Kowa Seki publie un manuscrit sur les déterminants, où il énonce une formulation générale difficile à interpréter. Celle-ci semble donner des formules correctes pour des déterminants de taille 3 et 4, et de nouveau des signes erronés pour les déterminants de taille supérieure. La découverte restera sans lendemain, à cause de la coupure du Japon avec le monde extérieur.
En 1748, un traité d'algèbre posthume de MacLaurin relance la théorie des déterminants, avec l'écriture correcte de la solution d'un système de quatre équations et quatre inconnues.
En 1750, Cramer formule les règles qui permettent de résoudre un système de n équations et n inconnues, mais sans en donner la démonstration. Les méthodes de calcul des déterminants sont alors délicates, puisque fondées sur la notion de signature d'une permutation.
Les mathématiciens s'emparent de ce nouvel objet, avec des articles de Bézout en 1764, de Vandermonde en 1771 (étonnamment ne donnant pas le calcul du déterminant de la matrice de Vandermonde actuelle). En 1772, Laplace établit les formules de récurrence portant son nom. L'année suivante, Lagrange découvre le lien entre le calcul des déterminants et des volumes.
Gauss utilise pour la première fois le mot « déterminant », dans les Disquisitiones arithmeticae en 1801. Il l'emploie pour ce que nous qualifions aujourd'hui de discriminant d'une quadrique et qui est un cas particulier du déterminant moderne. Il est également près d'obtenir le théorème sur le déterminant d'un produit.
Cauchy emploie le premier le mot déterminant dans son sens moderne. On peut ainsi lire dans son article de synthèse de plus de quatre-vingts pages sur cette question :
« M. Gauss s'en est servi avec avantage dans ses Recherches analytiques pour découvrir les propriétés générales des formes du second degré, c'est-à-dire des polynômes du second degré à deux ou plusieurs variables, et il a désigné ces mêmes fonctions sous le nom de déterminants. Je conserverai cette dénomination qui fournit un moyen facile d'énoncer les résultats ; j'observerai seulement qu'on donne aussi quelquefois aux fonctions dont il s'agit le nom de résultantes à deux ou à plusieurs lettres. Ainsi les deux expressions suivantes, déterminant et résultante, devront être regardées comme synonymes. »
Elle représente une synthèse des connaissances antérieures, ainsi que des propositions nouvelles comme le fait que l'application transposée ne modifie pas le déterminant ainsi que la formule du déterminant d'un produit. Binet propose également une démonstration cette même année. Plus tard, Cauchy jette les bases de l'étude de la réduction d'endomorphismes.
En publiant ses trois traités sur les déterminants en 1841 dans le journal de Crelle, Jacobi donne une véritable notoriété à la notion. Pour la première fois, il présente des méthodes de calcul systématiques, sous forme algorithmique. Il devient également possible d'évaluer des déterminants de fonctions avec la naissance du jacobien.
De 1832 à 1844, les travaux de Grassmann, fondent l'algèbre extérieure et donnent un sens plus général aux déterminants au travers de la représentation des grassmanniennes
Le cadre matriciel est introduit par les travaux de Cayley et Sylvester. Cayley est également l'inventeur de la notation des déterminants par des barres verticales ; il établit la formule de calcul de l'inverse.
La théorie s'étoffe par l'étude de déterminants ayant des propriétés de symétrie particulières et par l'introduction du déterminant dans de nouveaux champs des mathématiques, comme le wronskien pour les équations différentielles linéaires.