Dans toute cette section, E désigne un espace vectoriel sur un corps K, et sa dimension, supposée finie, est notée n.
Il existe un premier candidat naturel pour une réduction, elle correspond à une décomposition en sous-espaces propres. Une présentation complète du concept est proposé dans l'article détaillé.
Un vecteur propre est un vecteur non nul dont l'image par u est colinéaire au vecteur d'origine. Le rapport de colinéarité est appelé valeur propre. L'ensemble des vecteurs propres pour une valeur propre donnée associée au vecteur nul forme un sous-espace vectoriel appelé sous-espace propre.
Une décomposition en sous-espaces propres représente donc un grand nombre des propriétés recherchées pour une réduction.
Les propriétés recherchées dans la réduction sont presque rassemblées.
L'article Valeur propre (dans la boîte déroulante sur les propriétés des vecteurs propres en dimension finie) montre que les sous-espaces propres disposent d'une structure de sous-espace vectoriel stable par l'endomorphisme et qu'ils sont en somme directe. Les deux premières propositions sont donc démontrées. La troisième est une conséquence immédiate de la définition d'un vecteur propre.
Il suffirait en effet d'une propriété supplémentaire pour permettre une réduction à l'aide de cette approche : que la somme directe des sous-espaces propres soit l'espace vectoriel entier. Cela équivaut à l'existence d'une base B de vecteurs propres. Les deux propriétés manquantes sont alors réunies, car la réduction est composée de sous-espaces de dimension 1, ceux qui sont engendrés par les vecteurs de la base. Cette décomposition est maximale car il n'existe pas de décomposition en somme directe de sous-espaces non réduits au vecteur nul qui contiennent plus de sous-espaces que la dimension de l'espace.
Le fait que B soit une base garantit que la décomposition engendre bien l'espace entier.
En termes plus formels, les trois propositions suivantes sont équivalentes. Elles fournissent la définition d'un premier cas de réduction pour u.
Une démonstration se trouve dans l'article Diagonalisation, sauf pour la dernière équivalence qui est traitée dans Matrice diagonale.
Il existe d'autres propriétés importantes associées à cette définition. Elles proviennent essentiellement d'une approche polynomiale sur l'endomorphisme. Le polynôme caractéristique de u est, en dimension finie, un outil puissant d'analyse des endomorphismes. Il est défini comme le déterminant suivant : det(u -λ.I ). Comme le déterminant s'annule si et seulement si le noyau de l'application linéaire associée n'est pas réduit au vecteur nul, le polynôme possède comme racines les valeurs propres de l'endomorphisme. Trois propriétés relient diagonalisabilité et polynôme caractéristique.
C'est une condition suffisante, mais non nécessaire. Considérons le cas d'une homothétie dans le cas où n est strictement supérieur à 1. Le polynôme caractéristique ne possède qu'une racine multiple. Pourtant l'endomorphisme est clairement diagonalisable car toute base est constituée de vecteurs propres uniquement. Il existe de plus la condition nécessaire suivante :
Dire que le polynôme caractéristique P(X) est scindé signifie qu'il peut s'écrire comme produit de puissances de polynômes de degré 1 :
Pour l'obtention d'une condition nécessaire et suffisante à partir du polynôme caractéristique, une définition supplémentaire est nécessaire.
La multiplicité algébrique d'une valeur propre λ est donc l'exposant du polynôme (X-λ) dans le polynôme caractéristique. Cette définition permet de formuler une condition nécessaire et suffisante de diagonalisabilité.
Si le polynôme caractéristique possède n racines distinctes alors il existe n vecteurs propres aux valeurs propres associées distinctes. Or l'article sur les valeurs propres nous apprend, dans la boîte déroulante des propriétés supplémentaires des propriétés des valeurs et vecteurs propres, qu'ils sont linéairement indépendants. Or une famille libre de cardinal égal à la dimension n de l'espace forme une base. Ce qui démontre la proposition.
Si l'endomorphisme est diagonalisable, alors il existe une représentation matricielle diagonale. Le calcul du polynôme caractéristique à l'aide d'une telle représentation montre immédiatement que la multiplicité algébrique de chaque valeur propre est égale à la dimension du sous-espace propre associé.
Réciproquement, si la multiplicité algébrique de la valeur propre est égale à la dimension du sous-espace propre associé, alors la somme des dimensions des sous-espaces propres est égale au degré du polynôme et donc à la dimension n de l'espace entier. Le paragraphe précédent montre qu'alors, u est diagonalisable.
C'est une conséquence directe de la proposition précédente.
Si l'approche par le polynôme caractéristique offre des premiers résultats, elle n'est néanmoins pas intégralement satisfaisante. En effet, le calcul du polynôme est souvent lourd, et la recherche de la dimension des sous-espaces propres n'est pas simple.
Le concept de polynôme d'endomorphisme propose un autre candidat, souvent plus pertinent pour l'analyse des applications linéaires en dimension finie. C'est le polynôme minimal. À l'instar du polynôme caractéristique, ses racines sont aussi les valeurs propres. Sa spécificité s'exprime dans la condition nécessaire et suffisante suivante :
Même dans le cas où le polynôme minimal est scindé, il existe au moins un cas où la diagonalisation est impossible, celui des endomorphismes nilpotents. L'unique valeur propre est 0, donc l'unique sous-espace propre est son noyau. En conséquence le seul endomorphisme nilpotent diagonalisable est l'endomorphisme nul.
Les endomorphismes nilpotents disposent néanmoins d'une réduction traitée et démontrée dans l'article Endomorphisme nilpotent dans le paragraphe nilpotence et réduction en dimension finie. Un sous-espace cyclique de E (pour l'endomorphisme nilpotent u) est un sous-espace vectoriel engendré par une famille de la forme (x, u(x), u2(x), ...).
Nous y trouvons bien toutes les caractéristiques d'une réduction, une décomposition en somme directe de sous-espaces stables qui engendre l'espace entier. Dans l'article détaillé on montre de plus que cette décomposition est maximale.
Si le cas des endomorphismes nilpotents apparaît dans un premier temps comme une exception au cas diagonalisable, la théorie des polynômes d'endomorphismes nous montre que cette exception est unique. Plus précisément, la proposition suivante, connue sous le nom de décomposition de Dunford est vraie :
Dans le contexte du théorème, le polynôme minimal
Les noyaux
Les quatre propriétés suivantes résument l'essentiel des propriétés associées à la décomposition de Dunford :
L'hypothèse que le polynôme minimal soit scindé représente une contrainte souvent faible. Le fait que les nombres complexes forment un corps algébriquement clos garantit déjà la généralité de la condition. Pour le cas des nombres réels, il est toujours possible d'étendre l'espace vectoriel aux corps des complexes pour la recherche des solutions, puis dans un deuxième temps de ne choisir que des solutions réelles. Pour les applications, cette démarche est souvent utilisée par les physiciens.
La décomposition de Dunford n'est néanmoins pas une réduction. En effet, cette décomposition n'est pas maximale. Un sous-espace caractéristique se décompose encore.
Sur un sous-espace caractéristique Ei, la restriction de l'endomorphisme s'exprime comme la somme d'une homothétie et d'un endomorphisme nilpotent. En réduisant cet endomorphisme nilpotent comme indiqué précédemment, on décompose Ei en sous-espaces (stables par l'homothétie). La réduction des endomorphismes nilpotents fournit ainsi une décomposition maximale en sous-espaces stables à l'aide de la définition des espaces de Jordan.
Cette définition nous permet alors de décrire une réduction de Jordan pour u :
Comme pour un corps quelconque, on peut complexifier ou utiliser la décomposition de Frobenius.
La décomposition de Frobenius est la plus adaptée lorsqu'on ne veut pas travailler sur un corps algébriquement clos.
Une autre approche possible consiste à plonger le corps K dans sa clôture algébrique