En algèbre linéaire, le lemme des noyaux est un résultat sur la réduction des endomorphismes. Dans un espace vectoriel E sur un corps K, si un opérateur u de E est annulé par un polynôme P(X) à coefficients dans K, alors ce lemme prévoit une décomposition de E comme somme directe de sous-espaces vectoriels stables par u. Ces derniers se définissent comme noyaux de polynômes en u, les projecteurs associés étant eux-mêmes des polynômes en u.
La démonstration traduit l'identité de Bezout portant sur les polynômes à des sous-espaces vectoriels. Résultat fondamental, le lemme des noyaux conduit à la décomposition de Dunford puis à la décomposition de Jordan. Plus modestement, le lemme des noyaux montre qu'un opérateur u est diagonalisable s'il est annulé par un polynôme à racines simples.
Lemme des noyaux — Soit E un espace vectoriel sur un corps K et soit f un endomorphisme de E. Si (avec ) sont premiers entre eux deux à deux, alors les sous-espaces vectoriels Vi = ker(Pi(f)) (où ) sont en somme directe et
De plus, la projection sur Vi parallèlement à est Qi(u) pour un polynôme Qi.
Par récurrence sur n. On pose
On suppose n = 2. On a alors P = P1P2. D'après le théorème de Bézout, il existe tel que U1P1 + U2P2 = 1. On en déduit que (U1P1 + U2P2)(f) = idE (idE désignant l'application identité de E).
Soit . On a , donc .
Soit . On a alors x = [(U1P1)(f)](x) + [(U2P2)(f)](x). Or
ce qui montre que . De même, on montre que .
On en déduit donc que
Supposons le lemme des noyaux démontré pour un . On a . On pose et Q2 = Pn + 1. On a donc P = Q1Q2. Les polynômes Q1 et Q2 sont premiers entre eux, donc d'après l'étude ci-dessus, on a . Or en appliquant l'hypothèse de récurrence, . Finalement,
ce qui montre que le lemme des noyaux est vrai pour n + 1.
Le lemme des noyaux sert pour la réduction des endomorphismes. Par exemple :
Réduction à une forme diagonale par blocs — Soit E un espace vectoriel de dimension finie sur un corps K et soit f un endomorphisme de E. Soit un polynôme annulateur de f (par exemple son polynôme caractéristique, d'après le théorème de Cayley-Hamilton) et une factorisation de P dont les facteurs sont deux à deux premiers entre eux. Alors il existe une base de E et des matrices telles que
où ni = dimkerPi(f).
Par hypothèse kerP(f) = E, donc, d'après le lemme des noyaux :
Chaque sous-espace kerPi(f) est stable par f, donc la matrice de f dans n'importe quelle base de E adaptée à la décomposition précédente en sous-espaces stables, est diagonale par blocs comme souhaité.