En mathématiques, une représentation irréductible est un concept utilisé dans le cadre de la théorie des représentation d'un groupe.
Une représentation irréductible est une représentation qui n'admet qu'elle-même et la représentation nulle comme sous-représentation.
Cette notion est importante car le théorème de Maschke démontre que, dans de nombreux cas, une représentation est somme directe de représentations irréductibles.
Dans toute la suite de l'article, G désigne un groupe et (V, ρ) une représentation linéaire de G sur un corps K.
La théorie des représentations s'exprime aussi en termes de G module. V dispose naturellement d'une structure de G module, dans ce contexte, la définition prend la forme suivante :
Toutes représentations de dimension un est irréductible.
Il n'existe qu'une représentation irréductible et fidèle du Groupe symétrique d'indice trois. Les articles Représentations du groupe symétrique d'indice trois et Représentations du groupe symétrique d'indice quatre contiennent une analyse exhaustive des représentations irréductibles de ces groupes.
Si V désigne un espace vectoriel réel de dimension deux et G le groupe des isométries linéaires de V, alors l'identité de G est une représentation irréductible.
On suppose dans ce paragraphe que G est un groupe fini g et que la caractéristique de K est soit nulle soit première avec l'ordre du groupe. Le théorème de Maschke s'applique alors. (W, σ) désigne ici une représentation irréductible de G de degré d. On suppose enfin que le polynôme Xg - 1 est scindé dans K.
Les caractères des représentations disposent, dans ce contexte, d'un produit hermitien canonique, il fournit une condition nécessaire et suffisante commode pour déterminer l'irréductibilité d'une représentation.
La démonstration est donnée dans l'article associé.
Soit (V, ρ) la représentation régulière de G. Elle contient toutes les représentations irréductibles de G à un isomorphisme près, plus précisément :
Cette décomposition n'est pas unique. Le nombre de sous-espaces isomorphes à W de V est en général supérieur à d, mais ils ne sont pas en somme directe. Il existe néanmoins une unique décomposition de la représentation régulière.
Cette décomposition en composantes isotypiques est unique pour toute représentation de G, elle est appelée décomposition canonique.
Les démonstrations sont données dans l'article associé.
La notion de fonction centrale, c'est-à-dire de fonction du groupe G constante sur chaque classe de conjugaison permet de déterminer exactement le nombre de représentations irréductibles :
La démonstration est donnée dans l'article associé.
L'algèbre K[G] correspond à un enrichissement de la structure algèbrique de la représentation régulière. Le centre de l'algèbre est un anneau commutatif, sur lequel il est possible d'utiliser des théorèmes d'arithmétique. Ils permettent, par exemple de démontrer les propriétés suivantes :
La démonstration est donnée dans l'article associé.
Le produit tensoriel introduit une bijection entre les représentations de deux groupes G1 et G2 et le produit direct G de G1 et G2 :
La démonstration est donnée dans l'article associé.
Dans le cas où N est un sous-groupe normal normal de G, les représentations induites permettent d'établir une relation entre (W, σ) et la restriction de σ à N :
On en déduit le corollaire suivant :
Il est de plus à noter que le critère d'irréductibilité de Mackey fournit une condition nécessaire et suffisante pour une représentation induite soit irréductible.
Soit Wi, où i varie de 1 à n, la décomposition canonique de la restriction de σ à N en composantes isotypiques. On dispose alors de l'égalité :
Si s est un élément de G et si i est un entier compris entre 1 et n, alors σ(s)Wi est encore une composante isotypique. On remarque que, comme W est une représentation irréductible de G l'action du groupe σ(G) est transitive sur la famille des Wi.
Si n est égal à 1, c'est-à-dire que W1 est égal à W, alors la restriction de σ à N est une représentation isotypique.
Dans le cas contraire, considérons le sous-groupe H de G formé des éléments laissant globalement invariant W1. Soit θ' la restriction de σ à H et θ la représentation de H sur l'espace W1 égal à θ' sur W1. Alors (W, σ) est la représentation induite par une représentation irréductible (W1, θ).
Pour démontrer la proposition suivante, un lemme est nécessaire :
Notons c l'ordre du sous-groupe C de G, et (W, σ) une représentation irréductible de G. Si z est un élément de G, alors σ(z) commute avec tous les éléments σ(s) si s parcourt G. Le lemme de Schur permet de conclure que σ(z) est une homothétie, notons λ(z) son rapport. On remarque que l'application λ est un morphisme de groupe de C dans K*.
Considérons alors un entier strictement positif m et la représentation σm produit tensoriel m fois de la représentation σ à valeur dans W W. Si z1, ..., zm est un élément de Cm, alors l'image de z1 zm par σm est une homothétie de rapport λ(z1 ... zm).
Notons H le sous-groupe de Gm formé des éléments (z1 , ..., zm) tel que le produit de toutes les coordonnées soit égal à un. C'est un sous-groupe du centre de Gm, il est donc normal. Par passage au quotient, on obtient une représentation irréductible de Gm/H. Le degré d m de la représentation σm est donc un diviseur de gm/cm-1. Cette relation est vraie pour tout m, ce qui démontre le lemme.
Démontrons cette proposition par récurrence. La représentation irréductible de G est ici notée (W, σ).
Si la restriction de σ à N est isotypique, alors, comme N est abélien et que les seules représentation irréductibles d'un groupe abélien fini sont de degré un, l'image de N par σ est composée d'homothéties. Notons G' et N' les images de G et N par σ. Considérons la représentation identité de G' à valeur dans GL(W). Le lemme précédent montre que le degré de cette représentation divise l'ordre du groupe quotient de G' par son centre. Or son centre contient N' car ce sous-groupe est composé d'homothéties. Le degré de σ, c'est-à-dire la dimension de W est donc un diviseur de l'ordre de G' /N' . Enfin l'application canonique de G/N dans G' /N' est surjective donc l'ordre de G' /N' est un diviseur de celui de G/N, ce qui termine la démonstration dans ce cas.
Si la restriction de σ à N n'est pas isotypique, alors il existe un groupe H distinct de G et contenant N, tel que la représentation (W, σ) soit induite par une représentation irréductible (W1, θ) de H. Alors le degré de la représentation θ divise l'indice [H:N] par hypothèse de récurrence. Le degré de σ est égal à celui de θ que multiplie l'indice [G:H] et donc est un diviseur de [G:H].[H:N] et donc de [G:N].