En mathématiques, les groupes de Mathieu sont cinq groupes simples finis découverts par le mathématicien français Émile Mathieu. Ils sont habituellement perçus comme des groupes de permutation sur n points (où n peut prendre les valeurs 11, 12, 22, 23 ou 24) et sont nommés .
Les groupes de Mathieu ont été les premiers groupes sporadiques découverts.
Les groupes de Mathieu sont des exemples de groupes multiplement transitifs. Pour un nombre naturel k, un groupe de permutation G agissant sur n points est k-transitif si, étant donné deux ensembles de points et avec la propriété que tous les ai sont distincts et que tous les bi sont distincts, il existe un élément de groupe g dans G qui applique ai vers bi pour chaque i entre 1 et k. Un tel groupe est appelé fortement k-transitif si l'élément g est unique (i.e. l'action sur les k-uplets est régulière, et non seulement transitive).
Les groupes et sont 5-transitifs, les groupes et sont 4-transitifs et est 3-transitif.
Il résulte de la classification des groupes simples finis que les seuls groupes qui sont k-transitifs pour k au moins égal à 4 sont le groupe symétrique et les groupes alternés (de degré k et k-2 respectivement) et les groupes de Mathieu , , et .
C'est un résultat classique de Jordan que le groupe symétrique et les groupes alternés (de degrés k et k - 2 respectivement), et sont les seuls groupes de permutation fortement k-transitifs pour k égal au moins à 4.
Il existe, à une équivalence près, un unique système de Steiner S(5,8,24). Le groupe est le groupe d'automorphisme de ce système de Steiner; c’est-à-dire, l'ensemble des permutations qui applique chaque bloc vers un certain autre bloc. Les sous-groupes et sont définis comme étant les stabilisateurs d'un seul point et de deux points respectivement.
De manière similaire, il existe, à une équivalence près, un unique système de Steiner S(5,6,12) et le groupe est son groupe d'automorphisme. Le sous-groupe est le stabilisateur d'un point.
Pour une introduction d'une construction de comme groupe d'automorphisme de S(5,8,24) via le Générateur d'Octade Miraculeux de R. T. Curtis, voir Géométrie du carré 4x4. Un autre bon accès à ceci et à l'analogue de Conway pour S(5,6,12), le miniGOM, peut être trouvé dans le livre de Conway et Sloane.
Une construction alternative de S(5,6,12) est le Chaton de R.T. Curtis.
Le groupe peut aussi être vu comme le groupe d'automorphisme du code binaire de Golay W, i.e., le groupe des permutations de coordonnées appliquant W vers lui-même. Nous pouvons aussi le regarder comme l'intersection de et Stab(W) dans Aut(V). Les mots code correspondent de manière naturelle aux sous-ensembles d'un ensemble de 24 objets. Ces sous-ensembles correspondant aux mots code à 8 ou 12 coordonnées égales à 1 sont appelés octades ou dodécades respectivement. Les octades sont des blocs d'un système de Steiner S(5,8,24).
Les sous-groupes simples , , et peuvent être définis comme des sous-groupes de , stabilisateurs respectivement de coordonnée unique, une paire ordonnée de coordonnées, une paire de dodécades complémentaires et une paire de dodécade avec une coordonnée seule.
possède un index 2 dans son groupe d'automorphisme. Comme un sous-groupe de , agit sur la deuxième dodécade comme une image d'automorphisme extérieur de son action sur la première dodécade. est un sous-groupe de mais pas de . Cette représentation de possède des orbites de 11 et 12. Le groupe d'automorphisme de est un sous-groupe maximal de d'index 1288.
Il existe une connexion très naturelle entre les groupes de Mathieu et les groupes de Conway plus grands parce que le code binaire de Golay et le réseau de Leech se trouvent tous deux dans des espaces à 24 dimensions. Les groupes de Conway se retrouvent à leur tour dans le groupe Monstre. Robert Griess fait référence aux 20 groupes sporadiques trouvés dans le Monstre comme la famille heureuse et aux groupes de Mathieu comme la première génération.
Le groupe peut être vu comme le groupe d'automorphisme du graphe tronqué de Witt, un graphe 15-régulier possédant 506 sommets et 3 795 arêtes.