Le groupe des symétries est l’ensemble de tous les automorphismes du système. On a les propriétés suivantes.
Pour tous automorphismes t et u, t°u est un automorphisme et l’inverse de t est un automorphisme. La transformation identique (qui associe toujours x à x) est un automorphisme.
Autrement dit,
Ces trois propriétés font de l'ensemble des automorphismes d'un système un groupe pour sa loi de composition interne naturelle.
La théorie des groupes est le principal outil théorique d’étude des symétries.
La notion d’automorphisme permet de préciser la définition des symétries. Que veut dire « sans modifier sa structure » ?
Un système est défini comme un modèle. Il faut déterminer
Une transformation géométrique est un automorphisme ou isomorphisme interne, pour une relation binaire R lorsqu’elle est une fonction inversible, ou bijection, de U dans U telle que
pour tout x et y, x R y si et seulement si tx R ty
Ce qui est vrai de x et y, de satisfaire la relation R, est également vrai de tx et ty.
x est semblable à tx, y à ty.
Cette définition d’un automorphisme se généralise aisément aux prédicats unaires et à toutes les relations, quel que soit le nombre de leurs arguments. Pour un prédicat unaire P, une transformation t est un automorphisme lorsque
pour tout x, Px si et seulement si Ptx
Dans l’exemple du papillon, la symétrie entre la gauche et la droite est un automorphisme pour les propriétés (les prédicats unaires) de couleur. Un point a la même couleur que son point symétrique.
Une transformation t est un automorphisme pour un opérateur binaire + lorsque
pour tous x et y, t(x+y)=(tx)+(ty)
Cette définition d’un automorphisme se généralise aisément à tous les opérateurs, quel que soit le nombre de leurs arguments. t est un automorphisme pour un opérateur unaire lorsque
pour tout x, t(-x) = -t(x)
Autrement dit, une transformation est un automorphisme pour un opérateur unaire, ou fonction d'une seule variable, lorsqu'elle commute avec lui. Lorsque des transformations commutent entre elles, elles sont toutes des automorphismes les unes vis-à-vis des autres, au sens où toute structure définie par une transformation est conservée par toutes les autres.
À un opérateur binaire +, on peut associer une relation ternaire définie par x+y=z . On voit alors que la définition d’un automorphisme pour un opérateur est un cas particulier de la définition d’un automorphisme pour les relations.