Les transformations de Möbius sont de manière générale des automorphismes du compactifié d'Alexandrov de noté , définies comme la composée d'un nombre fini d'inversions par rapport à des plans ou des sphères.
En particulier, si on identifie à , alors on peut prouver que les transformations de Möbius conservant l'orientation sont de la forme:
On étend alors cette fonction à en posant :
Soit , on se place dans , et on définit alors les inversions de par rapport à un plan ou à une sphère:
On remarque que les inversions sont involutives: si σ est une inversion, σ2 = Id
De plus, ces inversions sont des homéomorphismes.
Dorénavant, on appelle sphère soit une sphère soit un plan (Beardon, The Geometry Of Discrete Groups). En remarquant que les inversions transforment les sphères en sphères, on obtient:
ce qui constitue une de leurs caractéristiques fondamentales.
Le théorème suivant est tout aussi important:
Il permet notamment de montrer l'unicité de l' extension de Poincaré d'une transformation : c'est l'unique élément qui conserve tel que si l'on considère comme un sous ensemble de dont la n+1 ième coordonnée est nulle. Pour démontrer l'existence d'une telle extension, il suffit de la définir pour les inversions, l'extension d'une composée d'inversions étant alors la composée des extensions de ces inversions. Si , on note l'élément de dont les n premières coordonnées sont celles de a, la n+1 ième étant nulle. L'inversion par rapport à P(a,t) sera alors naturellement étendue en l'inversion par rapport à , et de même . On a la propriété remarquable suivante:
Les principaux exemples de transformations de Möbius sont:
Une transformation de Möbius particulière est très utile en géométrie hyperbolique: l'inversion dans par rapport à la sphère , qui restreinte à correspond à la projection stéréographique de sur Sn = S(0,1) dans . C'est en fait le difféomorphisme naturel entre et Bn + 1 = {x, | x | < 1}: il fait le pont entre deux points de vue pour la géométrie hyperbolique.