Plusieurs notations sont en concurrence pour le produit vectoriel :
Dans cet article, nous utiliserons la première convention.
Toute isométrie directe de R3 est une rotation vectorielle. L'ensemble des isométries directes forme un groupe de Lie classique noté SO(3) (autrement dit, un sous-groupe fermé de GL3(R)). Son algèbre de Lie, notée so(3) est la sous-algèbre de Lie de gl3(R) définie comme l'espace tangent de SO(3) en l'identité. Un calcul direct montre qu'il est l'espace des matrices antisymétriques de taille 3. Cet espace est a fortiori stable par le crochet de Lie.
Toute matrice antisymétrique M de taille 3 s'écrit de manière unique :
En identifiant M et le vecteur (a, b, c), on définit un isomorphisme linéaire entre so(3) et R3. Le crochet de Lie se transporte via cet isomorphisme, et R3 hérite d'une structure d'algèbre de Lie. Le crochet [u, v] de deux vecteurs est précisément le produit vectoriel de u et de v.
En effet, si u1=(a1, b1, c1), et u2=(a2, b2, c2), leur crochet se calcule en introduisant les matrices antisymétriques correspondantes M1 et M2 :
Le vecteur correspondant, à savoir [u1,u2], a donc pour coordonnées (b1c2-b2c1, a2c1-a1c2, a1b2-a2b1). Cette approche redéfinit donc le produit vectoriel.
Si on suit cette approche, il est possible de prouver directement l'invariance du produit vectoriel par isométries
En tant qu'algèbres de Lie, so(3) a été identifié à R3. L'action (linéaire) de SO3(R) sur R3 s'identifie à l'action par conjugaison sur so(3). SO3(R) opère donc par automorphisme d'algèbres de Lie. Autrement dit, l'identité ci-dessus est vérifiée.
Il est possible de retrouver produit vectoriel et produit scalaire à partir du produit de deux quaternions purs. Pour rappel, le corps (non commutatif) des quaternions H est l'unique extension de R de dimension 4. Sa base canonique est (1,i, j, k) où le sous-espace engendré par i, j, k forme l'espace des quaternions purs, canoniquement identifié avec R3. Ces éléments vérifient :
Si q1=a1i+b1j+c1k et q2 = a2i+b2j+c2k, le produit q1q2 se calcule immédiatement :
La partie réelle est au signe près le produit scalaire de q1 et de q2, la partie imaginaire est un quaternion pur qui correspond au produit vectoriel, après identification avec R3.
Cette coïncidence trouve ses explications dans le paramétrage du groupe SO(3) par les quaternions unitaires.
L'application linéaire envoyant 1 sur 1, i sur -i, j sur -j et k sur -k est appelée la conjugaison. Le conjugué d'un quaternion q est noté
Cette action préserve la norme ; autrement dit, c'est une action par isométries. Elle définit donc un morphisme de groupes :
Ce morphisme est en réalité le revêtement universel du groupe SO(3). Il induit donc un isomorphisme entre les algèbres de Lie.
L'algèbre de Lie de S3 est justement l'espace des quaternions imaginaires munis du crochet de Lie obtenu comme la partie imaginaire du produit des quaternions. Cette algèbre de Lie est isomorphe à l'algèbre de Lie R3 (muni du produit vectoriel).
C'est la raison fondamentale pour laquelle la partie imaginaire de deux quaternions imaginaires s'identifie au produit vectoriel.
Il est de nouveau possible de justifier l'invariance par isométrie. Toute isométrie de l'espace des quaternions imaginaires s'écrit comme la conjugaison par un quaternion unitaire. Si q est un quaternion unitaire, et q1, q2 sont des quaternions imaginaires, il suffit de constater :
pour en déduire l'invariance par isométrie du produit vectoriel.
Soient deux vecteurs à trois composantes ui et vj. On peut définir le tenseur
qui, en notation tensorielle, s'écrit simplement :
Ce tenseur peut se décomposer en la demi-somme de deux tenseurs, l'un complètement symétrique :
qui a 6 composantes indépendantes, et l'autre complètement anti-symétrique :
qui a 3 composantes indépendantes. On peut alors « transformer » ce tenseur anti-symétrique en un vecteur à trois composantes en utilisant le symbole de Levi-Civita
(selon la convention de sommation d'Einstein, on somme sur i et sur j dans la formule ci-dessus). Le vecteur zk est le produit vectoriel de ui et vj.
On voit que si l'on échange les indices i et j, le signe change, ce qui illustre l'antisymétrie du produit vectoriel. En outre le résultat est un « pseudovecteur » puisqu'il est renversé si on change l'orientation de l'espace.