En mathématiques, une orientation est une convention à fixer pour l'objet étudié, dont la formulation dépend de la nature de cet objet. Elle se révèle nécessaire par exemple, pour régler des problèmes de signes. Si l'espace possède une orientation canonique, l'orientation d'espaces vectoriels ou de figures géométriques en général relève d'une convention arbitraire. Tous les objets concernés n'admettent pas forcément une orientation : si tel est le cas, ils sont dits orientables.
Pour se repérer dans son espace de vie, être capable de communiquer sa position ou sa trajectoire, il est nécessaire d'appréhender et de définir des orientations. Aussi l'Homme a-t-il inventé les vocables de gauche et de droite, d'avant et d'arrière, de haut et de bas, d'est et d'ouest, de nord et de sud. Cependant, ces vocables ne sont pas de même essence. La définition du haut et du bas est liée à celle du champ gravitationnel, celle d'avant et d'arrière est liée à une ligne de vision, celle d'est et d'ouest est liée au lever et au coucher du Soleil : elles relèvent d'expériences directes. La notion de gauche et de droite, ou de nord et de sud est d'une autre nature : elles ne relèvent pas d'une expérience, mais d'une convention arbitraire. La difficulté qu'éprouvent certaines personnes à distinguer la droite de la gauche montre que la notion d'orientation n'est pas si simple que cela à percevoir. Elle exige en effet d'introduire une rupture dans une configuration perçue a priori comme ayant une certaine symétrie, et de s'entendre sur des conventions communes.
En mathématique, la mise en place de l'orientation s'est d'abord effectuée sur des objets simples – la droite, le plan, l'espace – en s'appuyant souvent sur l'intuition. Le mathématicien s'est ensuite attaché à définir l'orientation de manière plus rigoureuse et sur des objets plus complexes comme les lignes courbes, les espaces de dimension n et les surfaces.
On oriente une droite en choisissant sur celle-ci un sens de parcours, c'est-à-dire un vecteur unitaire . Le parcours de A vers B est dit positif si le vecteur est un multiple positif du vecteur , c'est-à-dire si les deux vecteurs ont le même sens.
On ne peut choisir que deux vecteurs unitaires différents sur une même droite, il y a donc deux orientations possibles de la droite. Aucune orientation n'a de raison objective d'être privilégiée. Par tradition seulement, une droite parallèle à la ligne d'écriture sera orientée de la gauche vers la droite comme la lecture du français.
On oriente le plan en choisissant deux vecteurs unitaires orthogonaux (base orthonormale). On est alors capable d'orienter le cercle unité puis les angles. Si le plan est orienté par la base orthonormale et si, dans le repère , les points A et B ont pour coordonnées respectives (1 ; 0) et (0 ; 1), le parcours le plus court sur le cercle du point A au point B sera dit parcours positif et l'angle correspondant sera dit angle droit positif.
Deux bases orthonormales superposables par rotation définissent la même orientation du cercle unité. On distingue alors deux orientations possibles du plan. Une base orthonormale étant donnée, changer un vecteur en son opposé ou permuter les deux vecteurs change l'orientation du plan.
La culture et l'invention des horloges a permis de nommer ces deux orientations. Une orientation dans laquelle les aiguilles d'une horloge tournent dans le sens positif est appelée orientation horaire ou sens des aiguilles d'une montre. En mathématique, on privilégie plutôt l'autre orientation appelée orientation anti-horaire ou sens trigonométrique.
Orienter l'espace, c'est choisir trois vecteurs unitaires deux à deux orthogonaux (base orthonormale).
On dit que deux bases définissent la même orientation si, par rotation autour d'un axe, on peut les superposer. De nouveau, deux types d'orientation sont possibles. Une base étant donnée, changer un vecteur en son opposé ou permuter deux vecteurs modifie l'orientation du plan. Opérer une permutation circulaire des trois vecteurs ne change pas l'orientation : et définissent la même orientation.
La culture, ici aussi, a privilégié un sens appelé direct : celui correspondant au vissage d'une vis ou d'un tire-bouchon. La base est dite directe si, en tournant de vers , la vis ou le tire-bouchon s'enfonce dans la direction . C'est ainsi que l'orientation (haut, droite, devant) est directe et permet accessoirement de distinguer la droite et la gauche. C'est la même orientation directe que l'on trouve avec la règle des trois doigts de la main droite : le triplet (pouce, index, majeur) définit une orientation directe. On voit donc que le choix d'une orientation est liée à la notion de droite et de gauche.
Il est cependant évident que ces définitions s'appuyant sur un contexte culturel ne peuvent pas être satisfaisantes pour un mathématicien et qu'il s'est révélé nécessaire de donner des définitions plus générales et non contingentes. Cette définition s'établira à l'aide de la notion de déterminants.