En informatique, le concept de priorité des opérations porte le nom de précédence des opérateurs.
Certains langages informatiques comme le langage C possèdent seulement des opérateurs dont la fonction et la priorité sont prédéfinies. D'autres langages comme Haskell et Perl 6 permettent au programmeur de définir de nouveaux opérateurs dont ils doivent aussi spécifier la précédence.
Les premières écritures des formules mathématiques furent rhétoriques, c'est-à-dire sous forme de phrase. Le modèle de référence est le texte mathématique euclidien, celui mis en place dans les éléments d'Euclide en 300 avant J-C. Dans celui-ci, l'ordre des opérations est explicite. Il n'y a pas confusion possible entre les deux phrases suivantes :
ni aucune ambiguïté dans la phrase
Mais, lors de la mise en place du calcul symbolique à la fin du XVIe siècle et tout au long du XVIIe siècle, se pose alors le problème de l'écriture d'expressions mathématiques complexes. Les deux textes précédents pouvant se traduire l'une et l'autre par la même notation symbolique
et le troisième texte s'écrivant comme
pouvait aussi aussi se traduire par « prend la racine carrée de a et ajoute lui b ».
La recherche s'est donc portée sur l'étude des délimitants. Ceux-ci avaient pour but de préciser quelles étaient les opérations principales et secondaires et comment devaient se regrouper les termes. Ces délimitants furent de plusieurs types. Les principaux sont
Ainsi une expression qui se lit de nos jours
s'écrivait .
et l'on trouve chez Descartes des expressions comme
qu'il faut lire comme
Ces délimitants ou signes d'agrégation furent particulièrement étudiés par Leibniz qui les appelle des signes de comprehensio.
D'autres moyens d'agréger plusieurs contenus consistaient à les positionner sur des lignes différentes. On retrouve notamment cette habitude dans l'écriture spatiale des fractions où le positionnement par rapport à la ligne d'écriture sert de délimiteur confirmé par la barre de fraction, sorte de vinculum. Ainsi l'expression que Descartes écrit sous la forme
sera traduite par Leibniz, favorable à l'écriture linéaire,
On peut à ce sujet signaler l'importance de la position spatiale pour la lecture des priorités dans une expression comme
qui doit être lue
alors que
doit être lue
Descartes utilise grandement la notation spatiale pour regrouper par exemple les termes à l'intérieur d'un produit, ainsi on peut lire chez lui des expressions comme
Le cas particulier de l'exponentiation doit être évoqué pour son rôle positionnel non symétrique : dans une écriture comme
la position de b+2 sur la ligne de l'exponentiation vaut comme signe d'agrégation et l'expression ne peut pas être confondue avec
En revanche, le fait que 3 et a soit tous les deux placés sur la ligne de calcul ne permet pas pour autant de les agréger et, de manière implicite, dès les premières exponentiations, chez Descartes, seul le premier terme à gauche de la puissance est concerné.
En toute théorie, toute expression mathématique complexe devrait contenir autant de délimitants que nécessaire pour lever tout ambiguïté. Ainsi une écriture comme
devrait s'écrire
écriture qui, certes, ne présente aucune autre interprétation, mais ne brille pas par la clarté de sa lecture.
La suppression de certains délimitants, comme dans l'exemple de l'exponentiation évoqué précédemment, apparaît naturellement chez les premiers auteurs comme Descartes ou Leibniz. Ainsi dans la résolution de l'équation du second degré que Descartes écrit
et dont il propose comme solution
celui-ci omet délibérément les délimitants
et
sans que ne soit jamais indiquées les règles de priorité qui régissent ce type de calcul.
Il faut probablement voir dans cet absence de délimitant une interprétation quant à la nature des objets manipulés. Cette interprétation en termes d'unité se retrouve déjà dans des textes rhétoriques. Quand les traducteurs d'Euclide écrivent, concernant le partage entre moyenne et extrême raison
il n'y a pour eux aucune ambiguïté. Le mathématicien moderne, cherchant à écrire sous forme algébrique une telle expression et appelant x le plus grand segment et L la ligne se trouverait devant deux interprétations pour ce texte :
Pour Euclide et ses lecteurs, en revanche, il n'existe aucune ambiguïté, la première interprétation n'ayant aucun sens à leur yeux. Le carré du plus grand grand segment étant une aire, et la moitié du tout étant une longueur, il n'y a aucun sens à ajouter une aire et une longueur et seule la seconde interprétation est correcte.
De même, quand Descartes écrit
le membre de gauche reste pour lui une aire et tout autre agrégation du second membre que celle couramment admise, ne pourrait conduire à une aire. Enfin le 1/2 devant a est davantage vu comme une fraction qu'un multiplication, on prend la moitié de a. De même, il n'y a pas moyen d'agréger différemment
sans que l'expression perde sa qualité d'aire.
Descartes donc, et ses successeurs, ont établi de manière implicite les règles de priorité opératoire qui sont utilisées actuellement. L'usage des parenthèses n'intervenant que pour déroger à ses priorités ou lever une ambiguïté sur le contenu.
La convention qui aurait privilégié l'ordre d'écriture, c'est-à-dire qui aurait consisté à effectuer les opérations dans leur ordre d'apparition, de la gauche vers la droite, sauf contrordre signalé par des délimiteurs, aurait chargé inutilement des expressions comme az + bb. Elle aurait, de plus, installé un ordre prioritaire (ce qui est à gauche est plus aggloméré que ce qui arrive à droite) qui serait entré en conflit avec les propriétés de commutativité (ce qui est à gauche peut passer à droite)
D'autres priorités ont tenté de voir le jour comme la notation polonaise inversée au début de XXe siècle mais elles n'ont pas résisté à trois siècles de conventions et de publications.