Algèbre nouvelle - Définition

Les apports de l'algèbre nouvelle

L'isagoge : une oeuvre qui fait date

L'introduction de notations littérales pour les paramètres dans les équations algébriques et la volonté de dégager l'algèbre des règles embrouillées et des procédures médiévales, en lui apportant une formalisation efficace, sont au coeur du projet de François Viète. Mais pour établir cette formalisation, il a fallu à Viète réaliser bien plus et [l'Isagoge] est l'exposé d'une science nouvelle des individus et des espèces affirme Lucien Vinciguerra qui n'hésite pas à mettre en parallèle l'Isagoge et le discours de la méthode.

Les obstacles de l'innovation

L'idée de noter par des lettres une inconnue a déjà été introduite par Euclide, et à sa suite par Diophante, toutefois, il s'agit ici de géométrie ou d'abréviations, dans une langue où chaque lettre cache un chiffre ou un nombre et sans qu'aucun règle de calcul explicite ne permette de suivre un calcul formel réduit à l'état de pure notation. De surcroît, toute l'algèbre antique repose sur l'obtention de figures résolutoires (appelées Gnomons), qui remplacent la formalisation algébrique, mais rendent difficile la résolution d'équations de grand degré.

Les mathématiciens arabes, qui ont repris une grande part des exigences des géomètres grecs, ont donné à l'algèbre une première autonomie. Toutefois, les mêmes obstacles linguistiques ne leur ont pas permis de fixer ces règles sous la forme de formule littérale comparable à celle de notre algèbre moderne et leur symbolique apparaît, dans l'état des recherches actuelles, limitée à des abréviations.

La notation de l'inconnue par une (seule) lettre fut reprise par Jordanus Nemorarius au XII^e siècle, puis par les calculateurs médiévaux. Ni Michael Stifel ni Regiomontanus en Allemagne au XVI^e siècle, ni le lyonnais Nicolas Chuquet, pourtant très en avance sur son temps, ni Luca Pacioli, ni Bombelli et encore moins Cardan n'ont cependant donné à leurs notations le caractère général qu'elles auront avec Viète. Jusqu'à l'Isagoge toutes les grandeurs mesurables ne peuvent intervenir ensemble dans une équation sous forme d'inconnues et de paramètres.

Les sources de l'innovation

Pierre de la Ramée

Pour réaliser son projet de formalisation des questions géométriques, Viète dut donc décrire de nouvelles règles de multiplications, d'additions, de soustraction, etc, opérant, non sur les nombres, mais sur les grandeurs (longueur, aire, volume, etc). Car Viète adopte le principe de base des géomètres grecs selon lequel on ne peut additionner, soustraire et prendre le rapport que pour des grandeurs homogènes. La nécessité de conserver l'homogénéité des formules s'en déduit comme celle de donner des noms différents à ces opérations. Par exemple, la multiplication des grandeurs, (ducere in), notation héritée des italiens et de leurs prédécesseurs arabes traduit concrètement l'idée qu'on mène le côté a sur le côté b pour former le rectangle ab. Leur soustraction est notée du signe =, qui, à l'époque, n'a pas encore pris son sens actuel d'égalité.

L'idée d'opérer sur des symboles (species) peut en partie s'expliquer par ses études juridiques ; le mot species désignant alors l'ensemble de leurs clients dans le jargon des avocats (première profession du protégé des Parthenay).

L'idée de noter par des voyelles et des consonnes, les unes réservée aux inconnues, les autres aux quantités connues (ou paramètres) les points du plan, les angles, ou les longueurs des côtés d'une figure géométrique, avait déjà été exploré dans l'antiquité et au XVI^e siècle par Ramus (dont Viète parle comme d'un homme très subtil : logikotatos) ; Guillaume Gosselin et Jacques Pelletier du Mans avaient fait évoluer ces notations de façon décisive entre 1560 et 1570, donnant des moyens effectifs de travailler avec deux inconnues. Pour autant, leur algèbre, comme celle de Pedro Nunez, demeurait essentiellement numérique.

En l'état actuel des connaissances, l'Isagoge est donc le premier livre où apparaissent les fondements du formalisme actuel (Les manuscrits de Thomas Harriot, publiés pour la première fois en 2007, laissent penser que le mathématicien anglais avait élaboré (vers la même époque) des prémices de calcul littéral, mais les avait tenus secrets).

Un art de raisonner

Pour autant l'apport de l'Isagoge ne se limite pas à cette considérable invention : les résultats annoncés par cette méthode sont variés et nombreux. Ils vont de la détermination des solutions positives des équations de degré 2, 3 et 4 à l'énoncé des relations entre coefficients et racines d'un polynôme, qu'en anglais, on nomme la formule de Viète ; les formules du binôme, et la formation des coefficients binomiaux, qui seront reprises par Pascal et Newton ; l'apparition du premier produit infini, la reconnaissance du lien entre trisection de l'angle et équation du troisième degré ; et cette innovation, considérée comme l'une des plus importante dans l'histoire des mathématiques, ouvre véritablement la voie au développement de l'algèbre moderne.

Mais il y a plus. Car la nécessité de fonder un calcul symbolique sur les grandeurs en respectant l'homogénéité (exigence des anciens renouvelée par Ramus), a obligé Viète à expliciter comment se conduisent les opérations sur les grandeurs mêmes. Et cette contrainte a fait de l'Isagoge, un véritable programme de raisonnement. Ainsi, il serait profondément réducteur de résumer son projet à l'idée de noter les quantités connues et inconnues par des lettres. L'ouvrage propose véritablement une première axiomatique algébrique ; et on saisit par ce biais tout ce qu'à de moderne l'exposé de Viète, qui en développant son idée de façon systématique, offre en fait dans cette introduction à l'Art de l'Analyse, non seulement un premier travail d'algèbre symbolique abouti, mais aussi une première mise en forme de l'art de raisonner algébriquement semblable à ce qu'avait réalisé Euclide pour la géométrie.

Les aléas de la postérité

Selon le mot de Maximilien Marie, Viète fit de la bonne Algèbre avec de l'excellente Géométrie. Toutefois, dans son désir de faire respecter la forme homogène de l'écriture diophantienne,, Viète a été amené à conserver le langage des anciens. Son latin, mâtiné de grec, n'est pas toujours aisé à lire. Le mathématicien forge des mots nouveaux à l'instar des membres de la Pléiade ; comme le fait remarquer Frédéric Ritter en 1868 dans son Introduction à l'art analytique de François Viète :

« Logistices speciosa, arithmétique spécieuse. Speciosa du latin species, forme, image, figure; arithmétique dans laquelle les nombres sont représentés par des images, des figures. Cette acception du mot speciosa a été créée par Viète, car elle n'a aucun rapport avec celles du mot latin ou français, propres ou figurées. C'est pour ce motif que je l'ai également adoptée, car elle caractérise mieux la pensée de l'auteur que les mots symboliques, figurée, littérale, etc. que j'avais d'abord eu l'intention d'employer. »

De même, le choix de partager l'alphabet en voyelle (inconnues) et consonnes (paramètres), quoique directement hérité de Ramus, ne se révèle pas des plus heureux. S'il marque le renouveau des études des langues sémitiques au XVI^e siècle, il ne résistera pas aux choix opérés par Descartes de réserver aux inconnues les dernières lettres de l'alphabet.

De surcroît, l'écriture qu'il forge fournit une symbole réduite pour noter la multiplication (in), les racines ou l'égalité (aeq, ou aequabitur), les puissances (même si on trouve sous la plume d'Anderson qc, ou quadcubo pour quadrato-cubus soit ) ; elle n'a pas le caractère achevé que lui donnera le grand siècle et ses exigences d'homogénéité la condamne à faire sans cesse référence au sens géométrique des paramètres en jeu. Cette seconde révolution dans l'art algébrique sera accompli à la génération suivante avec les publications d' Alexander Anderson, de William Oughtred, de Thomas Harriot, de Noël Duret, puis après eux, de Pierre de Fermat, de René Descartes et de Frans van Schooten. L'incomplétude de ces notations se fait d'ailleurs sentir très tôt : lorsque Albert Girard rend hommage à Viète :

La géométrie de Descartes

Touchant François Viète, qui surpasse tous ses devanciers en l'algèbre, on peut voir en son traité (De recognitione equationium)...

il lui reproche déjà d'oublier dans ses résolutions les solutions négatives (moins que rien) et complexes (qu'il nomme enveloppées). Mais la même année, James Hume de Godscroft note déjà en place de ^Acubus préparant la synthèse entre les points de vue de Viète et d'Harriot.

Toutefois,lorsque Viète écrit :

ce qui s'écrit aujourd'hui

on voit en germe qu'il s'agit d'une écriture efficace, qui autorise les remplacements et les transformations mécaniques. A terme, c'est toute la façon de penser les mathématiques, et le monde, qui s'en verra modifiée. Comme l'assure Michel Serfati :

« Tout l'art (mathématiques) consiste à faire que cette convention (séparer le connu de l'inconnu) soit intériorisée ; après, on calcule librement. Ce rapport que nous entretenons avec le système symbolique a été à la source de la formation d'une communauté, à savoir celle des mathématiciens, en même temps qu'il nous sépare des autres communautés. Les professeurs de mathématiques me comprennent très bien : ils rencontrent cette difficulté avec leurs élèves. Certains ne sont pas d'accord avec la convention initiatique. C'est elle qui, à mon avis, sépare les mathématiciens des autres communautés savantes. »

Après Viète, les Français Pierre de Fermat et Roberval, le Hollandais Snellius, les Anglais Thomas Harriot et Newton, ainsi que Christian Huygens utiliseront des notations de Viète. Plus tard, Leibniz, qui appréciait son héritagecherche à faire en analyse ce que Viète a fait pour les équations mais après 1649 et la réédition de La Géométrie de Descartes, sa renommée sera éclipsée par celle du philosophe de la Haye, qui avait rénové en profondeur ce formalisme, et auquel le siècle suivant attribuera souvent, à tort, l'entière paternité de la formalisation algébrique.