Imaginez qu'on vous dise: "Ce que je dis est faux". Que faut-il croire ?

Par Laura Fontanella, Julien Cervelle & Luidnel Maignan - Université Paris-Est Créteil Val de Marne (UPEC)

Imaginez que quelqu'un vous dise: "Ce que je dis est faux." Faut-il le croire ? S'il dit la vérité, alors ce qu'il dit est faux, ce qui veut dire qu'il ment. Mais s'il vous ment, alors ce qu'il affirme est vrai, et il n'est donc aucunement menteur.

Ce paradoxe du menteur, formulé au VII^e siècle av. J.-C. par Épiménide le Crétois, montre l'existence d'énoncés qui ne sont ni vrais ni faux. Un argument similaire permet de montrer que même dans le cadre des théories mathématiques, excepté les plus simples, il y a des énoncés qu'on ne peut ni démontrer ni réfuter: on dit qu'elles sont incomplètes. L'auteur de cette découverte surprenante est Kurt Gödel, mathématicien et philosophe du XX^e siècle, et l'une des figures les plus importantes de la logique moderne.

Un jeune mathématicien

Né à Brno le 28 avril 1906, Kurt Friedrich Gödel se démarque dès l'enfance par son intelligence et sa curiosité. À la fin de la Première Guerre mondiale, Brno fut marquée par de fortes tensions entre habitants de langue tchèque et la majorité allemande de la ville, dont la famille Gödel faisait partie. Cela influença la décision de Kurt Gödel et son frère de déménager à Vienne pour leurs études universitaires. En 1926, il rejoint le célèbre Cercle de Vienne, invité par son professeur de philosophie des sciences, Moritz Schlick. Le programme du Cercle de Vienne visait à réunifier toutes les sciences sous le langage de la physique ou de la logique, considérant que toute connaissance était soit empirique soit formelle. À ce moment, Gödel décide de se consacrer à la logique mathématique.

Pour comprendre la portée des travaux de Gödel, il faut en revenir aux fondements des mathématiques, c'est-à-dire les principes de base sur lesquels repose la discipline. Toute assertion mathématique doit être démontrée, mais en quoi consiste une démonstration mathématique ? Il s'agit de procéder selon des règles précises de déduction en partant de vérités préétablies: les axiomes. La première formulation d'un système d'axiomes remonte à environ 300 av. J.-C., avec la géométrie d'Euclide, mathématicien de la Grèce antique. Au début du XIX^e siècle, la communauté mathématique fut bouleversée par la découverte que, en voyant le monde sous un angle différent, certains principes de la géométrie euclidienne, notamment son axiome des parallèles, pouvaient ne plus être vérifiés. Il n'y a donc pas une géométrie, mais plusieurs géométries.

Incomplétude: la fin d'un rêve mathématique

En 1899, le mathématicien allemand David Hilbert publie Les fondements de la géométrie. Son but est d'améliorer le système proposé par Euclide en écrivant un nouveau système permettant de démontrer rigoureusement les théorèmes de la géométrie, sans laisser la place ni aux imprécisions ni aux sous-entendus.

Après avoir réorganisé les fondements de la géométrie, Hilbert propose de faire de même pour toutes les mathématiques. Le programme de Hilbert, formulé au début des années 1920, consistait à chercher un système d'axiomes à partir duquel tout théorème mathématique pouvait se démontrer. Un tel système devrait être cohérent et complet: cohérent, c'est-à-dire que les axiomes ne se contredisent pas ; complet, signifiant que tout énoncé doit pouvoir être démontré ou contredit à partir des axiomes.

À cette époque, Kurt Gödel, âgé de 23 ans, fait son entrée sur la scène mathématique internationale, lorsqu'il démontre en 1931 avec ses théorèmes d'incomplétude l'impossibilité de réaliser le programme de Hilbert. La découverte de Gödel plonge la communauté mathématique dans une autre crise. Le premier théorème d'incomplétude établit que toute théorie cohérente qui inclurait au moins les bases de l'arithmétique (nombres entiers, addition et multiplication) est nécessairement incomplète. Cela veut dire qu'il existe des énoncés qui n'y sont ni démontrables ni réfutables: on dit qu'ils sont indécidables.


Le deuxième théorème d'incomplétude affirme qu'une telle théorie est incapable de démontrer un énoncé de première importance: sa propre cohérence. La communauté mathématique fut profondément troublée par les résultats de Gödel. Plusieurs mathématiciens tels que Zermelo (logicien et philosophe fondateur de la théorie axiomatique des ensembles et précurseur de la théorie des jeux) ne les acceptèrent pas.

Faire mentir les mathématiques

On peut esquisser la preuve du premier théorème d'incomplétude comme suit. On commence par coder les énoncés par des nombres. En effet, les énoncés étant des suites de symboles, il est possible d'associer à chaque symbole un nombre, et ainsi de coder chaque énoncé par un entier. Ensuite, on considère un énoncé F qui exprime sa propre non-prouvabilité: F = "il n'existe pas de preuve de F". F n'est pas prouvable, sinon sa démonstration impliquerait qu'elle ne peut pas être démontrée: c'est un paradoxe. D'autre part, la négation de F ("il existe une preuve de F") n'est pas prouvable non plus, car dans ce cas F est faux et donc prouvable. On ne peut donc démontrer ni que F est vraie, ni qu'elle est fausse.

Suite à ses théorèmes d'incomplétude, Gödel acquit une réputation internationale. En 1933, ses séminaires à l'Institut d'étude avancée de Princeton furent un grand succès. Mais lorsque l'Autriche fut annexée à l'Allemagne d'Hitler, il décide de fuir aux États-Unis. Cependant, la guerre avait déjà commencé, et l'Angleterre empêchait alors la traversée de l'Atlantique. Gödel et sa femme passèrent ainsi par la Russie, le Japon, pour enfin se rendre aux États-Unis par la mer. Ils ne revinrent plus jamais en Europe.

Un héritage considérable

À Princeton, Gödel occupe des positions contractuelles jusqu'en 1946, date à laquelle il devint membre permanent de l'Institut d'étude avancée, puis professeur ordinaire en 1953. Affecté par des troubles psychiatriques, Gödel a des difficultés à interagir avec les autres, mais il se lie d'amitié à John von Neumann et Albert Einstein. Avec ce dernier en particulier, il avait l'habitude d'échanger en rentrant de l'université. "Je venais à Princeton juste pour avoir le privilège de me promener avec Gödel", confiait Einstein vers la fin de sa vie.

Au milieu des années 1970, ses troubles mentaux se transforment en délire de persécution. Gödel est alors convaincu qu'il est visé par un complot tentant de l'assassiner et refuse de manger. Pour le rassurer, sa femme Adèle goûte les repas avant lui, mais lorsqu'elle tombe malade, l'état de Gödel s'aggrave et il meurt de malnutrition le 14 janvier 1978.

L'importance des travaux de Gödel ne se réduit pas à la réflexion sur les fondements des mathématiques. Les limites imposées par les théorèmes d'incomplétude affectent la recherche contemporaine non seulement en mathématiques et en logique, mais également en informatique, notamment en intelligence artificielle. En effet, comme nous l'avons vu, le premier théorème d'incomplétude affirme que presque tout système admet des énoncés indécidables. Nous pouvons ainsi conclure qu'une intelligence artificielle satisfait aux hypothèses du théorème de Gödel, il y aura donc toujours des problèmes qu'elle ne sera pas capable de résoudre.

Par conséquent, certains résultats (qu'ils proviennent des mathématiques, de la physique ou d'autres sciences) nécessitent d'ajouter des axiomes supplémentaires. C'est à ce moment-là que les mathématiques modernes rejoignent la philosophie afin de déterminer ce qu'il est raisonnable de supposer. Parmi les axiomes supplémentaires les plus discutés, on trouve l'axiome du choix, l'hypothèse du continu, l'axiome de détermination et les axiomes de grands cardinaux.

Les travaux de Gödel, bien que réalisés au début du XX^e siècle, innervent encore les débats et les discussions en mathématiques aujourd'hui.