Le problème de la fondation ou des fondements, des mathématiques est celui des principes sur lequel est établie cette science, de sa vérité et de son contenu. Il s'agit en particulier de répondre à la question : « À partir de quels principes les connaissances mathématiques se développent-elles ? »
Les mathématiques, ensemble des sciences ayant pour objet le nombre, la quantité, l’étendue et l’ordre, constituent apparemment le modèle de toute science. Avec les Grecs, les mathématiques changent de statut : elles passent des calculs empiriques aux démonstrations rationnelles ; un détachement par rapport aux objets particuliers s’opère ; le concept de démonstration s’élabore avec le développement des maths. Avec Galilée, les mathématiques sont appliquées systématiquement à la physique, d’où le renforcement du prestige de cette science.
Il est possible de mettre en évidence trois caractéristiques des mathématiques :
Dès lors, si l’on considère, du point de vue épistémologique, le réseau de croyances – ou attitudes propositionnelles d’un agent – constitutif des mathématiques, celui-ci renvoie à deux modèles distincts de la connaissance : le modèle fondationaliste et le modèle cohérentiste.
Le modèle fondationaliste repose sur la distinction entre les croyances de base (ou fondationnelles) et les croyances dérivées. L’enjeu du fondationalisme est de répondre au problème spécifique suivant : « Comment établir les croyances de base ? » Les propriétés épistémiques des croyances dérivées relèvent en effet de celles des croyances de base. Les croyances de base sont des points terminaux dans une chaîne des raisons ; elles sont immunisées à l’égard du doute.
Selon le modèle cohérentiste, d’autre part, toutes les croyances propositionnelles ont prima facie, le même statut épistémologique. Les propriétés épistémiques d’une croyance propositionnelle donnée dépendent des propriétés épistémiques, non seulement d’autres croyances propositionnelles qui la justifient, mais encore, du réseau de croyances dans son ensemble. Les croyances propositionnelles n’ont aucune propriété intrinsèque, permettant d’opérer une distinction entre croyance de base et croyance dérivée. Toute croyance est, par conséquent, sujette à révision ou pour le moins, révisable.
Ainsi, dans le cas du théorème, la vérité est donnée par préservation : étant donné les prémisses du raisonnement et la vérité de ces prémisses, la vérité du théorème est établie. La propagation de la vérité à travers le système relève de procédés essentiellement d’ordre syntaxique. Ce type de proposition peut être appelée : C-propositions (propositions cohérentes), c’est-à-dire des propositions dont la valeur de vérité est obtenue par préservation. D’autre part, la vérité des axiomes résulte d’un autre type d’attribution : elle est déclarée. Le procédé de déclaration de la vérité ne signifie rien d’autre que ceci : ce qui rend vrai un axiome ne trouve aucune expression dans les limites du langage formel donné. Il n’est pas nécessaire d’interroger les axiomes sur leurs origines. Les motifs et les justifications pour accepter la vérité d’une proposition à titre d’axiome ne sont pas pertinents. Seul compte le fait de déclarer la vérité de la proposition. Ce type de propositions peut être appelé : F-propositions (propositions fondationnelles), c’est-à-dire une proposition dont la valeur de vérité est obtenue par déclaration. Alors que les C-propositions permettent de propager et de garantir la consistance, les F-propositions introduisent la vérité dans le système.
De là, il s’ensuit une interrogation permanente au sujet des fondements des mathématiques : quelle est la solidité des F-propositions ? Ne sont-elles pas de simples suppositions ? Trois conceptions s’opposent par rapport au problème des fondements des mathématiques :
Le logicisme a été prôné notamment par Gottlob Frege et Bertrand Russell. La mathématique pure présente deux caractéristiques : la généralité de son discours –- la considération des particuliers existants est exclue -- et la déductibilité du discours mathématique –- les inférences qui structurent le discours mathématique sont des implications formelles (elles affirment non pas les propositions elles-mêmes, mais la nécessité de leur connexion) --. En ce que le discours mathématique ne prétend qu’à une vérité formelle, il est possible de réduire les mathématiques à la logique, les lois logiques étant les lois du « vrai ». Par exemple, la définition logique du nombre, loin d’être réduite à l’opération concrète de dénombrement d’objets, consiste en la référence à l’égalité numérique de deux classes (deux classes ont le même nombre s’il est possible d’instaurer entre leurs éléments respectifs une relation bijective). Le logicisme a rencontré néanmoins, à ses débuts, de réelles difficultés en tant qu’il s'engage ontologiquement par rapport aux classes. Or, la théorie des classes a conduit à des paradoxes logiques.
Le formalisme soutenu par David Hilbert : les mathématiques se présentent comme une pure construction de l’esprit. La tâche des mathématiciens est de déduire des théorèmes à partir d’axiomes qui ne sont ni vrais ni faux. La validité ne repose plus que sur la structure des énoncés, et non sur la nature de ce dont ils parlent. La vérité des mathématiques est réduite à leur cohérence interne, la non contradiction des propositions. Le débat sur cette conception formaliste a été relancé par le théorème d'incomplétude de Gödel qui affirme que tout système formel cohérent et récursif contenant l'arithmétique, possède une proposition valide (ou disons « vraie ») qui n’est ni démontrable, ni réfutable.
L’intuitionnisme défendu de manière paradigmatique par Brouwer : les mathématiques ont un fondement intuitif. Sans l’intuition, la logique s’avère stérile. Défendre une conception intuitionniste a des conséquences importantes. Ainsi, selon la logique intuitionniste, on ne peut pas éliminer la double négation (ce que fait la logique classique) : « non non p » ne se réduit pas à « p ». Il s’ensuit que « non p ou p » n'est pas un théorème. Ces refus sont justifiés par le fait qu'en logique intuitionniste « q implique r » signifie que « d'une démonstration de q je peux construire une démonstration de r », or l'affirmation « non non p implique p» ne permet pas de construire une démonstration de p à partir d'une démonstration de « non non p ».