En mathématiques, une structure désigne une théorie « plus forte » que la théorie des ensembles, c'est-à-dire une théorie qui en contient tous les axiomes, signes et règles.
C'est donc une théorie « fondée » sur la théorie des ensembles, mais contenant également des contraintes supplémentaires, qui lui sont propres, et qui permettent également de définir de nouvelles structures qu'elle inclut. Cette notion est ainsi une puissante contribution à l'hypothèse selon laquelle la théorie des ensembles fournit le fondement des mathématiques.
Ce terme est à l'origine de ce que l'on a appelé le structuralisme mathématique.
En histoire des mathématiques, quelque moderne et innovatrice que soit une notion nouvelle, il arrive fréquemment que l'on en observe rétrospectivement des traces jusque dans l'Antiquité. Ainsi, le calcul différentiel et intégral, inventé au XVIIe siècle par Leibniz et Newton, était déjà utilisé de manière embryonnaire et naïve chez Eudoxe et Archimède. Il en va de même avec l'invention de la notion de structure mathématique : son utilisation a précédé sa première formulation explicite. Il est par conséquent aussi aisé de repérer dans l'histoire des mathématiques les premiers auteurs définissant et commentant la notion de structure, que difficile de retrouver les premiers à l'avoir utilisée sans l'expliciter.
En arithmétique modulaire, l'idée de structure apparaît vraiment avec l'approche de Carl Friedrich Gauss dans les Disquisitiones arithmeticæ (1801). Il étudie les restes de la division euclidienne sous un angle structurel ; c'est ainsi l'une des origines de la théorie des groupes.
En théorie de Galois, l'approche est essentiellement structurelle pour Évariste Galois à travers les symétries, chez Camille Jordan à travers la théorie des groupes, chez Leopold Kronecker à travers la théorie des corps.
En algèbre linéaire, l'idée de structure apparaît deux fois : en géométrie euclidienne, une approche axiomatique se fait finalement ressentir pour devenir obligatoire (cf. axiomes de Hilbert) ; puis avec les tentatives de formalisation des espaces vectoriels par Grassmann ou Peano, et enfin chez Banach et Bourbaki.
C'est le groupe de mathématiciens publiant sous le pseudonyme de Nicolas Bourbaki qui a développé pour la première fois la théorie des structures de manière explicite et rigoureuse dans ses Éléments de mathématique à partir des années 1930.
La notion de structure dérive de la méthode axiomatique adoptée par Bourbaki. Cette axiomatique permet de mettre au jour une unité profonde entre diverses branches des mathématiques, considérées comme distinctes dans la classification traditionnelle des disciplines mathématiques (arithmétique, algèbre, analyse, géométrie) :
Ces noyaux constitutifs des branches des mathématiques sont les structures mêmes :
Voici comment Bourbaki décrit la méthode de mise au jour des structures dans l'article L'Architecture des mathématiques :
S'appuyant sur un exemple historiquement significatif, la définition du groupe, première structure jamais dégagée, Bourbaki conclut par une définition globale de la structure :
En note, Bourbaki observe : « Dans cette nouvelle conception, les structures mathématiques deviennent, à proprement parler, les seuls « objets » de la mathématique. » Bourbaki distingue ainsi principalement trois types de structures, les « structures-mères » : la structure algébrique, dont les relations sont des lois de composition, la structure d'ordre, et la structure topologique.
La classification structurale a pour conséquence de remettre en question la classification traditionnelle des mathématiques :
Les structures-mères peuvent recevoir des axiomes supplémentaires ; selon les exemples de Bourbaki, on peut ainsi concevoir, pour cas particuliers de la structure algébrique de groupe, les groupes finis, les groupes abéliens, et les groupes abéliens finis ; pour la structure d'ordre, la structure d'ensemble totalement ordonné, et dans cette dernière celle d'ensemble bien ordonné.
En outre, on peut définir des « structures [...] multiples », combinant d'autres structures : algèbre topologique, topologie algébrique, la combinaison des structures d'ordre et des structures algébriques, etc. Les « théories particulières » — analyse, géométrie, théorie des nombres, etc — constituent ainsi des subdivisions de ces grandes structures :
Tout d'abord, on ne saurait toutefois suspecter Bourbaki d'« hypostasier » les structures, car le collectif de mathématiciens est conscient que cette notion correspond seulement à une méthode d'exposition, sans engager pour autant la « nature profonde » des mathématiques. Il reconnaît ainsi le caractère « artificiel [de] ce principe de classification dès que s'enchevêtrent les structures », et ne l'utilise que comme un moyen d'exposition.
En outre, dans l'article L'Architecture des mathématiques, Bourbaki avoue trois inconvénients de cette théorie des structures : « elle est à la fois schématique, idéalisée et figée. » Schématique, car dans le détail il existe « d'inattendus retours en arrière », comme l'intervention des nombres réels pour fonder la topologie. Idéalisée, car « dans certaines théories (par exemple en Théorie des Nombres), il subsiste de très nombreux résultats isolés qu'on ne sait jusqu'ici classer ni relier de façon satisfaisante à des structures connues » Et figée, car les structures ne sont pas « immuables », et peuvent se prêter à des inventions ou reformulations futures.
Les précautions dont fait preuve Bourbaki montrent qu'il ne saurait être accusé d'avoir essayé de « geler » ou de rigidifier la recherche mathématique, comme on le lui a parfois reproché.