En mathématiques, l'ensemble de Cantor (ou ensemble triadique de Cantor, ou poussière de Cantor) est un sous-ensemble remarquable de la droite réelle construit par le mathématicien allemand Georg Cantor.
Il s'agit d'un ensemble fermé du segment [0,1], d'intérieur vide. Il sert d'exemple pour montrer qu'il existe des ensembles infinis non dénombrables mais négligeables au sens de la mesure de Lebesgue. C'est aussi le premier exemple de fractale (bien que le terme ne soit apparu qu'un siècle plus tard), et il possède une dimension non-entière (voir plus bas).
Il admet enfin une interprétation en termes de développement des réels en base 3. Pour cette raison, il est souvent noté K3.
On le construit de manière itérative à partir du segment [0,1] en enlevant le tiers central ; puis on réitère l'opération sur les deux segments restants, et ainsi de suite. On peut voir les six premières itérations du procédé sur le schéma suivant :
On dénote par l'opérateur « enlever le tiers central » :
On note A0 = [0,1] et on définit par récurrence une suite de parties de [0,1] par la relation :
On a :
Alors l'ensemble de Cantor K3 est « la limite » de An quand n tend vers :
On peut aussi définir l'ensemble de Cantor via l'écriture en base 3. Tout réel s'écrit de manière :
avec . On écrit alors
Cette écriture est unique à ceci près : on peut remplacer par (et par ) à la fin d'une écriture. Si on choisit de faire cette transformation on peut alors définir K3 par :
C'est-à-dire
Note : donc 1/3 est dans cet ensemble, puisqu'il admet les deux écritures 0,1000… et 0,02222… en base 3. 2/3 également (0,2000… ou 0,12222…). Remarquez que parmi les nombres admettant un développement propre et un développement impropre, il n'en existe aucun dont les deux écritures vérifient la propriété demandée.
Soit s un nombre strictement compris entre 0 et 1. Si, au lieu de couper chaque intervalle en trois et d'enlever l'intervalle central, on enlève à la n-ème étape un intervalle de longueur s / 3n au centre de chaque intervalle de la génération précédente, on obtient un ensemble de Cantor dont la mesure de Lebesgue est 1 - s. Cela permet d'obtenir un compact d'intérieur vide de mesure aussi proche de 1 que l'on veut. Le cas s = 1 redonne l'ensemble de Cantor usuel. Un procédé comparable est utilisé dans l'ensemble de Smith-Volterra-Cantor.
Une autre version de l'ensemble de Cantor est le carré de Cantor. Il est construit sur le même principe général, mais basé sur un carré : on considère un carré que l'on découpe en 9 carrés de même taille, et on supprime tous les carrés n'étant pas dans un coin du carré de départ. L'ensemble est construit de façon itérative en répétant cette action sur les nouveaux carrés. Ce n'est rien d'autre que le produit cartésien d'un ensemble de Cantor par lui-même.
La même construction en dimension 3 conduit au cube de Cantor, égal au produit cartésien