Adhérence, intérieur et frontière d'un convexe

Dans le cas particulier de parties convexes d'un espace vectoriel topologique, les opérateurs topologiques élémentaires d'adhérence ou intérieur préservent la convexité. Sous une réserve technique mineure (qui justifie l'introduction de concepts simples, ceux d'intérieur relatif et de frontière relative, qui sont l'intérieur ou la frontière relativement à l'enveloppe affine du convexe), le remplacement d'un convexe par son adhérence ou son intérieur n'en modifie pas profondément la forme ; en particulier le bord du convexe reste discernable sur les nouveaux convexes ouvert ou fermé qu'on lui a substitués.

Pour des raisons qui tiennent surtout à l'absence de vocabulaire usuel pour les espaces affines munis d'une topologie compatible avec leur structure géométrique, les résultats ci-dessous sont énoncés dans le contexte d'un « espace vectoriel topologique ». Dans les faits, c'est la structure affine de l'espace sous-jacent qui fait sens et tout ce qui est énoncé est valable à l'identique sous l'hypothèse qui serait bien lourde à énoncer d'un « espace affine dont l'espace vectoriel sous-jacent est muni d'une structure d'espace vectoriel topologique ».

En particulier, tout ce qui est écrit est valable dans le cadre des espaces affines de dimension finie. Le lecteur mal à l'aise en topologie générale mais au fait du vocabulaire de base concernant les espaces métriques pourra lire l'article en se restreignant mentalement à un tel cadre, suffisant pour survoler l'essentiel du contenu.

Les espaces sont toujours implicitement réels (il faudrait adapter certaines affirmations relatives aux dimensions dans le cas d'espaces vectoriels complexes).

Proposition — Dans un espace vectoriel topologique, l'adhérence d'un convexe est convexe.

Après s'être intéressé à l'adhérence d'un convexe, il est naturel d'examiner son intérieur. Or il apparaît ici une désagréable dissymétrie : alors que le remplacement d'un convexe C par son adhérence conserve une partie significative de l'information sur la forme de celui-ci (ainsi, du moins en dimension finie, l'adhérence n'est qu'exceptionnellement l'espace ambiant E tout entier, en fait dans le seul cas dégénéré où C = E) le remplacement par l'intérieur peut effacer toute information (l'intérieur étant souvent vide).

On a le choix entre deux solutions, plus ou moins adaptées selon le cas, pour contourner cet obstacle : l'une est de se restreindre dans les énoncés à des convexes dont l'enveloppe affine est l'espace ambiant tout entier —mais dans certains contextes, ce n'est guère pratique, par exemple si on veut évoquer les faces d'un polyèdre— ; l'autre est d'introduire un vocable supplémentaire :

Définition — L'intérieur relatif d'un convexe non vide C dans un espace vectoriel topologique E est l'intérieur de C relativement au sous-espace affine engendré par C.

Comme pour l'adhérence, on a :

Proposition — Dans un espace vectoriel topologique, l'intérieur et l'intérieur relatif d'un convexe sont convexes.

En dimension finie tout au moins, et contrairement à l'intérieur, l'intérieur relatif d'un convexe non vide n'est jamais vide :

Proposition — En dimension finie, l'intérieur relatif d'un convexe C non vide n'est pas vide, et a la même dimension que C.

En guise de résumé de cette section, on peut faire un bilan rapide, C désignant un convexe non vide d'un espace affine réel E de dimension finie, on a l'alternative suivante :

• ou bien $\dim C=\dim E$, dans lequel cas intérieur et intérieur relatif sont un même convexe, qui engendre affinement E ;
• ou bien $\dim C<\dim E$, dans lequel cas l'intérieur ordinaire est vide, mais l'intérieur relatif est lui un convexe non vide, qui engendre affinement le même sous-espace affine que C.

De même que l'intérieur « ordinaire », la frontière n'est pas toujours un objet pertinent pour l'étude d'un convexe. Ainsi, pour un terrain rectangulaire vivant dans l'espace à trois dimensions, elle est bien décevante puisque égale à toute l'étendue du territoire.

On utilisera plutôt la frontière relative, définie à partir de l'intérieur relatif :

Définition — La frontière relative d'un convexe non vide C dans un espace affine E de dimension finie est le complémentaire de son intérieur relatif dans son adhérence.

Le concept est bien plus satisfaisant : dans l'exemple du terrain, il renvoie bien ce qu'évoque le mot « frontière » du langage courant.

On peut faire la remarque suivante, d'intérêt surtout anecdotique dès lors que le théorème de Krein-Milman en fournit une variante nettement plus puissante :

Proposition — Un convexe compact (non vide et non réduit à un point) est l'enveloppe convexe de sa frontière relative (et a fortiori de sa frontière)

Dans cette section, on notera cl(A) l'adhérence, int(A) l'intérieur « ordinaire », ir(A) l'intérieur « relatif ».

On sait que, pour des parties quelconques d'un espace topologique (et sans avoir besoin de chercher des contre-exemples bien compliqués), il faut accumuler pas moins de quatre opérateurs pour arriver à des formules justes :

cl(int(cl(int(A)))) = cl(int(A)) et int(cl(int(cl(A)))) = int(cl(A)).

Les choses se stabilisent beaucoup plus vites pour des convexes, comme l'exprime le théorème ci-dessous et son corollaire :

Théorème — Soit C un convexe dans un espace vectoriel topologique. On suppose en outre C d'intérieur non vide. Alors int(cl(C)) = int(C) et cl(int(C)) = cl(C).

Corollaire — Pour un convexe non vide C en dimension finie, ir(cl(C)) = ir(C) et cl(ir(C)) = cl(C). En particulier les trois convexes emboîtés ir(C), C et cl(C) ont la même frontière relative.