Séparation des convexes - Définition

Introduction

Un exemple de séparation stricte

Étant donnés deux convexes d'un même plan ne se rencontrant pas, il est toujours possible de subdiviser le plan en deux demi-plans de sorte que chacun contienne entièrement l'un des convexes. Il en est de même en dimension 3, la séparation des convexes étant alors réalisée par un plan. Plus généralement, on peut en faire autant en dimension finie quelconque à l'aide d'un hyperplan. Sous une hypothèse convenable de compacité on peut même garantir une « séparation stricte », assurant que chacun des deux convexes reste à distance de l'hyperplan qui les sépare ; dans de bonnes conditions la séparation peut également être assurée dans certains espaces vectoriels topologiques de dimension infinie.

Un cas particulier remarquable est celui où l'un des convexes ne contient qu'un point, choisi sur la frontière de l'autre. Dans ce cas, les hyperplans séparants sont appelés hyperplans d'appui du convexe.

Position du problème

On se place dans un espace affine E (de dimension finie), ou dans un espace vectoriel normé sur .

Étant donné un hyperplan affine H de E, il existe une forme linéaire (unique à un facteur multiplicatif près) qui puisse servir d'équation à H, c'est-à-dire pour laquelle il existe un c réel tel que . De plus, si H est fermé, f est continue. On pourra dès lors définir les deux « demi-espaces » limités par H comme les ensembles et .

Étant données deux parties A et B de E, on dit alors que H sépare A et B lorsque, dans la subdivision de E par H en deux demi-espaces E₁ et E₂, l'un des ensembles A et B est inclus dans E₁ et l'autre dans E₂. Dans cette définition (séparation au sens « large »), on n'interdit pas à A et à B de contenir des points de H, voire de se rencontrer l'un l'autre à condition que ce soit sur H.

Sous certaines hypothèses, on peut obtenir des résultats de séparation plus précis et conclure que A et B sont de part et d'autre de H, dans les demi-plans stricts qu'il limite. De fait, on peut parfois faire encore un peu mieux, d'où la définition technique suivante : on dit que H d'équation sépare strictement A et B lorsqu'il existe un ε > 0 tel que l'un des ensembles A et B soit inclus dans le demi-espace et l'autre dans le demi-espace .

Théorème de séparation stricte

Ce résultat est la « deuxième forme géométrique du théorème de Hahn-Banach » :

Une application particulièrement importante en est la représentation des convexes fermés comme intersection de demi-espaces fermés. Lorsqu'on intersecte des demi-espaces fermés, le résultat de l'opération est de façon évidente un convexe fermé (puisque tant la convexité que la fermeture sont conservées par intersection, même infinie). Il se trouve que la réciproque est vraie :

Principes des démonstrations

Pour le théorème, on remarque dans un premier temps que la distance d qui sépare A et B est strictement positive (c'est toujours le cas pour la distance entre un fermé et un compact dans un espace métrique). On pose ε = d / 3 et on considère A' (resp. B'), ensembles des points à distance ε de A (resp. B), qui sont encore convexes mais sont eux des ouverts, tout en restant disjoints. On applique à ces ouverts le théorème de séparation au sens large, et on vérifie enfin sans mal que l'hyperplan obtenu sépare de fait strictement A de B.

Pour le corollaire, on prend x₀ un point quelconque du complémentaire du convexe fermé C. En appliquant le théorème à C et {x₀} on obtient un demi-espace fermé contenant C mais auquel x₀ n'appartient pas, ce qui prouve que x₀ n'est pas dans l'intersection des demi-espaces fermés contenant C. L'inclusion non évidente est ainsi prouvée.

En dimension finie, on peut aussi démontrer cette forme du théorème de séparation en se reposant sur le théorème de projection sur un convexe fermé. En effet si A est fermé et B est un singleton (contenant un point x₀ extérieur à A), on peut trouver un hyperplan les séparant en projetant x₀ sur A en un point puis en utilisant l'hyperplan perpendiculaire à passant par le milieu de ce segment. Dans le cas général, on se ramène à cette situation particulière en séparant le fermé A − B de {0}, comme dans la preuve du théorème de séparation large.