Adhérence, intérieur et frontière d'un convexe

Dans le cas particulier de parties convexes d'un espace vectoriel topologique, les opérateurs topologiques élémentaires d'adhérence ou intérieur préservent la convexité. Sous une réserve technique mineure (qui justifie l'introduction de concepts simples, ceux d'intérieur relatif et de frontière relative, qui sont l'intérieur ou la frontière relativement à l'enveloppe affine du convexe), le remplacement d'un convexe par son adhérence ou son intérieur n'en modifie pas profondément la forme ; en particulier le bord du convexe reste discernable sur les nouveaux convexes ouvert ou fermé qu'on lui a substitués.

Observation préalable : le cadre de cet article

Pour des raisons qui tiennent surtout à l'absence de vocabulaire usuel pour les espaces affines munis d'une topologie compatible avec leur structure géométrique, les résultats ci-dessous sont énoncés dans le contexte d'un espace vectoriel topologique. Dans les faits, c'est la structure affine de l'espace sous-jacent qui a du sens et tout ce qui est énoncé est valable à l'identique sous l'hypothèse d'un « espace affine topologique » (c'est-à-dire un espace affine dont l'espace vectoriel sous-jacent est muni d'une structure d'espace vectoriel topologique).

En particulier, tout ce qui est écrit est valable dans le cadre des espaces affines de dimension finie. Le lecteur mal à l'aise en topologie générale mais au fait du vocabulaire de base concernant les espaces métriques pourra lire l'article en se restreignant mentalement à un tel cadre, suffisant pour survoler l'essentiel du contenu.

Les espaces sont toujours implicitement réels (il faudrait adapter certaines affirmations relatives aux dimensions dans le cas d'espaces vectoriels complexes).

Adhérence d'un convexe

Proposition — Dans un espace vectoriel topologique, l'adhérence d'un convexe est convexe.

L'adhérence de $C$ est notée ${\overline {C}}$ (ou $\operatorname {cl} C$, de l'anglais closure).

Démonstration

Notons C le convexe.

Version simplifiée de la démonstration, valable pour les seuls espaces où l'adhérence s'exprime séquentiellement (ce qui est le cas si l'espace est métrisable, en particulier s'il est séparé et de dimension finie)

Soient x et y deux points de C, et z un point du segment [x, y], qui peut donc être écrit sous la forme z = λx + (1 – λ)y pour un certain λ de [0, 1].

On peut écrire $x=\lim _{+\infty }x_{k}$ et $y=\lim _{+\infty }y_{k}$ pour deux suites $(x_{k})$ et $(y_{k})$ de points de C.

Alors $z=\lim _{+\infty }(\lambda x_{k}+(1-\lambda )y_{k})$ fournit une expression de z comme limite de points de C, ce qui assure bien l'appartenance de z à C.

Version valable dans tout espace vectoriel topologique

Considérons l'application f, de [0, 1]×E×E dans E, définie par f(λ, x, y) = λx + (1 – λ)y. Une partie C de E est convexe si et seulement si f([0, 1]×C×C) ⊂ C. Par continuité de f (et puisque l'adhérence d'un produit est le produit des adhérences), cette propriété se transmet de C à C.

Intérieur et intérieur relatif d'un convexe

Après s'être intéressé à l'adhérence d'un convexe, il est naturel d'examiner son intérieur. Or il apparaît ici une désagréable dissymétrie : alors que le remplacement d'un convexe C par son adhérence conserve une partie significative de l'information sur la forme de celui-ci (ainsi, du moins en dimension finie, l'adhérence n'est qu'exceptionnellement l'espace ambiant E tout entier, en fait dans le seul cas dégénéré où C = E) le remplacement par l'intérieur peut effacer toute information (l'intérieur étant souvent vide).

On a le choix entre deux solutions, plus ou moins adaptées selon le cas, pour contourner cet obstacle : l'une est de se restreindre dans les énoncés à des convexes dont l'enveloppe affine est l'espace ambiant tout entier — mais dans certains contextes, ce n'est guère pratique, par exemple si on veut évoquer les faces d'un polyèdre convexe — ; l'autre est d'introduire un vocable supplémentaire :

Définition — L'intérieur relatif d'un convexe non vide C dans un espace vectoriel topologique E est l'intérieur de C relativement au sous-espace affine engendré par C.

Pour le distinguer de l'intérieur de C dans E, noté $\operatorname {int} C$, l'intérieur relatif de C est noté $\operatorname {ir} C$ ou $\operatorname {intr} C$ (ou $\operatorname {ri} C$, de l'anglais relative interior).

Par définition de la topologie induite sur $\operatorname {aff} C$, on a donc :

$\operatorname {ir} C=\{x\in C\,\mid \,$il existe un voisinage $V$ de $x$ dans $E$ tel que $(V\cap \operatorname {aff} C)\subset C\}.$

Par exemple, l'intérieur relatif d'un sous-espace affine est ce sous-espace lui-même.

En dimension finie tout au moins, et contrairement à l'intérieur, l'intérieur relatif d'un convexe non vide n'est jamais vide :

Proposition — En dimension finie, l'intérieur relatif d'un convexe C non vide n'est pas vide, et a même enveloppe affine (donc même dimension) que C.

Démonstration

Notons F le sous-espace affine engendré par C et d sa dimension. Il existe alors d + 1 points de C affinement indépendants, e₀, … , e_d. Le simplexe ouvert de F$\left\{\left.\sum _{i=0}^{d}t_{i}e_{i}~\right|~t_{i}>0,\sum t_{i}=1\right\}$est non vide et inclus dans C, et engendre encore affinement F.

En dimension quelconque, pour $x\in \operatorname {ir} C$ on a évidemment : pour tout point $v\neq x$ dans $\operatorname {aff} C$, il existe $u\in C$ tel que $x\in \left]u,v\right[$ (il suffit de choisir $u=x+\varepsilon (x-v)$ pour un $\varepsilon >0$ assez petit). Fait plus remarquable, la réciproque forte suivante fournit un critère d'intériorité relative : si $\operatorname {ir} C$ est non vide — ce qui a lieu sous les hypothèses de la proposition précédente — alors, pour qu'un point $x$ de $E$ lui appartienne, il suffit que pour tout point $v\neq x$ dans $\operatorname {ir} C$, il existe $u\in C$ tel que $x\in \left]u,v\right[$. En effet :

Lemme d'intériorité — Soit $C$ un convexe d'un espace vectoriel topologique. Alors, $\forall u\in {\overline {C}}\quad \forall v\in \operatorname {int} C\quad \left]u,v\right]\subset \operatorname {int} C.$

On déduit de ce lemme que (comme pour l'adhérence) on a :

Corollaire — Dans un espace vectoriel topologique, l'intérieur et l'intérieur relatif d'un convexe sont convexes.

En guise de résumé de cette section, on peut faire un bilan rapide, C désignant un convexe non vide d'un espace affine réel E de dimension finie, on a l'alternative suivante :

• ou bien dimC = dimE, auquel cas intérieur et intérieur relatif sont un même convexe, qui engendre affinement E ;
• ou bien dimC < dimE, auquel cas l'intérieur ordinaire est vide, mais l'intérieur relatif est lui un convexe non vide, qui engendre affinement le même sous-espace affine que C.

Frontière relative d'un convexe

La frontière d'un convexe est toujours Lebesgue-négligeable (voir « Mesure de Jordan »).

Mais, de même que l'intérieur « ordinaire », elle n'est pas toujours un objet pertinent pour l'étude d'un convexe. Ainsi, pour un terrain rectangulaire vivant dans l'espace à trois dimensions, elle est bien décevante puisque égale à toute l'étendue du territoire.

On utilisera plutôt la frontière relative, définie à partir de l'intérieur relatif :

Définition — La frontière relative d'un convexe non vide dans un espace affine de dimension finie est le complémentaire de son intérieur relatif dans son adhérence.

Le concept est bien plus satisfaisant : dans l'exemple du terrain, il renvoie bien ce qu'évoque le mot « frontière » du langage courant.

On peut faire la remarque suivante, d'intérêt surtout anecdotique dès lors que le théorème de Krein-Milman en fournit une variante nettement plus puissante :

Proposition — Un convexe compact (non vide et non réduit à un point) est l'enveloppe convexe de sa frontière relative (et a fortiori de sa frontière)

Démonstration

Soit z un point du convexe C. Traçons, dans le sous-espace affine engendré par C, une droite affine D passant par z. L'intersection C∩D est un convexe compact non vide de D, donc un segment [x, y]. Les deux points x et y sont alors sur la frontière relative donc z est dans l'enveloppe convexe de cette frontière.

La frontière contenant toujours la frontière relative, l'affirmation a fortiori est alors une évidence.

Enchaînement d'opérations successives

On sait que, pour des parties quelconques d'un espace topologique (cf. Théorème « 14 » de Kuratowski), il faut accumuler pas moins de quatre opérateurs pour arriver à des formules justes :

${\overline {\operatorname {int} \left({\overline {\operatorname {int} A}}\right)}}={\overline {\operatorname {int} A}}{\text{ et }}\operatorname {int} \left({\overline {\operatorname {int} {\overline {A}}}}\right)=\operatorname {int} {\overline {A}}.$

Les choses se stabilisent beaucoup plus vite pour des convexes, comme l'expriment le théorème ci-dessous et son corollaire :

Théorème — Soit C un convexe dans un espace vectoriel topologique. On suppose en outre C d'intérieur non vide. Alors

$\operatorname {int} {\overline {C}}=\operatorname {int} C{\text{ et }}{\overline {\operatorname {int} C}}={\overline {C}}.$

Démonstration

Fixons (d'après l'hypothèse de non-vacuité de int C) un v auxiliaire lui appartenant.

• $\operatorname {int} {\overline {C}}\subset \operatorname {int} C~:$
  Pour tout w ∈ intC et tout t ∈ ]0, 1] suffisamment proche de 1, le point u défini par w = tu + (1 – t)v appartient à C donc (d'après le lemme d'intériorité ci-dessus) w ∈ int C.
• ${\overline {C}}\subset {\overline {\operatorname {int} C}}~:$
  Tout u ∈ C est adhérent à ]u, v] donc (d'après le lemme) à int C.

Corollaire — Pour un convexe non vide C en dimension finie,

$\operatorname {ir} {\overline {C}}=\operatorname {ir} C{\text{ et }}{\overline {\operatorname {ir} C}}={\overline {C}}.$En particulier les trois convexes emboîtés ir C, C et C ont la même frontière relative.

Propriétés

Calcul d'intérieur relatif de convexes — Soient $E$, $E_{1}$, $E_{2}$ et $F$ des espaces vectoriels de dimension finie et $A:E\to F$ une application linéaire.

1. Si $C_{1}$ et $C_{2}$ sont deux convexes non vides de $E$, alors$\operatorname {ir} {C_{1}}\cap \operatorname {ir} {C_{2}}\neq \varnothing \Rightarrow \operatorname {ir} {\left(C_{1}\cap C_{2}\right)}=\operatorname {ir} {C_{1}}\cap \operatorname {ir} {C_{2}}$.En particulier, $C_{1}\subset C_{2}\Rightarrow \operatorname {ir} {C_{1}}\subset \operatorname {ir} {C_{2}}$.
2. Si $C$ est un convexe non vide de $E$, alors$\operatorname {ir} {A(C)}=A(\operatorname {ir} C)$.En particulier, si $C_{1}$ et $C_{2}$ sont deux convexes non vides de $E$, alors $\operatorname {ir} {(C_{1}+C_{2})}=\operatorname {ir} {C_{1}}+\operatorname {ir} {C_{2}}$.
3. Si $C\subset F$ est convexe non vide et si l'image réciproque $A^{-1}(\operatorname {ir} C)\neq \varnothing$, alors$\operatorname {ir} {A^{-1}(C)}=A^{-1}(\operatorname {ir} C)$.

Annexes

Notes et références

• Sauf précision spécifique, l'ensemble de l'article a été élaboré à partir de (en) Jean-Baptiste Hiriart-Urruty et Claude Lemaréchal, Fundamentals of Convex Analysis, Berlin, Springer, coll. « Grundlehren Text Editions », 2004 (1^re éd. 2001) (ISBN 978-3-540-42205-1, lire en ligne), p. 33-36, complété par Jean Dieudonné, Éléments d'analyse, tome II, coll. « Cahiers scientifiques » fasc. XXXI, Gauthier-Villars, 1974, (ISBN 978-2-87647-212-9), exercice 11 p. 70 pour les énoncés valables dans tout espace vectoriel topologique.

• Cet article est partiellement ou en totalité issu de l'article intitulé « Intérieur relatif » (voir la liste des auteurs).

Bibliographie

(en) R. Tyrrell Rockafellar, Convex Analysis, Princeton, New Jersey, Princeton University Press, coll. « Princeton Mathematical Series » (n^o 28), 1970 (lire en ligne)