Dominique Meeùs, retour à la page des mathématiques
Dernière modification le  

Séminaire Choquet 6-01
(Initiation à l’analyse)
15 décembre 19666e année, 1966/67, no 6

Théorèmes de densité pour les formes d’appui d’un convexe fermé

par Dominique Meeùs

Bishop et Phelps ont étudié systématiquement dans [1], [5] et [6] certaines propriétés de densité des points d’appui et des formes d’appui des convexes fermés.

Nous avons, pour notre part, obtenu un nouveau théorème de densité pour les formes d’appui. La technique mise en œuvre dans la démonstration de notre théorème s’applique aussi à deux des théorèmes de Bishop et de Phelps pour lesquels elle fournit une démonstration plus simple.

Nous rappelons ici l’essentiel des résultats de Bishop et de Phelps, et nous donnons une démonstration simultanée des trois théorèmes auxquels il est fait allusion ci-dessus.

1. Les appuis d’un convexe fermé.

Soit E un e. v. t. séparé réel (nous ne considérerons ici que des espaces vectoriels réels). On appelle appui d’une partie A de E un couple (x0 , f0), où x0 appartient à A et f0 est un élément non nul de E′ qui atteint en x0 son supremum sur A, c’est-à-dire tel que

sup f0(A) = f0(x0).

Si (x0 , f0) est un appui de A, on dit encore que f0 appuie A en x0. Alors x0 est un point d’appui de A et f0 une forme d’appui de A.

Convenons de dire qu’une forme f ∈ E′ sépare absolument A d’une autre partie B de E lorsque sup f(A) < inf f(B). Cette notion de séparation est plus forte (non trivialement) que la séparation stricte au sens de Bourbaki [2] : les convexes fermés déterminés par les deux branches d’une hyperbole non dégénérée sont strictement séparés par l’hyperplan constitué par l’une des asymptotes tandis que cet hyperplan ne les sépare pas absolument.

Bishop et Phelps démontrent dans [1] et [5] que :

(a) Les points d’appui d’un convexe fermé d’un Banach sont denses dans sa frontière topologique (Bishop et Phelps).

(b) Si C est un convexe fermé, et X un borné d’un Banach E, toute f ∈ E′ séparant absolument C de X peut être approchée, en norme, par des formes f0 ∈ E′ appuyant C et séparant absolument C de X (Bishop et Phelps).

(c) Les points d’appui d’un convexe faiblement localement compact d’un e. l. c. séparé sont denses dans sa frontière (Klee).

(d) Si C est un corps convexe fermé et X un borné d’un e. l. c. séparé et complet E, toute f ∈ E′ séparant absolument C de X peut être approchée, dans la topologie forte de E′, par des formes f0 ∈ E′ appuyant C et séparant absolument C de X (Phelps).

Phelps donne dans [6] des résultats particuliers aux convexes fermés du dual d’un Banach :

(e) Les points d’appui d’un convexe faiblement fermé du dual d’un Banach sont fortement denses dans sa frontière forte.

(f) Si C et X sont des convexes faiblement fermés du dual d’un Banach E et si X est fortement borné, tout x ∈ E séparant absolument C de X peut être approché, en norme, par des x0 ∈ E appuyant C et séparant absolument C de X (Phelps).

Le paragraphe suivant sera consacré à la démonstration des résultats (b) et (d) en même temps que d’un résultat nouveau à notre connaissance, à savoir :

(g) Si C est un corps convexe fermé et X un convexe faiblement compact d’un e. l. c. séparé E, toute forme f ∈ E′ séparant absolument C de X peut être approchée, dans la topologie de Mackay de E′, par des formes f0 ∈ E′ appuyant C et séparant absolument C de X.

2. Densité des formes d’appui.

Les trois résultats que nous voulons démontrer sont très semblables. La démonstration en est la même dans les grandes lignes. Nous allons réunir ces trois énoncés et en donner une démonstration globale.

Theorème

Soient C un convexe fermé et X un borné d’un e. l. c. séparé E. Soit f ∈ E′ séparant absolument C de X.

(i) Si l’intérieur de C n’est pas vide et si X est convexe et faiblement compact, alors, pour tout convexe faiblement compact B de E, il existe une forme f0 appuyant C, séparant absolument C de X et telle que f0 − f appartienne au polaire B0 de B.

(ii) Si C a un intérieur non vide, et si C est complet [respectivement : (iii) Si E est normable et si C est complet], alors, pour tout borné B de E, il existe une forme f0 appuyant C, séparant absolument C de X et telle que f0 − f ∈ B0.

On reconnaît (g) dans le cas (i), et (ii) [resp. (iii)] est essentiellement (d) [resp. (b)].

Les trois parties du théorème ont, sous leurs hypothèses respectives, des conséquences communes, tant du point de vue séparation que du point de vue densité.

Corollaires

(α) Les formes d’appui de C sont denses, relativement à la topologie de Mackay de E′ (sous les hypothèses de (i)) [respectivement : la topologie forte de E′ (sous les hypothèses de (ii) ou (iii))], dans l’ensemble des formes linéaires continues bornées supérieurement sur C.

(β) C est intersection de demi-espaces fermés déterminés par des hyperplans qui l’appuient (sous les hypothèses de l’un quelconque des trois cas).

De [5] nous avons retenu l’utilisation des applications du type δA (A étant une partie d’un e. v. t. E ), définies par

δA(x) = 0 si x ∈ A et δA = + ∞ en dehors de A.

L’image réciproque par δA d’un intervalle illimité à gauche dans ˉR ne peut être que E, A ou C. Donc δA est s. c. s. ou s. c. i., selon que A est un ouvert ou un fermé. Par ailleurs, δA est convexe si A l’est.

Une telle application peut être appelée indicatrice des appuis, en ce sens que (x0 , f0) est un appui de A si, et seulement si,

δA(x0) = 0 et f0 − f0(x0) ≤ δA (f0 non nulle ∈ E′).

Démonstration

1o Soit z ∈ C tel que

sup f(C) − f(z) < inf f(X) − sup f(C).

Soit D un convexe fermé borné symétrique contenant B et X − z. Dans la situation (i), on supposera de plus que D est faiblement compact. Dans les cas (i) et (ii), on supposera que D contient un point x1 de l’intérieur de C. Dans la situation (iii), on choisira pour D un voisinage de 0. Appelons µ la jauge de D. On a

sup µ(X − z) ≤ 1

et donc il existe un k > 0, que nous choisirons aussi ≤ 1, tel que

k sup µ(X − z) + sup f(C) − f(z) < inf f(X) − sup f(C).

2o Considérons l’ordre sur E défini par

[x ≥ y] ⇔ [kµ(x − y) ≤ f((x − y))].
déf

Nous allons montrer que, dans les hypothèses de chacune des trois parties du théorème, C est inductif pour cet ordre. Soit donc T une partie totalement ordonnée non vide de C. Comme f est croissante pour l’ordre indiqué, on a

sup f(T) = lim(f(tn) | n ∈ N~),

pour une suite (tn | n ∈ N~) croissante dans T. La suite (f(tn)) est Cauchy dans E et, comme

kµ(tn − tm) ≤ |f(tn − tm)|

(parce que tn ≤ tm ou tm ≤ tn), la suite (tn) est « Cauchy pour kµ » en ce sens que

∀ ε > 0, ∃ n0 ∈ N~ : [n et m ≥ 0 ⇒ kµ(tn − tm) ≤ ε].

En d’autres termes, (tn − tm) est finalement dans tout multiple de D, et donc dans tout voisinage de 0 (D est borné). Ainsi (tn) est Cauchy dans E.

Reste à voir que, sous chacune des hypothèses envisagées, (tn) est dans une partie complète de E. C’est trivial si C est complet ((ii) ou (iii)). Sinon,

kµ(tn − t0) − kµ(tn0 − t0) ≤ kµ(tn − tn0)

et cette quantité est ≤ ε dès que n ≥ n0. Posons

α = kµ(tn0 − t0) + ε.
déf                     

Comme tn0 ≥ t0,

kµ(tn0 − t0) ≤ f(tn0 − t0) < + ∞,

et α est fini. Ainsi la suite (tn | n ≥ 0) est dans (α/k)D + t0 qui, dans le cas (i), est complet parce que faiblement compact.

Soit t la limite de (tn). Comme µ−1([0 , λ]) = λD, un fermé, µ est semi-continue inférieurement. Donc

kµ(t − tn) ≤ lim inf kµ(tm − tn) ≤ lim f(tm − tn) = f(t − tn),
m≥n                        m≥n           

c’est-à-dire que t majore chaque tn. Supposons que t′ ∈ T majore aussi chaque tn, d’où

kµ(t′ − tn) ≤ f(t′ − tn) ≤ sup f(T) − f(tn).

Cette dernière quantité tendant vers 0, t′ − tn « tend vers 0 pour µ », ce qui, comme plus haut, entraîne que

t′ = lim(tn) = t.

Ainsi, t majore T tout entier.

3o Soit alors x0 un élément maximal de C majorant z ; x0 maximal veut dire :

si x ≠ x0 et x ∈ C, alors kµ(x − x0) > f(x − x0).

Comme x ∈ C, δC(x) = 0, et on peut ajouter − δC(x) au membre de droite. Si x = x0, on a l’égalité. Enfin, si x ∉ C,

kµ(x − x0) > f(x − x0) > − ∞.

Ainsi, pour tout x ∈ E,

δC(x) ≥ f(x − x0) − kµ(x − x0).

4o Posons

φ(x) = f(x − x0) − kµ(x − x0).
déf                            

L’application δC est convexe, et φ est concave. Appelons C1 l’ensemble des points de E × R~ situés au-dessus du graphe de δC, et C2 l’ensemble des points en-dessous du graphe de φ. L’idée est de séparer ces deux convexes par un hyperplan fermé H dans E × R~. C’est possible dans chacun des cas : si C a un intérieur non vide, C1 contient l’ouvert non vide ̊C × ]0 , →[ ; dans le cas de (iii), on a choisi (alinéa 1o) pour D un voisinage de 0. Par conséquent µ, et donc φ, est une application continue, C2 a un intérieur non vide.

On voudrait ensuite que l’hyperplan fermé H soit le graphe d’une application h : E → R~ (laquelle serait alors nécessairement affine et continue et telle que δC ≥ h ≥ φ. Pour cela, il suffit que H ne soit pas vertical. Dans le cas de (iii), φ est continue et le point (x0 , φ(x0) − 1) est dans l’intérieur de C2. H ne peut donc contenir la droite {x0} × R~. Comme par ailleurs il rencontre cette droite en (x0 , 0), il ne peut être vertical. Dans les autres cas, on a supposé que D contenait un point x1 de l’intérieur de C (alinea 1o). Alors d’une part, µ(x1) ≠ + ∞, donc H, séparant (x1 , δC(x1)) de (x1 , φ(x1)), rencontre la droite {x1} × R~. D’autre part, (x1 , 1) est dans l’intérieur de C1. Donc H, ne contenant pas {x1} × R~, ne peut être vertical.

5o On a donc une forme affine continue h comprise entre φ et δC. Comme

0 = δC(x0) ≥ h(x0) ≥ φ(x0) = 0

h est de la forme f0 − f0(x0) avec f0 ∈ E′. D’ou, finalement,

(1) δC ≥ f0(x − x0),

(2) f0(x − x0) ≥ f(x − x0) − kµ(x − x0).

Toutes les constructions sont terminées, il ne reste plus qu’à interpréter ces renseignements sur f0 et x0.

6o Exploitons (1) : f0 − f0(x0) ≤ δC, ce qui veut dire que (x0 , f0) est un appui de C (on verra au 8o que f0) ≠ 0).

7o Exploitons (2) : f − f0 ≤ kµ, donc f − f0 ≤ k sur D, et a fortiori sur B. Comme k ≤ 1 (alinea 1o), on a bien f0 − f ∈ B0.

8o Pour que f0 sépare absolument C de X, il faudrait montrer que f0 − f0(x0) est, sur X, plus grand qu’une quantité strictement positive. Or, par (2) encore, on a, pour tout x ∈ X,

f0(x − x0) ≥ inf f(X) − sup f(C) - ksup µ(x − x0).

Et

kµ(x − x0) ≤ kµ(x − z) + kµ(z − x0),

donc, en tenant compte du fait que (alinea 3o) x0 majore z,

kµ(x − x0) ≤ kµ(x − z) + f(x0 − z).

Ainsi,

k sup µ(x − x0) ≤ k sup µ(x − z) + sup f(C) − f(z),

et l’on a vu (alinea 1o) que cette dernière quantité est strictement inférieure à

inf f(X) − sup f(C).

Remarque 1. — L’alinea 2o pourrait être extrait de la démonstration, et isolé en un lemme qui s’énoncerait comme suit :

Lemme

Soient E un espace vectoriel topologique séparé, f une application semi-continue supérieurement de E dans ]− ∞ , + ∞[, bornée supérieurement sur un sous-ensemble fermé C de {x ∈ E | f(x) > − ∞}, µ la jauge d’un convexe D fermé borné symétrique et k un nombre réel > 0.

Si l’on a l’une des conditions suivantes :

(i) D est faiblement compact ;

(ii) C est complet ;

alors tout élément de C est majoré par un élément maximal de C pour l’ordre sur {x ∈ E | f(x) > − ∞} défini par

[x ≥ y] ⇔ [kµ(x − y) ≤ f(x) − f(y)].
déf                         

Sous cette forme, on reconnaît, dans le cas (ii) du moins, un lemme de Phelps dans [5]. La démonstration (sauf en ce qui concerne spécifiquement le cas (i)) est plutôt inspirée de [6].

Remarque 2. — Bui Doan Khanh a fait remarquer, au Séminaire, que la démonstration de ce lemme (ou alinea 2o) n’utilisant que la convergence des suites, on peut remplacer, dans les parties (ii) et (iii) du théorème, l’hypothèse « C est complet » par « C est séquentiellement complet ».

Remarque 3. — C’est à l’alinea 5o que nous nous écartons de la ligne suivie par Bishop et par Phelps dans [1] et [5]. Le fait que x0 est maximal revient à dire que

C ∩ {x ∈ E | ku(x − x0) ≤ f(x − x0)} = {x0}.

On peut alors séparer ces deux ensembles (en utilisant, suivant le cas, la continuité de µ ou le fait que C a un intérieur non vide) par ce qui sera alors nécessairement un hyperplan d’appui de C. C’est la méthode dite des « oônes d’appui » de [1] et [5]. Mais il faut alors des calculs longs et peu parlants, même s’ils sont élémentaires, pour arriver aux résultats de densité. Nous avons préféré faire un détour, d’ailleurs très intuitif, qui nous fournit des appuis avec des renseignements suffisants pour réduire la démonstration de densité à une simple vérification.

Comme Phelps dans [6], travaillant sur le dual d’un Banach, nous nous sommes inspirés de [3]. Brønsted et Rockafellar y donnent un résultat dont on pourrait dériver le (b) du § 1. Nous n’avons pas repris le résultat comme tel, mais plutôt une idée de sa démonstration, à savoir le recours à un théorème de séparation dans E × R~.

Remarque 4. — Bishop et Phelps montrent, dans [1], comment on peut construire dans tout espace normé non complet un corps convexe borné fermé dont les formes d’appui ne sont pas fortement denses dans le dual.

Ceci montre (et c’était là le but de Bishop et Phelps) que l’on ne peut espérer supprimer purement et simplement les hypothèses de complétion dans le cas (iii) du théorème.

Mais cela fournit aussi une classe d’exemples illustrant la différence entre la partie (i) du théorème et les deux autres. En effet, les formes d’appui d’un tel corps convexe sont denses dans le dual muni de la topologie de Mackey.

Remarque 5. — L’existence d’appuis n’est pas assurée en général : Klee construit dans [4] un convexe fermé (non borné) de R~N~ qui n’a aucun appui (même purement algébrique). On trouvera dans [2] (II, § 6, exercice 18, dans l’édition de 1966) un autre contre-exemple à cet effet, dû à Choquet. Il s’agit d’un convexe fermé de R~N~ dont le cône asymptote est réduit à [0} et qui n’admet aucun hyperplan d’appui fermé.

Bibliographie

[1] Bishop (Errett) et Phelps (Robert R.). — The support functionals of a convex set, Convexity [1961. Seattle], p. 27-55. — Providence, American Mathematical Society, 1965 (Proceedings of Symposia in pure Mathematics, 7).

[2] Bourbaki (Nicolas). — Espaces vectoriels topologiques. Chap. 1 et 2, 2e éd. — Paris, Hermann, 1966 (Act. scient. et ind., 1189 ; Bourbaki, 15).

[3] Brønsted (Arne) et Rockafellar (R. T.), — On the Subdifferentiability of Convex Functions, Proc. Amer. math. Soc., t. 16, 1965, p. 605-611.

[4] Klee (Victor L.). — On a Question of Bishop and Phelps, Amer. J. of Math., t. 85, 1965, p 95-98.

[5] Phelps (Robert R.). — Support Cones and Their Generalizations, Convexity [1961. Seattle], p. 27-55. — Providence, American Mathematical Society, 1965 (Proceedings of Symposia in pure Mathematics, 7).

[6] Phelps (Robert R.). — Weak* support points of convex sets in E*, Israel J. of Math., t. 2, 1964, p. 177-182.