Introduction

La dérivée « au sens de Fréchet » des fonctions entre espaces normés est maintenant une notion classique. Cette dérivée jouit des principales propriétés élémentaires de la dérivée des fonctions réelles d’une variable réelle et de quelques autres moins élémentaires.

Dans le cas des espaces non normés, la situation est moins favorable. Parmi les propriétés de la dérivée, je distinguerai les « propriétés de base », les propriétés élémentaires liées à la définition même, telle, par exemple, la règle de dérivation d’une fonction de fonction ; et les « résultats fondamentaux », les grands théorèmes de la moyenne, de Taylor, des fonctions implicites.

Les problèmes les plus importants apparaissent dès le niveau de ce que j’ai appelé « propriétés de base », si l’on admet comme telles les propriétés que le composé de deux fonctions est de classe 𝒞¹, ou deux fois dérivable avec celles-ci. La démonstration classique utilise la continuité, ou la différentiabilité, de l’application canonique de composition :

L(E;F] × L(F;G] → L(E;G]

sur les espaces d’opérateurs linéaires continus entre les espaces normés E, F et G. Pour des espaces localement convexes, on ne peut pas donner de définition générale de topologie localement convexe sur les espaces d’opérateurs linéaires continus qui rende cette application continue et telle que l’espace L(R;E) soit isomorphe à E (voir Keller, « Über Probleme »).

De même l’isomorphisme entre L[E;L(F;G)] et l’espace L(E,F;G] des applications bilinéaires continues, isomorphisme dont on dispose dans le cas des espaces normés, n’est plus assuré pour les espaces localement convexes généraux, ce qui complique le traitement des dérivées d’ordre supérieur.

Ainsi l'usage même de la structure d'espace localement convexe, avant toute définition de dérivée, compromet en partie le développement d'un calcul différentiel.

De là vient que la plupart des auteurs qui se sont attaqués au calcul différentiel dans les espaces non normés ont fait appel à des structures autres que topologiques. C'est le cas de Frölicher et Bucher, Bastiani, Binz, Keller et cetera, d'une part ; Jose Sebastião e Silva d’autre part.

Le point de vue des auteurs du premier groupe est explicité par Frôlicher et Bucher, Bastiani et surtout Keller, dans « Über Probleme ». Ils procèdent en munissant les espaces L[E;F] d'une structure plus générale, pour laquelle l'application canonique de composition soit continue. Et si l’on veut dériver à son tour la fonction dérivée qui est à valeurs dans un tel espace L(E;F), il faut faire toute la théorie de la dérivée pour la structure plus générale, obtenant ainsi un calcul différentiel pour les fonctions entre espaces localement convexes comme cas particulier.

Jose Sebastião e Silva, dans son « Calcul », base la définition de dérivée d'une fonction entre espaces localement convexes sur les bornés de ces espaces. Cela revient en fait, cowme il le fait remarquer ultérieurement dans « Espaces à bornés et fonction différentiable », à utiliser la structure à bornés convexes associée à ces espaces. Si E et F sont des espaces localement convexes, on peut définir un espace a bornés convexes L(E;F) adapté à notre problème de composition.

La relation de l’espace localement convexe à son espace à bornés convexes associé est fonctorielle mais ne va plus du particulier au général, comme c’était le cas pour les structures pseudo-topologiques utilisées par les auteurs du premier groupe. Nous verrons comment les espaces a bornés convexes peuvent être, au même titre que les espaces localement convexes, considérés comme des cas particuliers d’espaces pseudo-topologiques au sens du « Calculus » de Frölicher et Bucher. De plus, la définition de Silva pour la dérivée d'une fonction entre espaces localement convexes apparaît alors comme la particularisation de la définition de Frölicher et Bucher, non pas aux espaces localement convexes eux·mêmes, mais bien à leurs espaces à bornés convexes associés.

ll serait malheureux de faire un choix définitif d’une notion de dérivée du point de vue de ces « propriétés de base » et donc, essentiellement, selon les critères théoriques énoncés par Keller dans « Über Probleme ». En effet, telle ou telle notion pour laquelle le composé de fonctions de classe 𝒞¹ ne serait plus nécessairement de classe 𝒞¹ peut cependant être intéressante pour l’étude des fonctions, considérées isolément, du second point de vue.

Ce second point de vue est celui de ce que j'ai appelé les « résultats fondamentaux ». Le théorème de la moyenne pour les fonctions d’une variable réelle sur un intervalle fermé et borné vaut pour toutes les notions considérées. On aurait pu craindre que, dans les conséquences du théorème de la moyenne, le défaut de certaines « propriétés de base » se fasse sentir puisque l’on appliquera le théorème à des fonctions composées de la forme g(t]=f(a+th] ou t est un nombre réel ; mais, pour ce composé simple, la difficulté n’est qu'apparente. Les premières conséquences du théorème de la moyenne restent donc indépendantes de la notion choisie.

Assez curieusement, c’est la question de la dérivation d'un polynôme qui départage les différentes notions de dérivée. N’ayant pu dériver un polynôme « au sens de Fréchet », j’ai dû abandonner, pour cette notion, la démonstration du théorème de Taylor. Je ne sais pas non plus si le théorème est faux pour cette notion, mais il reste que la notion de dérivée la plus naturelle à première vue, la plus proche dc la dérivée de Fréchet pour les espaces normés, apparaît comme présentant des inconvénients sérieux. D’une autre notion de dérivée, nommée d’après Gâteaux, je ne sais pas si elle vérifie la règle de dérivation d’une fonction de fonction. Force est de constater que ces illustres mathématiciens voient leurs noms associés aux deux définitions les plus mauvaises. On peut en tirer la leçon que, contrairement au cas, sans danger, des théorèmes, il faut attendre l'épreuve du feu avant que de lier un nom propre à la généralisation d’une définition.

Le théorème des fonctions implicites, dans son énoncé classique, est également faux pour toutes les notions de dérivées. Cela résulte de contre-exemples qui ont la particularité de préexister à toute définition de dérivée. Ce point sera discuté avec plus de détails en son lieu.

*  *  *

La dissertation s'organise autour du paragraphe premier du chapitre 3. On y décrit et compare quelques unes des notions de dérivée que 1'on trouve dans la littérature. Je fais peu de place aux définitions fondées sur des structures pseudo-topologiques. Cette direction de recherche culmine dans 1'excellent « Calculus » de Frölicher et Bucher. La définition de Silva est basée sur la structure d'espace à bornés convexes et son application demandait quelques préliminaires. Les chapitres 1 et 2, formant la Première partie, traitent des fonctions continues entre espaces à bornés convexes et de la dérivée de telles fonctions y compris les « propriétés de base ». Avant cela un chapitre 0 a précisé les positions respectives des différentes structures considérées et décrit des foncteurs les reliant. Ainsi ce paragraphe 1 du chapitre 3 marque le passage des préliminaires à 1'objet 1ui-même de ce travail le calcul différentiel dans les espaces localement convexes : c'est la Deuxième partie (chapitres 3, 4 et 5] ou l’on trouvera la théorème de la moyenne et ses applications, le théorème de Taylor, et des résultats concernant le problème des fonctions implicites.

Les quelques exemples qui servent d'illustration ou de contre-exemple sont regroupés. Enfin des Appendices contiennent des renseignements sur des notions ou des résultats peu connus ou difficiles à trouver dans la littérature.

Le texte principal est divisé en chapitres, paragraphes et numéros, les appendices en numéros. Les références se font aux numéros par trois nombres (A et deux nombres pour les appendices) qui ont un sens évident.