Version classiqueVersion mobile

Mathesis, idéalité et historicité

 | 
Jean-Toussaint Desanti

De Cauchy à Riemann

Ou la naissance de la théorie des fonctions de variables réelles

Note de l’éditeur

Initialement paru dans F. Le Lionnais, Les Grands Courants de la pensée mathématique, Marseille, Cahiers du Sud, Librairie A. Blanchard, 1962 [1948], p. 179- 187, réédité chez Rivages, 1986, p. 179-187.

Texte intégral

1Dans ses Institutiones Calculi differentialis (1755), Euler écrit les lignes suivantes :

Le calcul différentiel donne les règles qui permettent de trouver la différentielle première d’une quantité donnée. Et, puisque la différentielle seconde se trouve à partir de la première, la troisième à partir de la seconde par la même opération, et ainsi des suivantes, le calcul différentiel contient la méthode pour trouver toutes les différentielles d’ordre quelconque.
De même que dans le calcul différentiel on cherche la différentielle d’une quantité donnée, de même on établit un nouveau calcul pour la recherche de la quantité dont on connaît la différentielle. Ce calcul se nomme calcul intégral.
L’origine et la nature des intégrales peut s’expliquer aussi clairement que celles des différentielles par la doctrine des différences finies exposées dans le premier chapitre. Après avoir montré, en effet, comment on pouvait trouver la différence d’une quantité quelconque, nous avons posé la question inverse, et montré comment la différence étant donnée, on peut trouver la quantité dont elle est la différence. Et cette quantité, eu égard à sa différence, nous l’avons appelé somme. Or, en devenant infiniment petites, les différences finissent par être des différentielles. De même alors les quantités qu’on appelait des sommes prennent le nom d’intégrales
(Institutiones Calculi differentialis, § 138 et 139)

2Par là, Euler croyait résoudre les difficultés qu’avait soulevées, à sa naissance, le calcul infinitésimal. Cette confiance dans la toute puissance de la pure technique opératoire permettait, à ses yeux, de s’évader des impasses dans lesquelles s’était enfermée la métaphysique leibnizienne du continu. Pourtant le développement de cette technique même devait bientôt poser des problèmes urgents et exiger par là un renouvellement d’où allait sortir l’analyse moderne. Nous nous proposons de montrer brièvement un des aspects de ce développement.

*

3À la fin du xviiie siècle il apparaissait clairement que la métaphysique leibnizienne, pas plus que le dogmatisme empiriste de Newton ne permettaient de justifier totalement les méthodes du calcul nouveau. Si l’espace est un absolu (sensorium Dei, dira Newton et, après lui, Clarke), comment comprendre cette divisibilité à l’infini qui constitue son essence ? On se heurtera toujours, comme à un obstacle, au réalisme géométrique de l’étendue, et au réalisme arithmétique du nombre entier. C’est ce qu’avait fort bien vu Berkeley ; on ne peut pas « se représenter » cette « quantité fluente » – elle ne saurait « exister » ; le calcul infinitésimal ne saurait donc se justifier que par sa technique même, par un système « d’erreurs compensées » ; c’est également à la fin du siècle, le point de vue de Lazare Carnot, dans un opuscule intitulé Métaphysique du calcul infinitésimal. Si, au contraire, avec Leibniz, la divisibilité à l’infini de l’espace est solidaire de son idéalité, cette solidarité ne peut se justifier qu’à la condition que l’espace apparaisse comme cet ordre abstrait de coexistence dans lequel se réalise totalement une loi absolue de l’esprit, la loi d’ordre et de continuité. Mais on ne gagne rien à chasser l’absolu de l’espace, si on doit le retrouver dans la loi par laquelle cet espace est construit ; c’est que cette loi doit alors permettre de comprendre, au-delà de la continuité abstraite et relative des « points mathématiques », la continuité réelle et absolue des êtres réels, des « points métaphysiques ». Dès lors on se heurtera aux difficultés classiques de la monadologie, et on verra surgir à nouveau cet absolu de l’espace, qu’on voulait rejeter comme inintelligible ; s’il y a multiplicité des monades, si les monades sont des êtres réels, et si toute multiplicité implique la coexistence des éléments de cette multiplicité, il y aura, sous le regard de Dieu, qui embrasse uno intuitu la totalité actuelle et infinie du monde, un ordre absolu de coexistence des monades, c’est-à-dire, par définition, un espace absolu. Par là il apparaît que l’actualisation de la loi de continuité conduit à une contradiction interne ; la loi de continuité est celle d’un progrès se poursuivant indéfiniment selon le même principe d’ordre ; comme telle elle implique l’idéalité du domaine qu’elle définit. Ce domaine ne peut être dit exister qu’en fonction de la loi purement idéale qui sert à le définir. Dès qu’on la prend comme un absolu, on la nie, puisqu’en supposant achevé comme une totalité actuelle le domaine auquel elle s’applique, on nie l’idéalité de ce domaine.

4Si donc le calcul infinitésimal doit trouver sa justification, ce ne peut être dans une métaphysique de l’infini, dans laquelle il renierait ses propres origines en abandonnant le principe même qui fait sa fécondité. Un retour réflexif vers le sens mathématique des opérations qu’il définit, un effort pour les saisir en toute rigueur, pouvaient seuls permettre d’atteindre cette justification.

5Cauchy devait en être l’initiateur. On ne peut pas dire qu’il soit, maintenant encore, pleinement achevé.

6La première notion qui devait s’offrir à la réflexion fut celle de continuité, et, à travers elle, la notion de correspondance fonctionnelle. Rien n’est plus ambigu, du temps d’Euler, que l’expression fonctio continua. C’est que, pratiquement, depuis Newton et Leibniz, les géomètres ont travaillé sur des expressions analytiques (algébriques et transcendantes) auxquelles ils appliquaient les opérations de dérivation et d’intégration, et qu’ils savaient représenter par des courbes continues (sauf en certains points exceptionnels). Ils ne concevaient pas d’autres fonctions que celles qu’ils savaient ainsi définir et manier et ils les appelaient des fonctiones continuae, sans doute pour marquer qu’elles étaient toujours parfaitement déterminées, indéfiniment dérivables, développables au moyen d’une série de Taylor, intégrables et représentables au moyen d’une courbe algébrique ou transcendante. Le domaine de l’analyse était pour eux nettement défini et ses opérations justifiées par leur technique même. Tel est, par exemple, le point de vue de Lagrange. Or, à la fin du xviiie siècle, il n’était plus possible de maintenir cet empirisme de la continuité, qui, on le voit, tournait le dos à la métaphysique leibnizienne. Il apparut en effet que la notion de correspondance fonctionnelle contenait beaucoup plus que ne le comportait l’expression analytique qui, généralement, la traduit.

7Cet élargissement fut rendu nécessaire dès que l’étude de l’équation des cordes vibrantes conduisit à montrer que certaines fonctions non continues pouvaient être représentées au moyen d’une série trigonométrique convergente de la forme :

dans laquelle on peut déterminer les coefficients an et bn. Un tel résultat, dû à Fourier, ne se bornait pas simplement à exploiter des méthodes de calcul, dont l’essentiel se trouvait déjà chez Lagrange et Euler. Il introduisait en analyse une idée générale nouvelle : le développement en série trigonométrique permet de représenter une classe de fonctions plus générale. Par là il posait un problème nouveau ; à quelles conditions la série trigonométrique associée à une fonction donnée est-elle convergente ?

8Or la réponse à une telle question implique, selon l’expression de Dirichlet, « la substitution des idées au calcul », et, tout d’abord, une définition de la correspondance fonctionnelle indépendante de toute forme d’expression analytique. C’est cette définition que l’on trouve chez Cauchy et, plus tard, chez Riemann. On dira que y est fonction de x, si à toute valeur bien déterminée de x correspond une valeur bien déterminée de y quelle que soit la forme de la relation unissant x et y. Dès lors pour établir en toute généralité et toute rigueur les propriétés relatives aux fonctions, il importera de ne jamais faire intervenir dans un raisonnement concernant ces propriétés la forme particulière d’expression, algébrique ou transcendante, par laquelle, généralement, une fonction est actualisée. Mais par là même la notion de courbe va se trouver généralisée ; les « courbes mécaniques » vont être intégrées au domaine de l’analyse. Du même coup la notion de fonction se trouve libérée du recours exclusif à l’intuition géométrique. De là cette définition rigoureuse de la continuité, due à Cauchy, et que l’on retrouve dans tous les traités d’analyse : une fonction f(x) est continue pour la valeur x0 de la variable, si quel que soit le nombre ε > 0, on peut trouver un nombre η, fonction de ε, tel que l’inégalité |h| < η entraîne l’inégalité

9On dira que la fonction est continue dans l’intervalle (a, b) si elle l’est pour toute valeur de x dans (a, b), c’est-à-dire si la correspondance entre ε et η est indépendante de x0 (continuité uniforme). Cette dissociation entre la définition de la continuité et l’intuition géométrique devait porter tous ses fruits dès l’instant où Weierstrass donna l’exemple d’une fonction continue sans dérivée. L’expression

dans laquelle b est un nombre positif inférieur à l’unité et a un nombre impair, n’admet de dérivée pour aucune valeur de la variable. Une telle découverte ne révèle pas seulement l’autonomie des techniques de l’analyse par rapport à la géométrie. Elle montre à quel point l’esprit de rigueur, apporté par Cauchy, introduit les risques d’une crise nouvelle. Désormais le support de l’intuition géométrique manque à l’analyse ; elle doit fonder sur elle-même ses propres principes, et délimiter par ses propres moyens son domaine ; si l’intuition géométrique ne suffit plus à garantir de l’absurdité, où trouver un critère suffisant de clarté et de rationalité ? De cette crise devait sortir la théorie des ensembles.

10En effet, de 1807 (date des premiers travaux de Fourier sur les séries trigonométriques) à 1873 (date des premiers travaux de Cantor sur l’ensemble des nombres réels), un double mouvement convergent conduit vers la théorie des ensembles. L’un se poursuit à travers Cauchy, Dirichlet, Fourier et Riemann ; il concerne le problème technique de l’intégration des fonctions. L’autre poursuivi à travers les œuvres de Bolzano, Dedekind, Weierstrass et Cantor, concerne les principes de l’analyse et la délimitation de son domaine.

11En ce qui concerne le premier point, et pour nous borner à un exemple, on sait comment Riemann fut conduit à généraliser l’opération d’intégration. Il se demande, à la suite de Dirichlet, à quelles conditions une fonction f(x) peut être représentée par un développement en série trigonométrique convergent. Aux trois conditions de Dirichlet : 1° la fonction doit rester finie dans l’intervalle ; 2° elle doit y avoir un nombre fini de maxima et de minima ; 3° elle doit avoir un nombre fini de points de discontinuité, Riemann ajoute une quatrième condition ; puisque la coïncidence entre la fonction et la série doit se manifester encore aux points de discontinuité on doit admettre que la fonction est égale à la valeur moyenne de ces deux limites aux points de discontinuité. Mais pour comprendre le lien entre cette nouvelle condition et les précédentes il importait de réviser les principes mêmes de l’analyse ; c’est qu’aucune des trois conditions de Dirichlet n’était nécessaire et suffisante ; il fallait donc les transformer en énoncés plus généraux et, pour cela, refaire une théorie de l’intégration. C’est là l’objet de la deuxième partie du mémoire de Riemann. Cauchy avait rendu possible un tel effort en définissant l’intégration en dehors de toute intuition géométrique : l’intervalle (a, b) étant divisé en intervalles partiels δi au moyen des nombres croissants ai (i = 1, 2,… n), la somme

tend vers une limite L lorsque le maximum des intervalles δi tend vers zéro. C’est cette limite qui est par définition l’intégrale définie de la fonction f(x) dans l’intervalle. Cette définition s’applique aux fonctions continues. Mais elle peut être étendue sans difficulté au cas des fonctions discontinues. Si c est un point singulier d’une fonction, on pourra écrire :

à condition que chacune des intégrales figurant au second membre tende vers une limite déterminée lorsque ε tend vers zéro. Riemann reprend le mode de division de Cauchy, et il forme deux sommes

12S = ∑ Miδi S avec les conditions suivantes :

S = ∑ Miδi

m (b – a) ≤ s ≤ S ≤ M(b – a)

dans lesquelles mi et Mi représentent respectivement la borne inférieure et supérieure de la fonction dans chacun des intervalles δi. Chacune de ces sommes tend vers une limite déterminée lorsque le maximum des intervalles δi tend vers zéro. Soit L et l ces limites. On pose

(intégrale par excès) et

(intégrale par défaut). Si ces deux limites sont égales on dira, par définition, que la fonction f(x), définie dans (a, b) est intégrable et que son intégrale est

13Une telle définition ne fait pas intervenir les propriétés particulières de f(x) ; en particulier elle est totalement indépendante du mode d’expression analytique de la fonction. Cependant pour qu’elle soit valable il importe de se demander à quelles conditions une fonction arbitraire peut être intégrable en ce sens. Or, si on ne peut avoir recours ni à l’intuition géométrique, ni à un mode d’expression analytique déterminé, dont on examinerait les propriétés actuelles, il ne reste plus qu’une seule voie pour une telle recherche ; c’est d’examiner la manière dont les divers points de la fonction sont répartis dans l’intervalle (a, b). En effet

S = s =∑(Mi-mi)δi (b-a)(Mi-mi)

14Si on donne à la quantité Mi – mi le nom d’oscillation de la fonction dans chaque intervalle δi et si on la désigne par ωi, S – s doit toujours être inférieure ou égale à (b – a) ωi. Or dire que la fonction f(x) est continue sur l’intervalle (a, b) c’est dire qu’il existe un nombre η tel que pour δi < η, ωi soit inférieur à un nombre positif donné. En particulier on pourra toujours choisir η tel que ωi soit inférieur à. Ɛ/(b-a). S – s sera alors inférieur à ε. Un tel raisonnement implique bien un approfondissement des définitions de Cauchy ; il donne tout son sens à la notion de continuité telle qu’il l’a introduite. Désormais les fonctions continues ne vont plus jouir dans l’analyse d’un privilège de nature théologique ; si elles sont intégrables, ce n’est plus, comme le croyait Leibniz, parce qu’une même loi de continuité préside à l’organisation, dans le tout où elles s’intègrent, des différences infiniment petites. S’il en était ainsi la dérivation et l’intégration devraient être rigoureusement symétriques et toute fonction continue devrait être indéfiniment dérivable ; or il n’en est rien. Désormais au contraire l’intégrabilité apparaît comme exprimant un ensemble de propriétés du champ des valeurs de la variable – la continuité est une de ces propriétés, parmi d’autres. On comprend, dans ces conditions, pourquoi on forme, a priori, les deux sommes ∑ Miδi et ∑ mi δi . C’est que les deux quantités mi et Mi permettent d’établir des propriétés précieuses ; si nous supposons que, par divisions successives, l’intervalle δi tende à se réduire à un point, chacun des nombres Mi et mi tend vers une limite unique λ et Λ que l’on appelle le minimum et le maximum de la fonction au point xi ; et leur différence Λ – λ = ω (xi) définit l’oscillation de la fonction en ce point. Dès lors la définition de la continuité donnée par Cauchy va apparaître comme une particularisation d’une définition plus générale ; celle de la mesure de la discontinuité en un point ; la quantité ω(x) ne peut être qu’un nombre positif ou nul. Si elle est positive et égale à ε on dit que la mesure de la discontinuité en ce point est ε. Une fonction continue apparaît ainsi comme une classe particulière de fonctions discontinues dans lesquelles la mesure de la discontinuité est nulle. Or la condition que lim ζ – ς = 0 lorsque le maximum de δi tend vers zéro dépend expressément du mode de distribution dans (a, b) des points pour lesquels ω(x) est supérieur à ε. En particulier (et c’est, au langage près, la condition d’intégrabilité énoncée par Riemann), si l’on désigne par σ la longueur totale des intervalles (supposés sans partie commune), dans lesquels l’oscillation totale est supérieure ou égale à σ, il faut et il suffit que σ tende vers zéro, lorsque, ε restant fixe, les intervalles δi tendent vers zéro. Dès lors les fonctions discontinues seront intégrables, pourvu que l’ensemble de leurs points de discontinuité puisse être enfermé dans un nombre fini de segments dont la somme des longueurs soit aussi petite que l’on veut. Conformément au langage introduit par Paul du Bois Reymond, on dit qu’un tel ensemble constitue un groupe intégrable. On voit par là la signification de l’opération d’intégration telle que la définit Riemann ; elle est la traduction synthétique d’un système de propriétés qu’une analyse locale de l’ensemble des points de l’intervalle de variation de la variable permet de mettre en évidence. Mais l’instrument de cette analyse locale n’est plus, comme du temps de Leibniz, la différenciation (qui, elle, conduit toujours à une expression analytique déterminée, doublée d’une représentation géométrique) ; cet instrument doit être une étude rigoureuse des propriétés de la fonction au voisinage des points de discontinuité, et, corrélativement, une étude de la manière dont l’ensemble de ces points est contenu dans l’intervalle de variation. C’est dire qu’une telle extension ne pouvait apparaître avec tout son sens qu’à partir du moment où une technique nouvelle devait permettre d’étudier, a priori, dans un intervalle donné, les rapports d’inclusion ou d’exclusion que l’analyse met en évidence au sein de l’ensemble, généralement infini, des points constituant cet intervalle. Ainsi la définition de la notion d’intégrale conduit à la théorie des ensembles.

15Or une telle extension impliquait une recherche nouvelle ; il fallait définir le domaine de l’analyse en dehors de tout appel à l’intuition géométrique du continu. Déjà dès 1799, Bolzano, en examinant les démonstrations du théorème suivant : « Toute fonction algébrique rationnelle d’une variable peut être décomposée en facteurs réels du premier ou du deuxième degré », avait introduit le lemme suivant : « Soit dans un intervalle (a, b) une propriété M que possèdent tous les nombres de l’intervalle inférieurs à un nombre u. Il est possible de déterminer dans (a, b) un nombre U plus grand que tous les nombres tels que u. » Si u + v est un nombre ne possédant pas la propriété M et si l’on forme la suite

  • 1 Cf. Jean Cavaillès, Remarques sur la formation de la théorie abstraite des ensembles, Hermann, p. 1 (...)

ou bien le nombre U est un des termes de la suite, ou bien il sera défini comme la limite de cette suite. Dans le second cas, il importe de montrer que la suite est bien convergente et qu’elle a U pour limite. Bolzano pense établir ce résultat en montrant qu’on peut calculer la limite de cette suite au moyen d’une approximation arbitraire. Mais la suite des approximations doit elle-même, dans ce cas, former une suite convergente. Or comment démontrer cette convergence ? Il semble que l’appel à l’intuition soit nécessaire sous peine de cercle vicieux1.

16De là les conceptions de Dedekind qui devaient permettre de donner un sens rigoureux à l’idée de limite d’une suite convergente.

17Soit l’ensemble E des nombres rationnels. Cet ensemble forme un « corps » ; c’est-à-dire que si l’on combine deux éléments de cet ensemble par addition, soustraction, multiplication, division, le résultat de l’opération est encore un élément de l’ensemble (sauf si le diviseur est zéro).

18Cet ensemble est en outre caractérisé par les trois axiomes suivants : 1° un élément quelconque b de l’ensemble est compris entre deux éléments a et c de l’ensemble, dont l’un le précède et l’autre le suit et on a la relation a < b < c ; 2° étant donné un élément ai de l’ensemble il est toujours possible de choisir dans le voisinage de aiun élément ai–1 tel que ai – ai–1 < ε, ε étant un nombre positif choisi à l’avance aussi petit que l’on voudra ; 3° chaque élément sépare l’ensemble en deux classes telles que tout élément de la première classe soit inférieur à tout élément de la seconde.

19Considérons l’opération définie par le dernier de ces axiomes. Si nous tenons compte également de l’axiome 2°, elle permet de construire un ensemble E’ dont chaque élément λ, jouit de la propriété suivante ; il divise l’ensemble E en deux classes A et B définies par l’axiome 3°, telles que dans la classe A il n’y ait pas de nombre supérieur à tous les autres et dans la classe B, de nombre inférieur à tous les autres ; λ, nombre séparatif de ces deux classes, constitue une coupure dans l’ensemble des nombres rationnels ; on dit qu’il définit un nombre irrationnel. On voit que l’ensemble E’ des coupures constitue un corps ; c’est une conséquence de l’axiome 2°. Il est impossible d’ajouter à cet ensemble un nouvel élément sans qu’il coïncide avec un élément déjà défini. On pourra ainsi définir sur E’ les mêmes opérations que sur E. Si donc on adjoint au corps E le corps E’ on obtient un nouveau corps inextensible défini par les trois axiomes énoncés plus haut. Ce corps forme l’ensemble des nombres réels.

20Dès lors on peut toujours montrer l’existence de la limite d’une suite convergente, sans avoir recours à l’intuition géométrique. Soit la suite convergente u0, u1, u2,… un,…

21Lorsque n > N, N étant arbitrairement grand, un tend vers un nombre λ jouissant de la propriété suivante ; il constitue une coupure entre deux classes de nombres réels, la première comprenant l’ensemble des nombres inférieurs à un pour n > N, la seconde comprenant tous les autres nombres. Ce nombre est donc bien déterminé.

22Ainsi à travers le long détour de la théorie des fonctions, l’analyse revient à son point de départ : la découverte des irrationnelles. Ce qui apparaissait aux Pythagoriciens comme un scandale, apparaît désormais comme la justification essentielle de l’opération constitutive de l’analyse ; le passage à la limite. Or si, pour atteindre cette rigueur, il avait fallu échapper à la fois aux fausses évidences de l’intuition spatiale et aux entraves de l’expression analytique, il restait à forger un instrument nouveau qui puisse permettre de parcourir et de connaître sans ambiguïté les propriétés de l’ensemble des nombres réels. La création de la théorie des ensembles comme moyen d’analyse de l’infini était nécessaire dès le dernier tiers du xixe siècle. En cela les idées de Cantor prolongent celles de Cauchy, de Dirichlet et de Riemann. Mais, loin de clore tous les problèmes, la découverte de Cantor devait engager la mathématique dans une nouvelle aventure.

Notes

1 Cf. Jean Cavaillès, Remarques sur la formation de la théorie abstraite des ensembles, Hermann, p. 12 et 13.

Le texte et les autres éléments (illustrations, fichiers annexes importés) sont sous Licence OpenEdition Books, sauf mention contraire.

Rechercher dans OpenEdition Search

Vous allez être redirigé vers OpenEdition Search