Les différentes limitations dans les dictionnaires feraient-elles une histoire des limites ?

1Alors que la publication survenait en l’an VI, qu’elle se trouvait enrichie de nouveautés révolutionnaires mais aussi bien délivrée de trop nombreux exemples, le Dictionnaire de la langue françoise n’accorda au mot limite aucune acception mathématique. Il y avait pourtant le précédent d’un article de l’Encyclopédie du très savant et très expert Jean d’Alembert, et Denis Diderot avait commis un livre de géométrie différentielle1. Le Dictionnaire de l’an VI prit essentiellement le mot au pluriel. Or si l’origine s’enracine en limes, ce chemin qui borne deux champs, et si les limites sont les « bornes qui divisent, qui séparent un territoire, une Province, un Etat d’avec un autre2 », les mathématiciens ne pouvaient d’abord rien faire d’une notion plurielle aussi ambiguë par la variabilité de ses évidences, mêlant l’idée d’une borne à celle d’une approche de quelque chose qui se doit d’être autre puisqu’il s’agit d’un extérieur. Pas plus d’ailleurs qu’ils n’eurent usage de la notion de frontière mise au pluriel. Car le bon sens indique qu’il faut une seule frontière entre deux pays, encore qu’elle ait nécessairement deux faces tournées chacune vers un intérieur avec les deux postes douaniers usuels. Pouvait-on envisager à cette époque que la frontière, par une élaboration de la notion de limite, pût être pensée en soi et pour un seul état sans qu’au moins un autre dût intervenir ? Nous allons pourtant voir survenir la métamorphose des mots grâce à la pensée mathématique, et c’est l’intérêt de cette saisie d’une évolution qui évite précisément de donner aux mathématiques le premier mot.

2Les difficultés inhérentes au mot limite font qu’on ne sait vraiment plus s’il faut l’écrire au singulier ou au pluriel lorsqu’on décrit la borne du monde, que ce soit celle du monde connu, celle du monde réel, ou celle du ciel ! Ou lorsque l’on suggère une frontière entre le monde sublunaire et le monde stellaire. Une bonne façon de se débarrasser des difficultés sans trop avoir à penser, et quitte à jouer du paradoxe, est de décider mobile le firmament et la sphère des fixes ! À vouloir des mondes sans limites, Giordano Bruno connut une horrible fin au Campo dei Fiori en 1600. Ne serait-ce pas que toute limitation mise au mot limite signale un refus, celui de faire explicitement voir un recours à l’infini ? Ce dernier mot n’appartenait pas au vocabulaire ordinaire des mathématiciens, réservé à la métaphysique et à la théologie. Il est devenu vocabulaire propre pourtant de la philosophie naturelle à laquelle les mathématiciens n’avaient pas accès, ni même peut-être envie d’avoir accès. La limite avait été un lieu réservé aux happy few, comme le vide qui ne saurait exister que dans la pensée, ou le ciel supra lunaire des Aristotéliciens, un lieu accessible au seul philosophe et sur lequel tout se passerait autrement que sur Terre, celle-ci désignant un monde borné par nature parce qu’immobile. Il fallut l’audace de Galilée pour nous débarrasser, non pas des magnifiques questions de l’infini, mais de l’interdit qui pesait sur elles en tant que questions également ouvertes à l’investigation du mathématicien physicien.

3Publié en 1983, le Trésor de la langue française consacrera certes une définition mathématique au mot limite, mais ne le fera qu’à regret, une fois accepté un sens au pluriel et pris comme exemple symptomatique de limites celui des « possibilités (intellectuelles) qui ne peuvent être dépassées3 ». J’apprécie ces parenthèses entourant l’adjectif comme la confirmation d’un lapsus ; le lexicographe positiviste se souvient des limitations à mettre a priori sur le mot. Ainsi l’histoire de la langue, passant du pluriel au singulier pour le mot limite, dirait-elle platement l’histoire progressive des mathématiques, avec abandon progressif de sens métaphoriques dérivés et inutilement limitatifs ? Ou faut-il chercher mieux, en traquant si l’on peut dire, la cache de l’infini dans les emplois mathématiques du mot limite ? Ou encore enfermer dans le seul mot de limite tous les contournements volontaires de l’infini, et ce jusqu’à nos jours ?

4De l’avis de tous les historiens, c’est seulement à partir du début du XIX^e siècle qu’exista une théorie des limites correctement élaborée ; elle fut le fait d’Augustin Louis Cauchy, né symboliquement en 1789 et elle est passée dans l’enseignement usuel jusqu’à nous. Elle fut indissociablement associée à la notion qui nous paraît si simple de nombre réel, car cette notion était devenue le modèle universel de toute mesure, par exemple celle des longueurs. Qu’en était-il de l’infini ? Cauchy a effectivement donné un critère (évidemment dit de Cauchy depuis), ce qui est dire dans le jargon mathématique qu’il a exhibé une condition nécessaire et suffisante pour qu’une suite par nature infinie de nombres réels possède une limite. Mais il le fit sans pour autant avoir à nommer explicitement cette limite même4 ; ce fut un acte analytique, mais pas au sens kantien puisqu’il y eut une invention inattendue ne résultant pas plus d’une intuition synthétique a priori. La limite répondait enfin à autre chose qu’elle même, ne se réduisant pas à répéter la définition que l’on voulait en donner. Aussi Cauchy pouvait-il, dès le début de son Cours d’Analyse en 1821, poser une notation qui pour évoquer de limites effaçait la limitation sémantique introduite subrepticement avec le mot de suite mis après limite, dans limite d’une suite. La définition de la limite portait effectivement sur toute la variable, qui elle-même est un autre nom donné aux nombres réels. Le vocabulaire de Cauchy est éloquent, quoique peu mathématique, qui oppose le variable au fixe, par le biais d’un nouveau verbe, converger, dont le mérite est de renverser la charge de la preuve, l’infini devenant si l’on peut dire, fini.

Lorsqu’une quantité variable converge vers une limite fixe, il est souvent utile d’indiquer cette limite par une notation particulière ; c’est ce que nous ferons, en plaçant l’abréviation lim devant la quantité variable dont il s’agit5.

5Cette étape franchie, ou plutôt ce tour de force rhétorique admis, Cauchy pouvait passer au pluriel, mais il devait modifier la notation, toutefois sans changer le mot limite.

Quelquefois, tandis qu’une ou plusieurs variables convergent vers des limites fixes, une expression qui renferme ces variables converge à-la-fois vers plusieurs limites différentes les unes des autres. Nous indiquerons alors une quelconque de ces dernières limites, à l’aide de doubles parenthèses placées à la suite de l’abréviation lim., de manière à entourer l’expression que l’on considère6.

6Cauchy donne des exemples répétés aujourd’hui par tout débutant en analyse, mais qui faisaient date alors, la par tout débutant en analyse, mais qui faisaient date alors qui prend seulement « deux valeurs + ∞,-∞ », et enfin qui prend « l’infinité »7 des valeurs comprises « entre les limites – 1 et + 1 ». L’idée pour ce dernier cas, une idée de calcul sur les suites, étant que pour toute valeur réelle y comprise entre-1 et + 1 on puisse construire des valeurs réelles x n telle que, la suite x_n convergeant vers 0, la suite associée converge quant à elle vers y. L’image qui fait la mémoire actuelle de la pratique élémentaire de l’analyse est celle d’oscillations d’une même amplitude entre-1 et + 1 et de plus en plus resserrées autour de 0. C’est avec une telle image, aujourd’hui banale sur les écrans mais encore rare dans les manuels, que l’on prend conscience du détour tout pratique que comporte le mot « suite » : il est certes le signe discret qu’un recours à l’infini a eu lieu pour établir la notion de limite, mais c’est un infini que l’on peut dire calibré puisqu’il a été numéroté. Quoique l’on cache au final ce calibrage par l’utilisation du verbe « converger », lequel s’applique à la variable toute entière. Or la convergence tient son emploi premier en optique géométrique, par Kepler notamment en 1611 lorsqu’il précisait physiquement la lunette astronomique utilisée par Galilée pour faire voir la diversité mobile des satellites de Jupiter : Kepler donne à voir des rayons convergent au sein d’un appareillage optique et ils définissent une image optique (Ill. 4). Quel étrange destin d’un mot qui désignant d’abord le « vu » par excellence, ou le vu construit comme diraient sociologues et cognitivistes, signifie désormais ce qui ne se verrait qu’après une infinité d’opérations ! N’est-ce pas une finitisation de l’infini, et donc une forme de déguisement acceptable ?

7La théorie de Cauchy, fixée sur les variables réelles et dont j’ai omis de dire les imperfections quant à la notion d’uniformité, fut elle-même subsumée par la topologie codifiée au début du XX^e siècle qui permit de multiplier les types de limites selon précisément toutes les topologies disponibles sur des espaces variés, et d’abord sur le plan, algébrisé par la notion de nombre complexe. Il est vrai que la pluralité acquise ne résidait plus dans la notion même, mais dans ses diverses réalisations. Il est vrai aussi que le critère de Cauchy n’est plus valide en général, mais seulement pour certains espaces joliment dits complets, et tel est bien sûr l’espace des nombres réels (pour sa topologie usuelle). On mesure du coup la valeur d’un retour sur la conception des nombres réels eux mêmes telle que réalisée par David Hilbert en 1899 pour ses Grundlagen der Geometrie, lorsqu’il indiquait ces mêmes nombres (utilisés par Cauchy pour les limites) comme formant un ensemble contenant les entiers naturels, muni de certaines propriétés d’opérations (addition, soustraction, multiplication, division) ou de comparaison (ordre total) et de compatibilité (l’addition d’un positif à tout nombre donné ne peut qu’augmenter ce dernier) qui soit tel qu’on n’y puisse rien ajouter sans perdre au moins une de ces propriétés. Provenue des limites d’abord envisagées sur le cas de ces seuls nombres réels, le réel réalisait un optimum. La propriété d’être complet pour l’ensemble des objets qualifiés de nombres réels, aboutissait à la considération de ces mêmes nombres comme ne pouvant pas être dépassés dans leur rôle de mesure. Pour le redire en une autre acception du mot, s’attachant non plus à l’objet mais à son objectif, les nombres étaient complets dans leur ensemble. La topologie qui avait permis ce passage, et dont on peut apercevoir la structure par l’organisation de la première page sur les limites, de l’index, et de la table des matières du premier volume portant ce nom dans les Éléments de mathématiques de Bourbaki (ill. 1, 2 et 3), agissait à partir des notions de proximité et de voisinage, sans celle d’une borne qui parasitait plus tôt l’idée de limite, et sans même l’idée d’une suite que l’on a vu dûment mentionnée chez Cauchy. La convergence, partie d’une idée d’optique, s’en trouvait mathématiquement définie.

8De la sorte, la langue s’enrichissait de la notion de point limite, signe qu’un nouvel objet mathématique réalisait l’idée nouvelle, ou pourrait-on dire sous forme d’oxymoron, l’incarnait. L’expression de point limite n’était pas seule, et avec elle venait aussi le point d’accumulation, l’adhérence, et juste avant la seconde guerre mondiale, survint de façon inattendue le mot de filtre que l’on aperçoit dès les premières lignes de Bourbaki consacrées à la limite. Elle provenait de l’expression de famille filtrante (net en anglais). C’est, si on analyse, une assez admirable réalisation d’une convergence qui est adaptée à la nécessité d’un infini ne se réduisant pas à celui indiqué par l’idée de suite, mais avec le mot filtre, l’infini n’apparaît plus en tant que tel. Ces mots sont tous dûment liés au concept de limite tel qu’engagé par la topologie. Cette science qui est étymologiquement celle des lieux, accordait dès lors un sens que l’on peut dire absolu aux notions d’intérieur ou de frontière. Tel est bien un achèvement. Bien sûr, ces notions étaient appliquées à un sous-ensemble donné, la frontière étant définie comme l’ensemble des points limites de ce sous-ensemble qui ne résident pas en son intérieur. L’extérieur d’un sous-espace topologique avait sa définition propre, devenant l’intérieur de son complémentaire. En passant par la langue du statut de notion ou d’idée à celle d’objet, la nécessaire relativité de la frontière ou celle de l’intérieur provenait du choix préalable d’une topologie sur l’ensemble en jeu.

Ill. 1, 2 et 3. Le début de la section dédiée aux limites (§ 7), le détail de la table des matières qui correspond au chapitre premier du premier volume de Topologie générale dans les Éléments de mathématiques de Bourbaki (Paris, Hermann, 1971, p. 46), et l’index des expressions utilisant le mot « limites ».

Déconstruire l’abstraction lorsqu’elle est envisagée comme un régime continu de la pensée mathématique

9Est-ce à dire que la richesse actuelle de la limite, dûment encadrée dans une théorie formellement rigoureuse comme la topologie, était attendue comme un progrès naturel venant préciser la notion telle que d’abord esquissée dans l’Encyclopédie, quoique nous ne l’ayons pas encore expliquée, et qui en tout cas avait été codifiée par Cauchy ? Certainement pas ! Pas plus que ne pouvait être attendu le fait qu’une nouvelle et étonnante abstraction des limites au sens de la topologie à partir des filtres, notion dont je n’ai fait que donner le nom pour m’en étonner, ait effectivement donné les nombres hyperréels, dont les réels ne seraient qu’une bien pauvre restriction. Pire, ces nouveaux nombres, joliment dits comme relevant de l’analyse non standard, niaient par leur existence même le caractère « complet » des réels. Ce mot prenait dès lors un nouveau sens relatif. Qu’en fut-il de l’infini, dont on avait vu seulement la trace lovée sous les mots de suites et de convergence ? S’il ne paraît plus intervenir dans le vocabulaire topologique (pour le vérifier, j’ai simplement donné à lire en ill. 3 une partie de l’index de Bourbaki), c’est que l’infini était désormais confortablement installé dans la pratique mathématique par l’intermédiaire de la théorie des ensembles et de son axiomatisation sans laquelle il n’est pas de topologie possible.

10Une certaine paresse philosophique à maintenir l’aristotélisme en tant que mode de présentation de la connaissance, et certainement aussi une réaction séculaire des communautés intellectuelles enseignantes à ne pouvoir accepter les changements radicaux qui paraissent la remettre en cause en tant que dispensatrice du savoir vrai, en viennent à lisser l’histoire plutôt heurtée que je viens de raconter pour les limites. Et je n’ai évoqué les choses que depuis le XVIII^e siècle ! Ainsi on en fait à peu de frais un processus continu, détectable sous le nom d’extension ou de généralisation, toujours au sens d’un progrès dont le moteur permanent serait l’abstraction. La certes belle théorie de la connaissance qui sous-tend largement cette vision du monde des idées mathématiques, est un processus (évidemment humain) mais autonome, et qui n’aurait à se nourrir que de lui-même en approfondissant sans cesse le sens de ses propres créations, qui successivement et sans destruction, s’enrichissent de sens nouveaux et font seulement pâlir les sens anciens, quoique sans les effacer. Une telle théorie de la connaissance a trouvé avec le structuralisme son acmé en mathématiques dans la seconde partie du XX^e siècle, plus exactement à partir du principe selon lequel les structures fondamentales des mathématiques étant désormais connues, elles permettent de lire le passé, le très long passé des mathématiques. L’histoire se serait faite bien normalement, sous la seule tension de la mise à jour de ces dites structures, et en dépit du frein mis par ceux qui, à certaines époques, veulent stabiliser un état de connaissance et le font en le dogmatisant. Dans cette perspective, ce sont les seules étapes de dogmatisation qui peuvent donner l’impression de révolution. Aussi bien, pour les tenants de cette vision dont Bourbaki peut être présenté comme le leader, le développement futur des mathématiques ne peut être que dans le même genre, avec cette connaissance en plus de l’organisation du processus historique qui en permet l’accélération.

11En racontant autrement en incise de cet exposé l’histoire littéraire du mot limite, j’ai essayé de donner des pistes aussi pour une déconstruction d’une telle théorie de la connaissance, et mon propos doit maintenant consister à la baliser. Je vais analyser l’apport de l’Encyclopédie au mot limite, et remonter plus tôt dans le temps en ne prenant pas le discours de l’Encyclopédie comme un premier départ, car la plupart des historiens, lesquels sont majoritairement opposés à la vision de Bourbaki, envisagent une longue durée pour la notion de limite(s), qui se serait poursuivie depuis l’Antiquité selon une sorte de mouvement continu. À la différence des structuralistes, ils le font en liant la limite à l’idée d’infini, conçue d’emblée comme idée bien plus complexe et servant même quelquefois de repoussoir. Selon certains historiens, l’idée d’infini fut donc épurée parce qu’elle put être localisée avec la limite, mais elle n’en faisait pas moins le moteur de la découverte. Si deux visions de l’histoire des mathématiques se manifestent ainsi, l’une de continuité avec de simples incidents dogmatiques, et l’autre de heurts avec de difficiles incidents logiques, y a-t-il pour autant notable différence dans les récits pratiques, c’est-à-dire dans l’effectuation même de l’histoire des mathématiques ? Entre d’une part cette façon de voir la limite comme une série de procédés certes constructifs pour cacher l’infini et en éviter l’emploi frontal, et cette autre façon de penser l’infini comme étant l’origine au sens de fondement de la limite, même si elle ne trouve sa forme actuelle que par le biais de la théorie des ensembles. Cacher quelque chose peut être un motif de construction. Mais si la limite paraissait comme la mise à jour de l’infini mathématique, pourquoi se fait-il qu’au final actuel le mot infini n’apparaisse pas dans la limite ? La stabilité acquise du mot limite pose aussi bien problème si l’on reconnaît que plusieurs révolutions mathématiques sont venues modifier en profondeur la perception que nous avons de l’espace et du temps, et que pour ce dernier la réduction se fit au profit des seuls nombres réels, moyennant en plus l’idée d’un flux. C’est l’idée que Newton engageait sous le nom de fluentes et sur laquelle il fondait la perception intuitive du calcul différentiel et intégral.

12Pour d’autres historiens, dont les positivistes, parce que l’idée d’infini était naguère réservée à l’auguste métaphysique et donc refusée aux tâcherons du calcul, il fallut s’en débarrasser. Certains décrivent donc l’invention des ensembles et de leur théorie par Georg Cantor à partir des années 1870 avec l’invention des cascades d’infinis, les ordinaux et cardinaux, comme une vengeance exercée à l’égard de toutes les limitations anciennes. Ces mêmes historiens décrivent les mathématiciens cantoriens – ceux qui comme Poincaré furent admiratifs du « paradis » créé par Cantor8 – comme ayant débarrassé les limites de la plupart des liens avec l’infini, et jusqu’à l’effacement de la notion de suite.

13Si j’entends ici déconstruire la continuité affirmée de la pensée relative à l’infini comme moteur constant, ce n’est que pour comprendre la longue absence du mot « limites » par laquelle je commençais ce récit, mais aussi bien l’absence d’équivalents, puis le maintien du vocabulaire de limite, inchangé à partir des Lumières et après même l’invention des infinitésimaux dans le calcul différentiel et intégral grâce à Newton et à Leibniz dans le dernier tiers du XVII^e siècle, jusqu’à la situation actuelle, même celle de l’analyse non-standard, qui n’a sans doute pas donné le dernier mot, mais d’où l’infini a totalement déguerpi en tant que problème. Si j’ai déjà dit l’intérêt d’une telle démarche pour comprendre les théories de la connaissance qui sous-tendent bien des descriptions historiques, l’avantage qu’il y a pour l’historien à déconstruire une notion n’est nullement de moquer des prédécesseurs pédagogues, et leurs interdits ou limitations, quoiqu’il n’y ait aucune raison de se priver de temps à autre d’un certain plaisir de gamin pas sage. Il est d’abord de saisir ce qu’il entre comme travail de distinction dans une construction comme celle de limite, et par conséquent de saisir les sauts révolutionnaires, mais aussi, on va le voir, de vérifier à quel point différents concepts mathématiques se tiennent et n’entrent pas séparément dans ce qui devient une monumentale construction ; elle n’était pas préparée d’avance depuis longtemps.

14Je prends donc l’Encyclopédie là où nous l’avions précédemment simplement ouverte. Avant le XIX^e siècle et par conséquent avant une construction mathématique propre de la notion de limite, sous la plume avertie de Jean d’Alembert, l’Encyclopédie affirmait l’importance essentielle de la limite.

La théorie des limites est la base de la vraie Métaphysique du calcul différentiel9.

15Le mistigri semble passer en d’autres mains que celles des mathématiciens. L’affirmation apparaît bien plus à l’historien comme une défausse, puisqu’il y a refus de considérer sérieusement la notion, faute sans doute de pouvoir le faire du seul point de vue mathématique. Le Trésor de la langue française donnera aussi une définition qui, par son interdiction signalée, affichait le genre de la scolastique métaphysique : la limite devenait en effet une « valeur dont une grandeur peut s’approcher sans jamais l’atteindre ». Ce n’était même pas une frontière, mais un inaccessible. Pourquoi une telle limitation, qui ne tenait pas sérieusement pour un usage mathématique ? Il s’agissait bien de préserver de la prédation mathématique la notion métaphysique de l’infini. Pensé sous forme de valeur, dans le Trésor de la langue française l’infini devenait lui-même une limite puisqu’il « ne saurait être atteint par l’esprit humain ». À l’inverse, et par sa déclaration sur la métaphysique qui ferait la limite, et alors qu’il ne possédait pas une notion bien stable pour les limites elles-mêmes, ne peut-on analyser que d’Alembert tentait de préserver les mathématiques du danger d’une discussion sans fin, celle qui proviendrait précisément de la métaphysique ? Est-ce la raison pour laquelle le Trésor de la langue française multiplia les pataquès ? Il donnait une écriture fausse à partir d’un livre merveilleux, Les grands courants de la pensée mathématique, dû à François Le Lionnais, un des animateurs de la chaîne officielle de radio française des années 1950 qui, avant les « mathématiques modernes », s’efforçait de faire percoler la pensée des mathématiques dans les pratiques culturelles de tous. Je recopie le Trésor, et c’est la 9^e citation à l’entrée « limite » :

On dit qu’une fonction f(x) est […] différentiable en un point x si, lorsque x’tend vers x, le rapport de (f)x’-(f)x à x’-x tend vers une limite bien déterminée, appelée dérivée de f(x) au point x.

16Il faut évidemment lire f(x’)-f(x), mais surtout deviner que l’expression « bien déterminée » signifie simplement le refus de l’infini. Ce qui ne permettra à personne de comprendre que l’exemple est choisi pour permettre de justifier que la limite de x’vers x est ainsi adoptée pour que la valeur de x’ne puisse pas passer par x ; en effet en l’occurrence de la définition, le quotient différentiel se doit d’avoir toujours un sens. Je parlais de scolastique et il faut l’entendre ici au sens d’un dogme scolaire. Un temps, en effet, dans les programmes officiels, et parce que la limite ne devait servir dans ce programme que pour la dérivée (dite pourtant comme différentiabilité10 dans l’ouvrage ci-dessus cité qui ne devrait justement pas faire intervenir un quotient), on se mit à interdire le passage par la valeur même de la variable tendant vers une limite. Nous concevons aujourd’hui que toute définition a son aspect proprement conventionnel, et se justifie par sa seule existence ; mais la prenant ainsi pour la limite on se compliquait la vie pour expliquer le « tendre vers », perdant alors quelques énoncés utiles et agréables, comme le fait que la composition de deux fonctions continues est continue11.

17N’oublions pas plus l’ironie qui peut trouver place dans l’emploi du mot « métaphysique », surtout quand il est associé au qualificatif de « vraie » ! Prenons acte aussi que d’Alembert restreignit ici le calcul au seul calcul différentiel, alors que le calcul intégral, avec les sommes qui le définissent chez des praticiens comme Pierre Bouguer12, faisait tout autant intervenir les limites, et d’une façon plus riche d’ailleurs13. Ce fut précisément la force de Cauchy, l’introducteur de la première notion mathématiquement correcte de limite comme on l’a déjà dit, d’étaler cette généralité de la limite qui permet de faire à la fois du calcul différentiel et du calcul intégral14, suggérant ce qui allait être formalisé par la notion de filtre. Et ainsi d’établir l’Analyse mathématique sur des bases « saines », ainsi que le disent la plupart des historiens des mathématiques. Ils pensent sans doute aux bases « malsaines » que seraient les infinitésimaux ou autres indivisibles, Cavalieri et Leibniz en prenant chacun pour leur compte. Cette sanction épistémologique des historiens est une première, en ce sens qu’elle abolit une orientation intellectuelle dans un domaine réputé ne jamais se tromper collectivement et sur le long terme.

18Dans l’Encyclopédie Méthodique en 1785, avant Cauchy donc mais pourtant avec le même souci d’assainir qu’eurent ensuite les historiens, l’abbé de la Chapelle intervenait pour donner sa propre définition de la limite, après reprise de l’article de l’Encyclopédie. Car il estimait en avoir une, contrairement à la position en laisser-aller métaphysique de d’Alembert. Comme celle bien ultérieure du Trésor de la langue française, la définition de l’abbé de la Chapelle restreignait a priori la notion. Il s’agissait de refuser un dépassement de la limite, et le Trésor refusera qu’on l’atteigne.

On dit qu’une grandeur est la limite d’une autre grandeur, quand la seconde peut approcher de la première plus près que d’une grandeur donnée, si petite qu’on la puisse supposer, sans pourtant que la grandeur qui approche, puisse jamais surpasser la grandeur dont elle approche ; en sorte que la différence d’une pareille quantité à la limite est absolument inassignable15.

19L’abbé de la Chapelle interprétait mal l’injonction de d’Alembert puisqu’avec « l’inassignable » la faute de goût de cette définition est de transpirer « l’odeur de vétusté » de la métaphysique, comme l’avait qualifiée si joliment François Viète en 1591 dans son Isagoge in artem analyticam16. Cette définition empêchait les oscillations autour de la limite. Or un siècle et demi avant les volumes Mathématiques de l’Encyclopédie méthodique, Grégoire de Saint-Vincent n’avait pourtant pas hésité à dessiner des zigzags17 (Ill. 5) pour cette même notion de limite, à laquelle il consacrait tout un livre, le deuxième de son Opus geometricum, donnant un exemple très propre que l’on voit nettement en ill. 7 en suivant la ligne grimpante ADEPGHIK … et sa projection CAN … jusqu’à la limite B.

20On remarquera que Grégoire de Saint-Vincent a déployé dans le plan la limite afin de lui faire perdre tout caractère monotone. C’est comme une première intuition topologique. On remarquera aussi que Grégoire de Saint-Vincent agit ainsi pour régler un problème de moyenne proportionnelle, donc pour un calcul de type musical que les Grecs avaient présenté comme géométrique avec le calcul de l’intersection d’une parabole et d’une hyperbole convenablement placées pour n’avoir qu’une intersection réelle.

Ill. 4. Une figure dans Dioptrice de Kepler de 1611 (p. 57) utilisant la convergence en optique ;
Ill. 5. Une figure justificative de la limite chez Grégoire de Saint-Vincent dans l’Opus geometricum de 1647 (proposition 70 du livre II, p. 92) ;
Ill. 6. Une figure repoussoir de John Wallis dans Arithmetica infinitorum de 1656 ;
Ill. 7. Contraires aux définitions futures de l’encyclopédie des exemples d’oscillations autour d’une limite chez Grégoire de Saint-Vincent au livre VI de l’Opus geometricum.

Les dangers d’une généralisation expliquent une autre limitation subrepticement mise cette fois sur ce dont on prend la limite

21Au XVIII^e siècle, comme au XX^e siècle dans les dictionnaires non spécialisés, la limite n’est utilisée qu’en la prenant sur les grandeurs. Cela répond toujours à un besoin de limitation. Elle est faite pour éviter que l’on puisse parler de limite d’une figure géométrique. Une image, due à John Wallis, sert de contre-exemple (ill. 6) : on voit des triangles successifs venant s’inscrire en s’écrasant sur le côté d’un triangle donné, et si l’on peut donner un sens de limite à la ligne en zigzags, toutefois le périmètre de ce contour ne tend pas vers la longueur du côté (étant d’ailleurs constant), alors que l’aire de ce qui est ainsi entouré tend vers l’aire limite, comme la méthode d’exhaustion antique avait permis de le montrer. Autrement dit, si l’on outrepasse la notion de grandeur, ici en prenant une ligne, la limite n’entraîne pas de la même façon chacune des propriétés quantifiées (ici la longueur) que l’on peut assigner à cette ligne. On ne pourra pourtant pas dire que l’abstraction qui s’installe avec la limite ne laisse subsister que ce qui vraiment doit être en cause, puisque dans l’exemple de Wallis, le procédé reste monotone.

22On peut comprendre pourquoi la notion de grandeur, avec ses significations phénoménologiques multiples, a disparu aujourd’hui du langage mathématique, et ne se trouve que dans le langage de la physique, mais encore en mécanique quantique. On parle de grandeurs vectorielles en physique, là où l’on évoque en mathématiques des vecteurs sur les bancs des lycées. Comme les nombres réels ont donné la notion idéale de grandeurs aux mathématiciens, on peut comprendre que Cauchy ait basé son explication des limites sur ces mêmes nombres réels. L’extension à d’autres espaces que les réels ne requiert plus la notion de grandeur. Voilà un exemple très net d’un progrès qui se doit d’oublier son origine. Si la grandeur est une sorte de fossile, elle est la trace d’une nature mathématique inscrite dans le monde sous différentes facettes, alors qu’avec leurs seuls nombres même qualifiés de réels, ou les quantités, les mathématiciens passent pour faire intervenir des abstractions sans substrat réaliste. À ce titre de limitation aux grandeurs, la limite, quoique inscrite dans les mathématiques par l’Encyclopédie, maintient un côté « expérimental », ou physique, c’est-à-dire qu’elle paraît issue d’une « sensation » pour parler le langage de l’école. Ce fut aussi le langage de la science anglaise de la fin du XVII^e siècle qui consacra l’experimental philosophy, avant que l’on ne fasse place avec Claude Bernard à la « science expérimentale ». On ne risque rien à dire que la présentation de la limite qui fait intervenir la grandeur est celle d’un « phaïnoménon », selon ce que les sens connaissent de la chose, et la notion mathématique en est une certaine abstraction. Au sens où Aristote parlait des phénomènes du ciel pour désigner l’apparat mathématique destiné à rendre compte des mouvements apparents, là où Platon parlerait de réalité. Mais on oublie de préciser ce que, pour être efficace, cette abstraction doit nécessairement détruire encore du perçu physique, ici la limite n’étant pas obligatoirement celle d’une grandeur croissante. La construction de Cauchy est donc révolutionnaire en se faisant uniquement sur l’analyse des nombres réels.

23Non sans prémonition, dans l’Encyclopédie méthodique l’abbé de la Chapelle se lançait dans une démonstration destinée à préciser le singulier de la limite. C’est qu’il oubliait vite la grandeur au profit de la quantité.

Si deux grandeurs A, B sont la limite d’une même quantité C, ces deux grandeurs seront égales entr’elles18.

24Et il donnait une référence : ce ne pouvait, manie de professeur en mal de publicité, qu’être à son propre ouvrage, les Institutions de géométrie de 1746, où on devait trouver « démontrée exactement » l’assertion écrite ci-dessus. Je ne résiste pas au plaisir d’y aller voir, au second tome de cet ouvrage sur la fin, d’autant que l’auteur avait donné un sous-titre prometteur à son ouvrage, ses « institutions » étant « enrichies de notes critiques et philosophiques sur la nature & les développemens de l’Esprit humain ». Le sous-chapitre en jeu est intitulé : une « récapitulation de la méthode d’exhaustion19 », qui se trouve paradoxalement dégagée de tout aspect de calcul intégral, puisque c’est de définition de l’égalité de quantités qu’il s’agit.

La méthode d’exhaustion consiste, ainsi que nous l’avons vû, à faire voir que deux ou plusieurs quantités sont égales, quand on ne peut pas leur assigner une différence déterminée20.

25Au moyen d’une « convention », La Chapelle « assigne » cette assertion dont on a du mal à voir en quoi elle peut s’appeler une méthode. Elle cache un raisonnement par l’absurde, porte sur la limite, mot pourtant non prononcé, pas plus que n’est prononcé le mot infini (on lit « sans fin » dans la citation ci-dessous), et intervient une « approche », non mieux précisée, de deux grandeurs.

Or, quand on ne peut pas assigner de différence entre deux grandeurs, & que l’on aperçoit d’ailleurs la différence, que l’on assigneroit, peut diminuer sans fin, non-seulement jusqu’à échapper au sens, mais même à l’imagination, il faut nécessairement convenir que ces grandeurs sont égales ; puisque des grandeurs inégales auroient une différence absolument déterminée21.

26Ce langage qui est bien peu mathématique par l’utilisation de quelques mots comme « imagination », « absolument » « assigner », est pourtant remarquablement inséré dans une mathématique qui n’a rien d’antique puisque la notion de convention remplace celle d’axiome. Elle fait référence, mais elle est implicite pour nous aujourd’hui, à des textes vieux de plus d’un siècle. Je montrerai, non sans plaisir ici en région nantaise, comment on pourra faire jouer en l’occurrence le nom de François Viète pour un écrit de 1591. Mais il me faut d’abord achever, si je puis dire, le présent auteur de l’Encyclopédie méthodique. Car il poursuit :

Quoique cette vérité soit très-lumineuse, & que la démonstration en soit simple, et suffisamment convaincante, nous n’avons pas cru devoir nous en tenir à cette unique exposition ; si les vérités mathématiques ne sont pas toujours éclairées de la vive lumiére des premiers axiomes, au moins on ne leur a jamais contesté l’avantage de porter dans l’ame une conviction parfaite […]

27Vient la démonstration de la proposition qui énonce que si « deux grandeurs A, B font la limite d’une même quantité C, ces deux grandeurs seront égales entr’elles ». C’est dans une note qu’est définie la limite, et je rappelle qu’on en est à la page 332 du deuxième volume de l’ouvrage dont la destination scolaire est évidente : cette note sera exactement reprise dans l’Encyclopédie méthodique, et on l’a déjà donnée. La démonstration de l’unicité de la limite de « grandeurs », l’égalité de A et B dans le texte de l’abbé de la Chapelle, se fait par l’absurde, c’est-à-dire qu’on ne peut supposer que A est différent de B « sans tomber en contradiction ». C’est exactement la démonstration utilisée de nos jours dans un cours élémentaire sur les limites en topologie, à ceci près que la démonstration porte sur des nombres réels (ou aujourd’hui sur des éléments d’un espace topologique, du moins lorsque celui-ci est séparé, une notion que l’on voit apparaître dans la table des matières de Topologie générale de Bourbaki, à l’illustration 2), et non sur des grandeurs comme en 178522. Cette identité formelle, aux grandeurs près, cache une différence considérable, et fait concevoir à quel point les mathématiques, la plupart du temps, ne relèvent pas de la seule logique. Les mêmes mots employés, la même syntaxe aussi, ici dans le cas de la limite, ne font pas la même connaissance. L’essentiel manque chez de la Chapelle et du coup, le reste fait verbiage.

28J’ai l’impression que ce verbiage était aussi bien ressenti par les contemporains. On ne sait en effet jamais, malgré l’emploi du verbe « approcher », ce qu’est une grandeur qui a ainsi une limite, sa variabilité, et c’est alors qu’on prend conscience que la notion de fonction paraît nécessaire, même pour comprendre la notion de variable. On constate aussi que la notion de limite est seconde par rapport à la notion d’inassignable, qu’elle pourrait à nos yeux définir, alors qu’elle est la véritable donne intellectuelle de ce texte qui se pique d’être aussi philosophique. Est-ce cela la référence à la vraie métaphysique de la limite selon d’Alembert, que l’article de l’abbé de la Chapelle entendait corriger ?

29L’infini prit, il est vrai considérablement aidé par le calcul infinitésimal, une présence assez formidable en mathématique. J’en veux pour preuve, anecdotique je l’admets mais tellement symbolique, le calcul des arcs-en-ciel que réussit Edmond Halley en 1700. Dans la mesure où il inventa un moyen pour prouver qu’en fait les deux arcs-en ciel généralement observés pouvaient être multipliés à l ‘ infini, quand bien même personne n’aurait observé plus de deux23. Halley suivait la méthode même de Descartes qui faisait circuler un rayon lumineux à l’intérieur d’une goutte sphérique de pluie, et calculait un extremum dans la direction du rayon émergent, lieu angulaire de l’arc-en-ciel24. En distinguant deux cas, d’une part celui où le rayon lumineux se réfléchit une fois à l’intérieur de la goutte, et d’autre part celui où il se réfléchit deux fois. L’idée de Halley, assez extraordinaire en ce qu’il s’agissait de montrer un phénomène physique par le seul calcul, l’observation étant impossible, consista à augmenter le nombre de réflexions. Si on appelle k ce nombre, l’angle i k sous lequel se situe le phénomène de l’arc correspondant est donné par l’expression :

30dans laquelle n désigne ce qu’on appelle aujourd’hui l’indice de réfraction de l’eau. Pour indiquer qu’il dispose d’une règle générale, Halley indique seulement : & sic de caeteris. Et l’on s’amusa bien gratuitement à imaginer ce qui se passerait dans le cas où l’on ferait infini le nombre k, obtenant l’angle droit pour l’angle d’incidence, donc un rayon lumineux tangent à la goutte de pluie, indépendant donc de l’indice, et même de la couleur lumineuse concernée.

Peut-on vraiment mettre à l’origine d’une théorie des limites un texte interrogatif de Viète de 1591 ?

31Si je ne résiste pas à suivre encore d’Alembert dans son explication dans l’Encyclopédie lorsqu’il assure que la notion de limite sert à « éclaircir plusieurs propositions mathématiques », et alors qu’il a peu justifié le passage aux seules grandeurs, c’est qu’il va m’introduire François Viète et un refus de se laisser entraîner par le calcul. D’Alembert ne prend qu’une proposition, celle de la somme d’une progression géométrique décroissante. C’est-à-dire qu’il spécialise la grandeur en jeu et sa variabilité puisqu’il s’agit de sommes successives, donc de l’intervention d’un dénombrement, ou comptage, ce que l’on appelait une suite. En effet, d’Alembert considère les termes successifs, quoique sans les écrire ainsi, et les sommes successives, objectivement lorsque 0<b<a, que nous lisons mieux sous la forme , et à laquelle nous associons

Par exemple, on dit que la somme d’une progression géométrique décroissante, dont le premier terme est a & le second b, est  ; cette valeur n’est point proprement la somme de la progression c’est la limite de cette somme, c’est-à-dire, la quantité dont elle peut approcher si près qu’on voudra, sans jamais y arriver exactement.

32On voit par cette « explication » de d’Alembert que le pluriel devrait être attribué à la notion de somme, la grandeur effectivement variable par l’entier n rendu visible dans S n, mais que la limite permet seule de parler de la somme au singulier, ce que nous avons noté S_∞. D’Alembert poursuit :

Car, si e est le dernier terme de la progression, la valeur exacte de la somme est , qui est toujours moindre que, parce que, dans une progression géométrique, même décroissante, le dernier terme n’est jamais = 0 : mais comme ce terme approche continuellement de zéro, sans jamais y arriver, il est clair que zéro est la limite, & que par conséquent la limite de, en supposant e =0, c’est-à-dire, en mettant au lieu de e sa limite.

33Il faut toujours se méfier quand au cours d’une démonstration on lit : il « est clair ». Et c’est ici que la référence à Viète devient utile. Car cet auteur de la fin du XVI^e siècle écrivait sur le même sujet que d’Alembert, mais soulevait la question : elle était celle même de la construction d’une théorie des limites.

34Dans un texte imprimé à Tours en 1593 par Jamet Mettayer, et vraisemblablement à compte d’auteur, texte qui comporte des essais réunis en un recueil de questions diverses présentées comme des réponses à des objections non explicitement référencées, Viète règlait en quelques lignes, moins d’une page comme on le voit ci-dessous (ill. 8), la sommation de tous les termes d’une progression géométrique infinie.

Illustration 8. Montage sur une page du texte de François Viète consacré à la progression géométrique en 1593.

Si des grandeurs sont en proportion continue, le terme plus grand de la raison est au terme plus petit, comme la somme de tous les termes moins le plus petit l’est à cette somme diminuée du plus grand.

35C’est une première avec une telle généralité, et Viète la veut néanmoins expéditive en ce qui est son dix-septième chapitre ; il n’hésite pas d’entrée de jeu à parler de doctrina, mot dont nous renforçons le sens en le traduisant par « science », mais théorie pourrait suffire.

Toute la science de la progression géométrique se résume à peu près en un théorème unique, dont quatre relations entre les données se déduisent naturellement25.

36Le dispositif de Viète qui consiste à ne pas faire jouer le nombre de termes de la série ne se comprend que si l’on poursuit la lecture et que l’on accepte que ce nombre peut devenir infini. Plus exactement survient dans son exposé – l’effet de surprise est voulu – une interrogation qui porte explicitement sur l’infini.

Mais ne doit-on pas dire, lorsque des grandeurs sont en proportion continue à l’infini, que X sombrera dans le néant ?

37Si c’est la première fois dans ce texte que Viète mentionne l’infini, sa présence était prévisible dès les premières lignes, cachée sous l’énoncé littéraire du théorème qui choisit de décrire une décroissance, alors même qu’elle n’est pas requise par la formulation d’une progression en nombre fini de termes. Moyennant le jeu de X où se dévoile l’infini (« plus petit terme »), la transcription littérale fait aussi bien sens dans le cas fini. Le registre dans lequel se déploie le texte de Viète change brutalement puisqu’une opinion est émise, comme en bonne scolastique.

Et les Mécanistes26 assureront qu’elle s’évanouit puisque la quantité la plus petite subsiste seulement dans l’intellect.

38Le mot « raison » qui est adopté dans l’énoncé du théorème vient comme terme de la raison (terminus rationis) et il désigne par métonymie la proportion continue elle-même, en ce qu’elle est constituée comme un prolongement de la raison. Cette raison est le rapport du premier terme de la proportion continue au second terme, mais c’est aussi bien le rapport d’un terme quelconque à son successeur et il donne ainsi la raison27 de la progression. Mais tel n’est pas exactement le vocabulaire choisi par Viète pour désigner les différents termes et il a en outre écrit « progression » dans le titre donné à son chapitre : la progression part d’un plus grand terme et elle va en diminuant par un second, etc., jusqu’à un plus petit. La décroissance est d’emblée supposée par le biais de la raison qui est rappelée dans l’intitulé du théorème. Reste à fixer un arrêt de la progression géométrique (selon le qualificatif du titre du chapitre), ou de la proportion continue (selon le qualificatif du théorème). Viète ne parle pas de « somme » avec la connotation numérique ou algébrique du terme, mais il exprime la « composition de tous [les termes] », dont il retranche successivement le plus petit et le plus grand, qu’il n’appelle pas le premier et le dernier. S’agissant de Viète, sans dénaturer son propos, nous pouvons immédiatement le lire en notations littérales. Et nous allons aussi bien adopter l’écriture fractionnaire des proportions, d’autant qu’elle intervient quelques lignes plus bas (Ill. 8). Posant un premier terme D, qui sans explication autre que celle de la « raison », est « le plus grand » de la progression, puis un second terme B, plus petit, le plus petit terme est noté X, et la somme de toute la progression est F : ce qui permet au théorème de se lire et s’écrire autrement.

39Dico esse vt D ad B ita F minus X ad F minus D

40 .

41L’avantage de la présence de cet X, le plus petit terme, est d’équilibrer la présentation de la proportion par laquelle ce théorème résume la progression géométrique, ce que nous visualisons sur la formule écrite que les contemporains de Viète appréciaient tout autant par l’équilibre rhétorique de l’énonciation. Très simple est l’interprétation si l’on s’en tient à une progression ne comprenant qu’un nombre fini de termes. En des notations d’aujourd’hui, par lesquelles est numéroté ce que Viète ne peut pas vraiment ordonner dans son usage des lettres qui ne suivent pas régulièrement l’alphabet (on passe de D à B, puis à F, grandeur qui n’est pas dans la suite de la progression géométrique), on aurait avec un entier n (≥ 1), donnant le nombre de termes de la progression, et un terme général de la progression géométrique noté, x = x₁ r^k-1 (la lettre D correspond à x, premier terme de la progression) avec la raison r, au sens moderne, pouvant s’écrire . Mais notre écriture moderne qui fait intervenir l’indexation, et le nombre n sous une forme générique qui n’est pas nécessairement le nombre de termes de la progression, énonce aussi bien ce que Viète sous-entend par proportion continue, qu’il appelle maintenant progression géométrique, avec la constance d’un rapport, ou raison . Si nous poursuivons la notation indexée, en appelant encore F_n la somme n des n premiers termes de la progression, soit avec la notation de sommation devenue courante aujourd’hui, nous lisons la formulation de l’énoncé de Viète par la formule, .

42Cette écriture nous fait prendre conscience que l’entier n est remplacé chez Viète par l’intervention de X, dernier terme considéré de la progression, celui que nous notons x n, et que nous écrivons x₁ r^n-1. La décroissance de la progression ne joue aucun rôle dans l’expression du résultat. Celui-ci vaudrait-il tout autant si la raison était supposée supérieure ou inférieure à 1, ou si le premier terme était inférieur au second, et la progression croissante, ce que le mot « progression » suggère ? Puisque la question de la généralité du résultat se pose, pourrait-on imaginer que le choix de Viète d’une décroissance de la progression résulte d’une rigueur du vocabulaire ? Afin de désigner les termes autrement que par « le premier », « le second », ou « le dernier », qui implique un ordre numéral, il utilise respectivement, « le plus grand », « le moins grand », et « le plus petit », donc un ordre relatif à la grandeur des termes utilisés. Reste que la mise en formule du théorème de Viète fait jouer un rôle symétrique aux deux termes D et X, alors que la formulation de l’énoncé casse cette symétrie. Il n’est pas difficile d’imaginer la proportion continue exactement inverse dont le premier terme est le dernier X de la précédente, le deuxième est l’avant-dernier de la précédente, et ainsi de suite jusqu’à arriver au premier terme de la proportion précédente, qui devient le dernier terme de la nouvelle proportion continue. Cette nouvelle proportion continue, ou progression croissante, ayant comme raison l’inverse de la raison de la première progression géométrique, a évidemment même somme que la première puisqu’elle est composée des mêmes termes. Dès lors, si la formule précédente est exacte, devient aussi exacte la formulation qui inverse la raison.

43 .

44Ainsi, c’est sur la formulation de Viète lui-même que l’on peut en constater la généralité de son résultat. D’où la question qui se pose, celle de comprendre pourquoi il a changé de terminologie de son temps, et évoqué une progression et non une proportion continue, la voulant décroissante, abandonnant les usages de premier terme, de dernier terme, etc. La question n’est pas vaine, ou artifice de l’historien : elle est souhaitée par Viète qui a intitulé « doctrina » son court travail. Mais pour mieux saisir ce qu’il veut faire comprendre, pouvons-nous passer à la démonstration, lieu d’explication par excellence du mathématicien quand il refuse d’être philosophe ? Non, car Viète n’en donne pas.

45Celle à laquelle peuvent se référer les contemporains de Viète est la douzième proposition du septième livre des « Éléments d’Euclide ». La voici dans la première version qu’en donnait Clavius, une vingtaine d’années avant l’intervention ici discutée de Viète. On notera tout de suite qu’apparaît le vocabulaire propre des proportions, ou plutôt le vocabulaire des raisons, avec antécédent et conséquent, tous mots qui évitent la notion de premier ou de dernier terme, comme ils évitent celle de grand ou de petit dont Viète use. Mais l’énonciation ci-dessous fait intervenir le nombre entier n, précisément dit « quantité quelconque » dans le texte euclidien et qui donne le nombre de termes de la progression.

Si des nombres en quantité quelconque sont en proportion, alors comme l’un des antécédents est relativement à l’un des conséquents, ainsi seront tous les antécédents relativement à tous les conséquents28.

46La démonstration est d’une facilité déconcertante, une fois adoptée la définition de la proportion continue qui fixe la raison par des rapports successivement égaux, et à partir de la théorie des proportions du livre 5, en usant essentiellement de la propriété d’« addition des proportions » : il s’agit seulement des proportions suivantes . En l’occurrence, il suffit d’itérer un « quelconque B + D nombre » de fois cette « addition des proportions » pour obtenir le résultat formulé par Euclide, et aussi bien celui énoncé par Viète.

47Ce qui donne exactement. Et peut se lire précisément sous la forme du théorème de Viète dans ce texte de 1593, en éliminant certains termes des égalités de raisons, ou des proportions. De telle sorte qu’à reconstruire ainsi la preuve qu’’il ne donne pas, l’insistance même de Viète sur l’écriture du « plus petit terme » désarçonne ; autrement dit, elle porte à réflexion. L’intention est effectivement celle de Viète. Il n ‘ écrit pas un manuel, ou un livre que devraient étudier des élèves comme les traductions d’Euclide. Il ne fournit donc aucune preuve, ni ne réfère à une telle preuve du théorème, dans l’expression littéraire duquel le terme nommé X ne figure pas autrement que par l’indication d’être le plus petit : voilà une constatation majeure. Du littéraire au littéral, il y a un moins apparent qui peut s’avérer un plus quant à l’efficace.

48Il faut prendre garde aux mots utilisés. En effet, l’énoncé de la proposition d’Euclide fait explicitement référence à des « nombres en proportion », en guise des termes de la progression qui chez Viète sont, il a pris soin de l’écrire, des grandeurs (magnitudines) en proportion continue. D’Alembert nous l’avons lu, reprendra cette limitation aux grandeurs devenues enfin quantités chez Cauchy, au sens de nombres réels. En outre, la démonstration qui figure chez Euclide dans ce livre arithmétique des « Éléments », n’est pas celle qui a été indiquée ci-dessus : Euclide, et Clavius avec lui, utilise le vocabulaire des parties de nombres, qui fait le sens d’une raison de nombres, et n’utilise donc pas de fait la définition de l’analogie par les équimultiples qui fait tout le sens du livre V.

49Dans un beau et seul déroulement analytique, Viète déduit d’autres formulations du théorème admis sous sa forme comportant X, quatre exactement, parce qu’il y a quatre quantités en jeu, F, D, B, et donc cet X auquel on n’échappe pas. Donc quatre façons d’exprimer l’une quelconque d’entre elles à partir des trois autres. Le nombre de termes de la progression n’est pas une de ses variables : voilà ce qui doit être notable aux yeux du lecteur de Viète. Viète donne in fine un nom à sa démarche, et c’est celle de l’analyse. C’est une analyse à laquelle la classification des quatre relations fait d’abord seule référence29, puis il l’explicite.

Vt hæc in Analyticis abunde demonstrata, & exemplificata sunt 30.

50Qu’il n’y ait pas d’algébrisation des raisons chez Viète, ni même leur numérisation, peut se voir dans le fait qu’il ne propose pas une démonstration algébrique pour obtenir la somme d’une progression géométrique, dont on a bien noté pourtant qu’il ne l’appelle plus proportion continue. Comment fonctionnerait en effet une telle démonstration ? Par simple application d’une règle d’algèbre polynomiale. Il suffit d’écrire (1 − r) (1 + r + r² + r³ +...+ rⁿ −¹) = 1 − rⁿ.

51La simplification qui se produit lorsqu’on développe le premier membre n’est pas du même genre que celle qui fait apparaître la somme F dans le calcul par « l’addition des proportions » de la somme : on a cette fois un jeu algébrique, par ce que l’on appelle une identité remarquable. Le prix à payer est d’oublier l’homogénéité, et donc de numériser la raison. Viète ne l’a pas fait. On voit d’autant mieux qu’il n’a pas la maîtrise de cette voie que si la formulation algébrique donne la somme d’une progression en partant du premier terme a, et allant jusqu’au dernier terme, ou terme numéroté n, exprimé par ar^n-1, elle la donne explicitement, contrairement à l’expression de Viète dans l’énonciation du théorème par une proportion non explicitée. Surtout, la formulation directe fait intervenir un terme de plus dans la progression, le (n + 1)ème terme, écrit dans nos notations comme arⁿ.

52(1− r)(a + ar + ar² + ar³ +...+ arⁿ −¹)= a − arⁿ

53En notant, comme Viète, par F la somme de la progression dont le dernier terme est ar^n-1 et le premier a, on déduit explicitement .

54Ce n’est pas la formulation du théorème de Viète, qui n’a pas explicitement F, mais seulement une proportion dans laquelle F intervient. Que F soit ainsi déterminée est dûment précisé par Viète. C’est même sa première relation, et cela signale le passage d’une mathématique des proportions à une mathématique des formules et des équations.

55On aurait pu envisager d’autres recours aux « Éléments d’Euclide », pour trouver un résultat équivalent à celui de Viète sur la somme d’une progression. On a par exemple chez Clavius, précisément dans son « Epitomé des mathématiques » de 1584, une formulation qui consiste à étudier r-1, en fait le rapport de la différence des deux premiers termes sur le premier. Elle adopte les progressions croissantes, mais Clavius ne les utilise qu’avec des nombres entiers. On peut aisément l’écrire en faisant intervenir la numérotation des termes de la progression, x₁, x₂, x₃,..., x_n. L’essentiel est une propriété d’invariance qui est déduite de l’existence même de la raison de la progression géométrique.

56L’obtention de cette propriété est facile grâce aux règles des proportions en partant des proportions , et en faisant apparaître de la même façon . Il suffit ensuite d’appliquer « l’addition des proportions »pour obtenir une simplification en cascade au numérateur, ne laissant plus apparaître que la différence entre le premier et le n + 1^e terme, alors qu’au dénominateur vient naturellement la somme de tous les termes de la progression.

57On aura toutefois remarqué l’intervention d’un terme supplémentaire dans la progression géométrique, celui d’ordre n + 1. Pour rendre « naturelle » cette intervention, il est utile de disposer de la compréhension polynomiale de l’expression en fonction de la raison, par le passage du degré n-1, celui du dernier terme ou n-ème terme, au degré n. En effet, l’écriture explicite de la somme F (ou plutôt x F n) donne . Mais l’on peut aisément faire disparaître ce terme 2 supplémentaire, en faisant intervenir la raison r, rapport des deux premiers termes, selon . Cette formulation se trouve en particulier chez Clavius dans « l’Epitomé » et chez quelques autres auteurs, et les grandeurs notées x avec des indices sont chez lui des nombres entiers, ce qui montre le rôle numérique joué par la raison.

58On peut se demander pourquoi l’entier n, le nombre de termes de la progression, n’intervient pas. On a déjà répondu par l’absence de considération du degré d’un polynôme chez Viète et du coup signalé l’importance de cette notion introduite par Descartes : c’est l’algèbre polynomiale qui donne à voir le nombre de termes dans la formulation exprimant la somme d’une progression. Mais on voit aussi bien que le calcul de n, comme « relation » à la façon dont Viète en donne quatre, à partir de trois grandeurs d’une progression, ne peut pas se faire sans passer par une opération d’exponentiation ou de logarithme31. Ces opérations ne figurent pas dans l’Art analytique de Viète, et les travaux de Bürgi et de Napier n’en apparaissent que plus remarquables. Le lecteur comprend d’un coup la suggestion faite par Viète. Le théorème est vrai sous sa forme littéraire parce qu’il suffit de faire égal à zéro32 le plus petit terme que propose la forme littérale. Forme dont on pourra dire qu’elle est une écriture indéfinie de la somme d’une progression géométrique (l’entier n, le nombre de termes, n’étant pas spécifié et pouvant éventuellement être infini). N’est-ce d’ailleurs pas là la plus value de l’algèbre ?

59L’intrusion d’une interrogation épistémologique n’est curieuse que dans la mesure où Viète est un de ceux qui, au XVI^e siècle, rend attentif à la séparation des genres philosophique et mathématique. De sorte que fait contraste le mélange réalisé dans ce court texte ; il serait insignifiant dans des écrits mathématiques d’auteurs contemporains. L’analyse de Viète pourrait ainsi se terminer sur le seul jeu d’une analogie dûment réglée par un calcul : réduire à 0 une quantité indéfiniment petite et aboutir à la formule bien proche de celle que nous adoptons D usuellement et aussi bien dans les classes pour la somme d’une progression géométrique convergente33. L’épisode scolastique n’aurait alors été qu’un effet de style. Il n’en est rien car si le texte se poursuit encore, à partir de là cesse brutalement l’analyse. Elle laisse la place à une synthèse, synthèse en ce sens qu’il y a construction et adéquation de la construction à la question : « ne doit-on pas dire... ? » Question qui interroge surtout le maintien de l’analyse. La synthèse commence symptomatiquement par une définition. C’est celle de l’incrément (cremento) et elle est originale :

ce qu’est la différence d’un [quelconque] des termes de la raison au terme [immédiatement] inférieur de la raison, la [grandeur] la plus petite l’est à l’incrément.

60Dans le cas d’une progression ayant un nombre fini de termes, l’incrément D jouit x d’une définition univoque, . La poursuite du raisonnement consiste à établir la nécessaire nullité de l’incrément ainsi entendu lorsque la progression est infinie. Mais Viète n’éprouve plus le besoin d’un raisonnement complet ; il lui suffit de faire référence au résultat qu’Archimède avait splendidement exposé en synthèse – « et c’est là un fait » – dans la « Quadrature de la parabole ».

Pour des grandeurs proportionnelles en raison continue sous quadruple à l’infini34 ; et soit 3 la plus grande de toutes. La grandeur composée de toutes sera 4. Et c’est là un fait35, à ces grandeurs qui sont en raison continue sous quadruple dont la plus grande est 3, on ne peut ajouter si peu que ce soit sans que la grandeur composée ne soit supérieure à 4.

61Le style allusif est sans équivoque : c’est par l’absurde que l’incrément est vérifié nul dans ce cas particulier qui vaut généralité. La continuité est aussi rétablie dans l’ordre historique.

62Viète ne s’arrête toujours pas ! S’il est passé de l’analyse à la synthèse, il a soulevé une question plus qu’il ne l’a réglée. La référence à une tradition qui est celle de la méthode d’exhaustion dont Archimède est l’utilisateur le plus averti, n’est en aucune façon argument d’autorité. Elle n’est pas non plus critique de la tradition : elle est bien plutôt constat que cette tradition enclot un type de preuve tout à fait satisfaisant, mais qui ne peut pas faire suite. Il ne peut pas y avoir accrochage algébrique ; une filiation de la tradition à la voie algébrique la dénaturerait. Viète a plus encore fait voir la nécessité d’une « nouvelle algèbre ». Elle n’a rien de naturel. Car cette algèbre doit pouvoir traiter les quantités indéfinies telles que, dans la situation d’une progression infinie de termes, l’incrément Δ ou x_∞ comme nous l’avons noté. Ces quantités, dans la situation d’une progression à un nombre fini de termes, se comportent selon l’algèbre ordinaire (à vrai dire déjà la nouvelle algèbre du XVI^e siècle, celle issue de la théorie des proportions) ; en les annulant sur certaines autres formules, comme la vraisemblance sinon l’évidence le commande, on obtient du vrai ; ce vrai est prouvable par la voie de l’exhaustion, c’est-à-dire par ce qui est avéré par la meilleure tradition ; de plus ces quantités, même dans le cas d’une progression infinie, se combinent algébriquement de façon convenable puisqu’un rapport de deux quantités est égal à un rapport bien défini de quantités finies36. C’est de cette dernière expérience, essentielle mais inexpliquée en raison mathématique, dont témoigne le texte de Viète37. Il conclut par le refus d’une fin, qui est indéniablement un appel à une suite :

Mais les Platoniciens donneront difficilement leur accord, alors que toute la Géométrie est essentiellement dans l’intellect38.

63Cette suite sera-t-elle synthèse ou analyse ? L’hésitation vaut effacement des différences. Il suffit pour notre propos d’avoir établi, bien plus longuement qu’il n’eut été nécessaire pour le simple calcul mathématique, qu’avec l’indication d’un futur nécessaire le passage d’un style à l’autre a servi chez Viète la conscience de l’inutilité d’un retour en arrière et la suspension du va-et-vient.

Les effets d’une algébrisation : de Viète à l’analyse non standard qui abolit les manières de Cauchy sur les limites

64Je voudrais, mais cette fois très rapidement, établir seulement deux choses concernant le XX^e siècle et son traitement des limites et de la convergence. D’une part, je souhaite indiquer comment la notion de proximité – qui est absente du questionnement de Viète –, une fois mise sous la forme des voisinages, permit aisément d’aboutir à la constitution d’une topologie. J’examine un processus que l’on dit trop facilement de généralisation, alors qu’il y a mise en œuvre d’une méthode particulière, la méthode axiomatique, en gros inconnue avant le XX^e siècle. On y fabrique a priori des propriétés qui vont pouvoir être posées en axiomes d’une théorie embrassant une théorie précédente, et qui pourra être récupérée dans ses calculs mêmes en se laissant guider presque automatiquement par les axiomes posés. D’autre part, mais dans ce même mouvement axiomatique, j’indiquerai la façon d’introduire la notion de filtre à partir de celle de voisinage et je terminerai en esquissant la manière algébrique de récupérer les nombres réels et leurs limites dans le cadre non standard des hyperréels. Ce qui est un résultat qui ne peut pas du tout passer pour une postérité de Cauchy – auteur crédité de la première théorie « rigoureuse » des limites –, précisément parce que Cauchy fait fond sur les « quantités réelles », presque posées comme un donné phénoménologique.

Les voisinages

65Il paraît normal de définir un e-voisinage V_ε(x) d’un nombre réel x comme le sous ensemble des nombres réels y tels que |y-x|^ε < ε. L’idée est de faire disparaître cette expression qui fait intervenir une valeur absolue, afin de pouvoir envisager une généralisation. On le fera en listant quelques propriétés, démontrées certes au moyen de la valeur absolue, mais qui s’expriment sans celle-ci. On envisage alors un voisinage quelconque V(x) de x comme un sous-ensemble, pour lequel il existe au moins un e tel que V(x) contienne V_ε(x). Il est aisé de vérifier que la famille V(x) de ces voisinages, x variant sur l’ensemble des nombres réels, vérifie entre autres les quatre propriétés suivantes :

1. Pour tout V de V(x), x appartient à V.
2. Tout sous-ensemble de nombres réels contenant un V de V(x), appartient à V(x).
3. L’intersection de deux sous-ensembles de V(x) appartient à V(x).
4. Pour tout nombre réel x, il existe un V de V(x) tel que pour tout y de V, le voisinage V appartient à V(y).

66Cette dernière propriété, évidemment celle qui est suscitée par les e-voisinages V_ε(x), donne l’idée d’attribuer un nom générique à ce genre de sous-ensembles V. On dira qu’un sous-ensemble V est « ouvert », s’il est voisinage de chacun de ses points. Ces ouverts peuvent encore se décrire par un certain nombre de propriétés : l’ensemble des réels et l’ensemble vide sont presque par définition des ouverts, l’intersection d’un nombre fini d’ouverts et la réunion quelconque d’ouverts est encore un ouvert. On appellera topologie toute famille de sous ensembles possédant les propriétés précédentes. Les choses ont été pensées de sorte que, réciproquement, une topologie étant donnée, on puisse en déduire des voisinages, c’est-à-dire des sous ensembles vérifiant les propriétés 1° à 4°. Pour pouvoir parler de point limite au sein d’une topologie, sans pour autant avoir besoin de suites et même sans que l’on puisse toujours n’utiliser que des suites, on peut passer à une nouvelle notion, celle de filtre. Elle conduit à une convergence, donc à une notion de limite, sur un espace topologique quelconque ; elle se réduit à la notion ordinaire pour l’espace des réels par exemple.

Les filtres

67La famille F des voisinages d’un point x dans un espace topologique possède les trois propriétés suivantes :

1. Tout sous-ensemble B contenant un A de F appartient à F.
2. L’intersection de deux sous-ensembles de F appartient aussi à F.
3. L’ensemble vide n’appartient pas à F.

68On convient d’appeler filtre une famille possédant de telles propriétés. On dispose d’un ordre évident sur les filtres, celui de l’inclusion : le vocabulaire qui s’introduit est celui d’un filtre F plus fin qu’un filtre F si F contient F. La notion de filtre, définie par un procédé algébrique de structures ordonnées, permet alors de définir une convergence sur un espace topologique X : on dira que le filtre F converge vers un point x de X, dit point limite, si le filtre F est plus fin que le filtre constitué par les voisinages de x. Je laisse à voir par une citation de Bourbaki la définition de la continuité que les filtres permettent.

Ill. 9. La définition de la continuité dans la Topologie générale de Bourbaki.

Les ultrafiltres

69Toujours par l’ordre, on définit un ultrafiltre sur un ensemble X comme étant un filtre pour lequel il n’existe aucun filtre strictement plus fin que lui. C’est donc l’élément maximal de l’ensemble ordonné des filtres sur l’ensemble X. L’exemple trivial d’ultrafiltre est celui de tous les ensembles contenant un point x d’un ensemble X ; mais il en existe d’autres, quoique on ne puisse les construire sans faire appel à la propriété de maximalité. On peut alors établir qu’une condition nécessaire et suffisante pour qu’un filtre F sur un espace topologique converge vers un point x est que tout ultrafiltre plus fin que F converge vers x. Moyennant alors une propriété dite de séparation des points de l’espace topologique X par des ouverts, on voit que l’on peut récupérer chaque point de X par un certain ultrafiltre. On peut faire plus, et disposer d’une topologie sur l’ensemble de tous les ultrafiltres, par exemple dans le cas de l’espace des nombres réels, et ainsi récupérer cet espace et toutes les propriétés de limites à la Cauchy, en tant que sous-espace de nombres dits simplement hyperréels. On aura ainsi algébrisé l’analyse usuelle.

Conclusion

70Il n’est pas facile de dire ce qu’est la postérité aujourd’hui de l’interrogation de Viète, et cette question est sans doute oiseuse. Je n’ai pas présenté le travail de Viète comme l’appel à une théorie de la limite algébrisée à la manière de l’analyse non standard. Mais il m’est apparu indispensable d’au moins survoler cette analyse, même si elle n’a pas encore conquis, loin de là, tous les esprits, et donc d’évoquer les filtres, la topologie, etc. La théorie qui me paraît appelée par Viète ne concerne que la mise en jeu de formules, et porte sur une pratique que l’on peut dire calculatoire des fonctions. Elle a joué un rôle dès lors pour la notion de limite, utile pour concevoir une théorie des fonctions continues, mais il fallut se dégager de l’expression sous une forme algébrique pour laquelle la continuité apparaissait presque comme une évidence formelle. La formalisation de la continuité par Cauchy, fruit de sa réflexion sur les limites, traduit la continuité comme la propriété même de préserver la limite. Cette propriété peut très bien se définir avec les filtres, qui peuvent être vus comme une postérité de Cauchy.

71De Viète, c’est l’indétermination de la raison de la progression géométrique (entendue cependant comme décroissante) qui a fixé l’attention (sous la forme que nous écrivons , et donc a fixé la notion même de variable. Et a dû intervenir en plus la composition de la variable pour obtenir un résultat général, et sa démultiplication en plusieurs autres, pour obtenir la somme de la série, mais aussi bien le premier terme, ou le dernier. Viète lançait des problèmes de type fonctionnel.

72Certes la déconstruction effectuée ici conduit à une reconstruction possible – manie heureuse de l’épistémologie historique –, les deux idées – isoler une variable et l’exprimer – se retrouvant réunies dans les séries que l’on va appeler entières , et dont Newton, à partir d’un cas particulier, celui de la série du binôme (celle qui exprime en série entière), faisait l’extension à toutes les fonctions utiles pour la Mécanique céleste ou plus généralement à toutes les fonctions qui auraient à intervenir en physique mathématique.

73Cette reconstruction a suggéré une autre piste encore pour rendre compte de la limite telle qu’elle est aujourd’hui couramment utilisée. De la même façon, et sans plus de garantie historique, une autre piste pourrait se prévaloir de la reconstruction d’idées de Leibniz en vue de l’analyse non standard.

74Si toutes ces déconstructions sur les limites auxquelles je me suis livré en donnant quelques constructions aussi bien, font abandonner le beau chemin d’un progrès tendu vers une abstraction enfin atteinte aujourd’hui, la conclusion générale ne revient pas à dire qu’il n’y a que des points de vue relatifs en histoire des mathématiques. Ce qui a été fait est beaucoup plus riche pour une vue perspective sur la mathématique. La raison en effet est que cette discipline ne fonctionne pas par thèmes, et obéit le plus souvent à des conceptions d’ensemble, les différents éléments en cause à une époque donnée n’étant pas véritablement indépendants, et leur liaison constituant une mathesis. Prendre un thème comme les limites tord nécessairement la réalité historique, et risque de faire juger qu’il n’y a qu’une voie unique si l’on néglige en les considérant comme dépassées bien des limitations a priori mises sur les objets travaillés. Mais pour autant le choix d’un thème, même s’il s’agit d’une sorte d’œillère que se mettrait l’historien, peut faire apparaître qu’il y avait plus autrefois que ce que l’on voudrait d’abord y voir. Voilà qui justifie le minutieux exercice de lecture d’une seule page de Viète. Se créent donc des postérités entre écoles de pensée et au-dessus même des générations, délestant l’historien de ce fardeau qui est d’avoir à prouver un progrès continu et constant. Déconstruire un thème en essayant de se baser sur les inutiles limitations qui y ont été apportées comme on l’a fait ici à titre d’exemple pour les limites, permet donc de retrouver la variété si vive de notions qui peuvent avoir été à l’origine de bien plus que le seul thème envisagé.