Version classiqueVersion mobile
OpenEdition Books Presses de l’enssib Papiers Écritures De l’écriture des mathématiques e...

Écritures

 | 
Éric Guichard

De l’écriture des mathématiques en tant que technique de l’intellect

Jean Dhombres

Texte intégral

1En requérant pour le colloque tenu à l’enssib des spécialités très diverses et néanmoins un traitement très pointu de celles-ci par où faire écho à la pensée de Jack Goody sur le rôle de l’écriture sur le très long terme de la pensée humaine, Éric Guichard n’a pas adopté la voie tranquille de la célébration universitaire. Si c’est bien ainsi que l’on peut réussir un colloque multidisciplinaire, il faut néanmoins lui savoir gré d’avoir tenu bon, contre vents et marées, en favorisant la rencontre de personnalités que les usages académiques séparent le plus souvent, et jusqu’à l’acceptation de mathématiciens ordinairement exclus en France de ce genre de réunions, sinon à titre de potiches peu susceptibles d’apporter des données intelligibles par d’autres que leurs semblables. Aussi je veux commencer par le remercier du privilège de ce colloque et jusqu’aux modifications qu’il a permises dans ma propre présentation. Justifié par la nécessité de maintenir d’autant plus forte une spécialisation qu’il y avait multidisciplinarité, je ne devais pas plus me cacher derrière la technicité mathématique que me couvrir par l’érudition historique des mathématiques du passé. Car ce sont deux formes d’autisme (sauf bien sûr lorsque des spécialistes débattent). L’enjeu, grâce à la formulation ancienne et toujours pertinente de Goody, étant de jauger ce qui permet de considérer l’écriture mathématique comme une technique de l’intellect, la plus grande parcimonie doit présider à l’analyse de cette technique même. D’une part parce que la tradition mathématique est d’élaguer le plus possible dans la multitude des propositions d’écritures, de notations, de symbolisations, de terminologies aussi, qui ont été faites au cours de l’histoire. D’autre part parce qu’il ne faut pas surimposer un discours sur l’écriture mathématique, mais la faire « discourir » à l’intention de ceux qui ne la pratiquent pas quotidiennement. D’autant que, comme il en est pour bien des techniques, l’écriture mathématique révèle souvent plus d’efficacité que la pensée même qui a pu présider à son invention.

2La difficulté n’en reste pas moins de préserver une certaine autonomie à l’écriture mathématique, éventuellement dans des détails qui peuvent paraître bénins et dont l’analyse risque la cuistrerie, alors que ces certes infimes questions n’en participent pas moins du dispositif général de présentation publique d’une théorie, et aussi bien de l’acculturation mathématique. Je ne crois pas pour autant que la description du jeu d’invention dans l’écriture mathématique tienne à une autonomie totale. Bien plus est à analyser dans la relation au langage ordinaire, et donc dans le phénomène de banalisation, qui s’accompagne quelquefois d’une découverte et peut l’enrichir.

  • 1 Un document comptable, une table à double entrée par exemple, n’est généralement pas un document m (...)

3La première chose ne consistera pas à définir, comme je l’avais d’abord prévu, ce que serait spécifiquement cette écriture, voire de dire ce qu’elle ne serait pas. Je partais certes de la constatation banale qu’au premier coup d’œil, on peut reconnaître tout texte mathématisé d’un autre genre de texte, qu’il soit de linguistique, de géographie ou de sciences sociales, et bien sûr de comptabilité1, mais au contraire si je peux dire et ce fut pour moi un des apports de la rencontre de Lyon, je commence par reconnaître qu’en dépit d’une multitude de témoins écrits, sont essentielles deux sortes seulement d’écritures en mathématiques. Ce sont, d’une part, celles qui vivent avec une ou des figures géométriques, c’est-à-dire des tracés de droites et de courbes en l’absence desquelles le texte est presque constamment impossible à lire, voire à déchiffrer. Mais on notera que ce dernier verbe risque à tort d’éliminer tout problème de lecture de la figure. D’autre part, il y a celles qui se développent non pas toujours sans ces figures, mais pour lesquelles les tracés géométriques sont des illustrations et non des éléments incontournables. La distinction faite n’est aucunement pour établir une frontière étanche et sans échanges dans le temps : tout au contraire, ayant reconnu une différence fondamentale, je peux d’autant plus facilement mesurer les passages d’un genre à l’autre, ou plutôt dire les façons historiques dont chacun des deux genres se modifie en empruntant à l’autre. Ce sont des équilibres de conjonction qui se produisent.

  • 2 Jack Goody, La raison graphique. La domestication de la pensée sauvage, Jean Bazin et Alban Bensa (...)

4Il est en effet aisé de reconnaître les appropriations nouvelles, puisqu’on peut assimiler sans peine à des figures les dispositions spatiales des diagrammes avec flèches de la géométrie algébrique. Mais a contrario, forts de cette actualité, les historiens de l’antiquité appellent désormais « diagrammes » et donnent un caractère d’écriture à ce que l’on disait autrefois comme figures dans les Éléments d'Euclide en y voyant une prépondérance quelquefois dommageable du dessin. Quoique je le fasse sur ce chemin étroit de deux écritures que je dois mieux baliser encore, j’entends bien prolonger l’analyse que Jack Goody donnait dans son livre de 1977 où on lit en premier la conjonction entre les tables et les figures qui reprend grosso modo la distinction que je viens de faire. Il évoquait ce que le mode « rationnel » de pensée devait aux moyens d’écriture, « qui a ouvert la voie à l’enregistrement et à l’analyse systématiques des données qu’on voit à l’œuvre dans les tables astronomiques de Babylone et dans les théorèmes de la géométrie euclidienne, ainsi qu’à la formalisation des schèmes classificatoires et à l’expérimentation répétée des relations de causalité »2.

5En soulignant le rôle de mémoire enregistreuse de l’écriture mathématique, rôle mentionné le plus souvent pour l’algèbre et généralement sans faire allusion aux figures géométriques, un rôle assurément favorisé par la diffusion de l’imprimerie au XVIe siècle, très justement et avec concision Goody associait les explications aristotéliciennes sur les relations a priori de causalité et sur les classifications à la manière de ce que nous appelons l’expérimentation. Cette dernière est une autre forme de causalité, a posteriori, mais elle peut aussi bien être géométrique en portant sur les formes figurées, ou algébrique en portant sur des formules qui donnent les lois de la nature. Formes et formules, il me suffira d’évoquer la parabole en tant que trajectoire d’un projectile lancé vers le haut en oblique ; cette parabole est souvent dessinée dans des manuscrits d’expérimentation de Galilée à partir de 1608 jusque dans les détails numériques qui forment table.

6Mais la parabole y est aussi un lieu théorique. Car s’y conjoint le principe d’inertie que l’on peut lire sur toute tangente à la parabole, sans pour autant que Galilée ait pu ou su le dire avec la généralité que prendra le principe chez Descartes ou Newton. Ces deux manières, expérimentales et théoriques, que la parabole unit, sont reconnues ensemble comme consubstantielles à la révolution scientifique, qui en cela est jugée anti-aristotélicienne parce qu’elle n’est pas seulement a priori, mais conjoint le raisonnement déductif et l’étonnement à partir de données qui ne sont factuelles que parce qu’on a décidé de les présenter ainsi, une fois l’expérimentation effectuée. Je n’ai donc pas à revenir ici sur ce qui est devenu banal dans la description historique et épistémologique de la révolution scientifique.

  • 3 Jean Dhombres, « La trajectoire d’une parabole. Métamorphoses de la philosophie naturelle sous l’e (...)

7Mais le dernier jugement sur l’aristotélisme n’omet-il pas l’apparition d’un constat quasiment réaliste par le fait même de l’écriture, que celle-ci soit figurée comme avec la parabole ou formelle par l’expression de la relation fonctionnelle du chemin parcouru en carré des temps3 ? Là aussi, comme dans la division entre figures géométriques et formules, il y a un rythme temporel à respecter : c’est seulement une fois reconnue comme description tout à fait complète de la loi de la chute des corps que la parabole devient une trajectoire et que le paramètre de la parabole est mis en dépendance de la seule vitesse initiale au lancement, et donc s’installe comme un réel au sens banal, qui peut éventuellement être assimilé au sens aristotélicien de réel.

8Un tel réel est alors symptomatiquement et objectivement manifesté à tous par les jets d’eau non verticaux qui font les richesses de la banalisation de la révolution scientifique et de la loi de Galilée, par exemple chez un Marin Mersenne. Ceci dit, l’aristotélisme si je puis dire ne peut s’installer longtemps, car le soi-disant réel évolue encore en changeant les causalités mêmes. Puisque entourée de ses mesures, la trajectoire parabolique de la pierre lancée reconnue par Galilée pour une pesanteur constante, écrit aussi le mouvement elliptique de la lune comme une chute, dès que Newton aura reconnu la variation exacte avec la distance de la pesanteur devenue attraction par la Terre. La prolongation du thème de Goody que je veux faire ici ne peut certes aller d’emblée à ces considérations épistémologiques sur la nature des causalités lorsqu’elles s’inscrivent dans l’ordre mathématique, et je dois me restreindre d’abord au processus conjoint d’analyse et d’élagage porté par les écritures mathématiques simples des deux formes, géométriques et formules. Ce sera pour pouvoir passer à un autre rôle de l’écriture, celui de devenir un langage aussi bien algébrique et géométrique commun au moins à d’autres que des mathématiciens. C’est ce que j’essaierai de montrer avec le calcul différentiel, puis avec la mécanique quantique, non sans une certaine crainte en cette dernière occasion de devoir être trop concis.

UNE LONGUE TRADITION DU TRAVAIL SUR L’ÉCRITURE MATHÉMATIQUE

  • 4 Cité par Jean Dhombres, « La mise à jour des mathématiques par les professeurs royaux », in André (...)
  • 5 Il faut rappeler que les règles de représentation en perspective, si elles peuvent s’appuyer sur l (...)

9Il est toujours difficile de parler d’évolution pour des écritures quand elles paraissent naturelles, ainsi pour l’écriture des nombres, mais tout autant pour le dessin des figures dont je n’ai plus besoin de dire qu’il obéit à des règles. Il me suffira d’évoquer le contenu des Éléments d’Euclide, fixé au IIIe siècle avant notre ère et qui, malgré l’indéniable aspect doxographique du « manuel » auquel aucun changement ne devait être apporté, pas même un « iota », comme l’écrivait avec hauteur un auteur philologue du XVIe siècle4, a en fait donné lieu au fil des siècles à une grande variété de propositions d’écritures. Ce n’est pas très souvent reconnu, mais au final, si l’on peut dire, aucun texte de l’enseignement secondaire d’aujourd’hui ne peut être affirmé comme étant « écrit » à la façon d’Euclide. Alors même que bien des résultats, mais pas tous, ne sont que de géométrie euclidienne élémentaire5. Le cas le plus élémentaire est celui de la théorie des proportions du livre V de ces Éléments, avec l’intervention au final de l’égalité et de la barre de fraction. Je vais m’y attarder car je crois ainsi aborder au mieux les questions de l’écriture mathématique dans leur banalité même.

  • 6 La spatialisation pourtant bien modeste de l’écriture des fractions exaspère les concepteurs de tr (...)

Pour définir une « analogie », objet même des proportions, on disait et écrivait aisément au XVIe siècle en traduction fidèle du grec : A est à B comme C est à D. L’expression se nota selon un déploiement linéaire A : B :: C : D, mais il y eut quelques variations. Nous notons aujourd’hui Image, à la façon dont Leibniz le requérait un peu avant 1700, d’abord sans grand succès auprès de ses pairs, et l’on remarque l’allusion spatiale par la barre de fraction qui dénote un dessus et un dessous6. Cette façon de Leibniz abolit d’autant plus le vocabulaire d’analogie qu’on la transforme aisément sous la forme dite de la règle de trois. Elle individualise une grandeur selon Image. Elle donne le sens du linéaire fonctionnel, et fait apparaître le rapport (ou la raison C/D) comme un opérateur ; elle conserve ainsi un caractère spatial par l’écriture d’un trait horizontal ; elle n’identifie pas un nombre, sinon l’écriture devrait être rendue uniforme à celle des autres lettres qui ne sont justement pas séparées par une barre de fraction.

  • 7 Je dois être plus explicite ici : on peut appeler « algèbre cachée », ce qui ne signifie pas qu’el (...)

Quel sens voulait-on donner en géométrie élémentaire, et jusqu’au XIXe siècle, lorsqu’on refusa l’écriture superposée des fractions et que l’enfilade linéaire en : et :: resta prépondérante ? Était-ce le maintien d’une tradition dans un bastion géométrique rendu inaccessible aux atteintes du temps ? Voulait-on plutôt ne pas brûler les étapes en laissant sa structure à l’élémentaire, le faisant même reconnaître par une écriture, et donnant à l’algèbre cachée sous le rapport a/B la valeur d’une théorie déjà élaborée7 ? À l’inverse, ne faut-il pas voir une trace de la géométrie sous la forme du théorème de Thalès que Descartes utilise pour définir le produit ou le quotient des grandeurs dans la Géométrie de 1637 ? Son dessin avec les triangles semblables est une autre géométrisation de la règle de trois ; elle a l’inconvénient de ne plus faire apparaître l’invariance de la multiplication si facile à lire sous la forme des fractions Image. En posant ces questions sur la théorie des proportions à titre d’exemple majeur, je n’entends pas déstructurer des textes mathématiques au point de les rendre vains, mais faire saisir que dans la culture ordinaire reste prégnante l’histoire même de l’acculturation mathématique. Cette histoire se retrouve dans la langue sur les quantièmes et les fractions, mais aussi dans leurs difficultés d’apprentissage ; à en ignorer les étapes, ou plutôt les linéaments car il ne convient de parler de progrès qu’en une vision téléologique basée sur notre pratique aujourd’hui, on ne fait que favoriser le mouvement de refus des mathématiques qui n’a que trop tendance à se renouveler.

  • 8 J’en suis à me demander combien de professeurs ont refusé, en toute bonne conscience il y a deux o (...)

10L’élagage de propositions d’écritures, d’abréviations ou de terminologies particulières dont j’ai fait mon premier sujet n’est donc pas la reprise pure et simple du discours positiviste sur le progrès, dans la mesure où je tente le récit d’une vie apparemment propre des signes. Elle correspond forcément à la constitution d’un habitus d’une génération d’âge, une cohorte comme disent les démographes, en ce sens où les mathématiques créent un type de lien social puisqu’elles sont enseignées et font discipline depuis l’antiquité grecque au moins (μαθεματα). Nous ne le savons que trop en France où une mode de distinction a longtemps (encore ?) été de dire qu’adolescent on ne comprenait rien aux mathématiques telles qu’enseignées par des professeurs que l’on disait alors formalistes8, mais aussi incultes dans la mesure où ils ne savaient pas faire le lien entre leur enseignement, toujours dit rébarbatif, et les formes nobles de la culture, quelquefois dite humaniste et qui sait si bien jouer des « analogies ».

11Cette situation particulière du savoir mathématique à la manière d’une expérience scolaire commune n’a peut-être pas assez retenu l’attention des anthropologues, les historiens spécialisés ayant quant à eux tendance à baliser les étapes de l’épistémologie à partir des seules mathématiques considérées comme novatrices, et en dehors précisément d’un quelconque phénomène social d’apprentissage. Même les phénoménologues, qui ont tant discouru sur la perspective et sur l’acculturation mathématique des peintres, restent muets sur l’apprentissage du dessin, du dessin industriel ou du dessin de mode (avec les fameux patrons) qui ont touché tant de gens n’ayant justement pas fait d’études secondaires. Je ne crois pas que l’apprentissage des fractions ait fait l’objet de démarches ethnologiques spécifiques, pas même d’ailleurs dans nos milieux européens, dans les banlieues par exemple. Si l’on veut s’approprier un point de vue historique sur les mathématiques, cessons de penser que les techniques intellectuelles ne touchent que les intellectuels ! Mais cessons aussi bien de dire que l’écriture fractionnaire des proportions n’est qu’un outil sur lequel il n’y a rien à penser, ou que le langage ordinaire n’ait rien à en faire. Le trop long temps d’acculturation des fractions, dont la notation est pourtant si banale, est justement la preuve qu’il y a bien plus qu’on ne le dit sous cette banalisation.

12Dans le cadre culturel où je me place, reste pertinente la distinction que je faisais entre ce qui se calcule, en s’écrivant linéairement, et ce qui se parcourt du regard, en se figurant géométriquement. J’ai tenu à ne pas écrire « ce qui se voit » en place d’un « parcours », car je ne veux pas ici suggérer l’autre idée d’une immédiateté trop aisément dite comme intuition ; si de la figure de géométrie je veux voir sa forme d’écriture, c’est évidemment par le temps mis par le regard pour en quelque sorte déployer la figure avant même de l’analyser, et importe alors la continuité de ce déploiement. Il en subsiste quelque chose quand j’écris la proportion sous forme de fractions. Alors que je ne lis que du linéaire lorsque j’utilise l’écriture des :: et des :, et bien sûr lorsque j’écris en langage non algébrisé « ut A ad B, sic C ad D ».

13La question n’est pas ici de dire une fois de plus la force inventive mise en œuvre en diverses écritures mathématiques, et d’ailleurs aucun ingénieur ne refuse les formules algébriques ou trigonométriques qui se manient désormais sans recours à une figure géométrique et sans les proportions d’autrefois, pour en revenir aux manipulations de François Viète avec le perpendicule et la base en place du sinus ou du cosinus, voire aux cordes de Ptolémée. La question devient celle de discriminer, selon les cas, si l’habitus est le fait anecdotique d’une mode, le signe d’un « pouvoir » de tel ou tel mathématicien, ou la reconnaissance de l’adéquation entre une pensée et son mode d’écriture, quitte à vérifier que cette adéquation est ce qui la rend le plus aisément transmissible en un moment culturel particulier, et qu’elle s’estompe quelquefois avec les restructurations du savoir mathématique, mais aussi d’autres fois se banalise avec l’adoption de ces mathématiques dans la langue ordinaire.

14Car si nous reconnaissons tous que les mathématiques requièrent un tracé de la main qui fait écrit – signes, figures, et jusqu’au symbole qui marque aujourd’hui qu’une preuve est effectivement terminée et qui était le quod erat demonstrandum devenu CQFD –, si nous savons aussi bien la variété des systèmes historiques de numération ou celle des techniques de dessin dit géométrique enseignées dans des écoles depuis le XVIIIe siècle, nous connaissons mal non seulement les modalités d’apprentissage, mais plus mal encore les raisons qui ont poussé au maintien de certaines techniques.

15Parce que c’était assez simple à voir comme un handicap, j’ai mentionné le cas de l’écriture des proportions sans barre de fraction, mais omis de lui associer la géométrie de la similitude. Celle-ci apporta pourtant un concurrent efficace aux fractions : ce sont les nombres complexes. Non pas linéairement écrits comme x + iy, mais avec la forme dite polaire de l’exponentiel complexe (ρe) dont le nom indique suffisamment la représentation spatiale qu’elle induit ou représente aussi bien, mais encore la nouvelle situation professionnelle des astronomes rapportant les mouvements des planètes au centre solaire. Faut-il s’étonner que cette autre écriture portera jusqu’à la mécanique quantique, comme nous le verrons, et est devenue un langage commun à un assez grand nombre de professions de l’image, y compris pour l’image médicale ? Méfions-nous donc de toute déclaration de progrès univoque dans le domaine des mathématiques, une science qui ne reconnaît jamais un échec dans des démonstrations partagées par une communauté.

LA TECHNIQUE D’ÉCRITURE N’EST PAS À DÉDAIGNER

  • 9 Éric Guichard a remarquablement analysé les discours, y compris commerciaux, qui se cachent derriè (...)

Même à l’ère informatique, le débat n’est pas aisément clos entre le recours aux dessins ou aux formules. Si l’herméneutique des textes mathématiques n’est pas suffisamment développée par les historiens, le lieu devenu commun d’un constant retard de l’enseignement sur la recherche ne suffit pas, à lui seul, à expliquer les unités structurelles des signes qui balisent un corpus pédagogique et font date. Ce sont ces questions qui s’invitent naturellement lorsque l’on envisage l’écriture comme une technique intellectuelle ; elles ne se dérobent pas dans un passé lointain et révolu, mais engagent pour beaucoup des problèmes d’aujourd’hui en dépit de tout ce que l’on raconte sur la fracture numérique9. Autrement dit, la règle de trois et la proportionnalité restent des questions difficiles pour l’enseignement primaire et du début du secondaire, alors que l’écriture algébrique utilisée Image semble les réduire à rien. Par ailleurs, la multiplication par les complexes, qui est un autre avatar de cette proportionnalité algébrique envisagée dans le plan, pourrait faire oublier le substrat géométrique de la mécanique quantique, si précisément il n’y avait les espaces de David Hilbert, comme je me propose de le faire voir au final, et au fond une expérience géométrique associée aux nombres complexes. J’entends bien par des exemples élémentaires préparer ces questions qui ne paraissent difficiles que parce que l’on n’a peut-être pas réellement saisi ces cas élémentaires.

16Si, comme je le mentionnais ci-dessus, l’adéquation particulière qu’une écriture établit avec la signification d’un objet mathématique doit ou peut correspondre au développement d’une mentalité à un moment de l’histoire, en tout cas faire signe d’une connivence, il faut également chercher à voir comment l’écriture mathématique travaille en retour à façonner cette mentalité.

  • 10 Marcel Granet, La pensée chinoise [1934], Paris, Albin Michel, 1968.
  • 11 Simon Stevin de Bruges, La disme, in L’arithmétique, Leyde, Christophe Plantin, 1585. Le texte a s (...)

17Rares, très rares sont les chercheurs, tel Marcel Granet pour la chine ancienne, qui ont su exprimer le jeu numérique et combinatoire, donc mathématique, dans l’expression des mythes dominants d’une civilisation10. L’exemple pourtant le plus connu, mais pas pour autant le mieux analysé, est celui de la numération décimale avec sa file de chiffres séparés par une virgule, le jeu des millièmes ou des milliers, apparue assez soudainement en Europe grâce à Simon Stevin à la fin du XVIe siècle – La disme, le petit livre qui la contient, parut en 1585 à Leyde11, porteur aussi bien de la numération binaire illimitée dont jouent nos ordinateurs. Mais qu’ajoute-t-on quand, à la manière de Fernand Braudel, on la dit favorisée par le mouvement du très long terme de la quantification et de la pratique bancaire ? Ou aujourd’hui quand on parle du besoin du traitement d’une information foisonnante par les services étatiques ou les particuliers ?

  • 12 Les rétifs au décimal, alors que les banquiers l’adoptèrent pour les tables d’intérêt, furent d’ab (...)
  • 13 Jean Dhombres, « Mesure pour mesure, universel contre régional : le système métrique comme action (...)

18La difficulté est précisément que les deux rythmes, celui de l’invention mathématique et celui de la marchandisation, ne battent pas à l’unisson : le décimal, déjà connu par exemple dans le monde arabo-musulman à partir de pratiques polynomiales, sera par ailleurs mal reçu en Europe par ceux pour qui il serait objectivement de la plus grande utilité12, et il faudra une loi en France pour l’imposer à tous deux siècles plus tard. C’est la loi du système métrique décimal, avec sa kyrielle de millimètres ou kilomètres récitée depuis l’école primaire ; on l’épinglera sous l’adjectif « républicain », preuve s’il en est qu’une réforme mathématique joue à tout le moins sur les formes de représentation d’une société. À l’époque pourtant, celle des Montagnards et des Girondins, on pensait que ce système avait quelque valeur morale en permettant à tous de juger des quantités, justement, universellement et uniformément. La réaction, il faut le rappeler, est dans l’appellation anglaise, imperial, pour les measures restées non décimales jusque dans la seconde moitié du XXe siècle, et donc symboliquement jusqu’à la fin du système impérial des colonies13.

LA NOTATION COMME SIGNE AVANT-COUREUR

19Je commence cette enquête par des détails d’écriture bien modestes en ce qu’ils sont susceptibles de révéler des tendances que les intéressés eux-mêmes n’avaient sans doute pas complètement assumées, et qui n’ont pas eu de véritable postérité. En ce seul sens qu’on n’a pas fait allusion à ces détails pour comprendre le développement ultérieur. Je vais ici m’intéresser à la simple position d’un point après le dessin d’un carré, en donnant la démonstration écrite d’un théorème d’Euclide, même s’il porte le nom de Pythagore qui est un ancêtre lointain d’Euclide. Je me place d’emblée dans ce genre d’écriture qui requiert une figure, ou du moins une écriture particulière lui est associée, qui semble avoir sa vie propre. Le résultat est suffisamment célèbre – l’aire du carré construit sur l’hypoténuse d’un triangle rectangle égale à la somme des aires des deux autres carrés dessinés – pour que l’on n’ait aucun mal à la suivre, alors même que peut surprendre l’écriture ici fournie. On ne peut en tout cas pas la dire algébrique. Elle donne donc à réfléchir, et c’est ce que recherche cette page de Pierre Hérigone dans son Cursus mathematicus / Cours mathématique de 1634 (figure 1).

20La figure s’impose distinctement après l’énoncé bilingue du théorème dont on apprécie le balancement rythmique, évitant le pédant vocabulaire de l’hypoténuse : l’aire du carré BCED est la somme des aires des carrés BFGA et AHIC. Il faut cependant un dictionnaire pour décrypter le signe égal, ici donné par 2|2, deux 2 séparés par une barre verticale qui joue à la manière du pivot d’une balance, dont la première intervention est à la ligne qui suit Req. π. demonstr. à la quatrième colonne. Un analogue de notre signe égal, avec deux lignes parallèles, apparaît quelques lignes plus tôt dans le même texte, mais il signifie le parallélisme justement des droites AM, BD et CE, et du coup on peut s’interroger, en lisant Hérigone aujourd’hui, sur les raisons qui ont fait plus tard adopter le signe égal des parallèles, avec un possible primat donné à la géométrie.

Figure 1 : Pierre Hérigone, Livre I des Éléments d’Euclide, Théorème 33 dit de Pythagore

Image

Source : Bibliothèque municipale de Lyon, fonds ancien (cote 342397 T1, p. 56). Photographie : Éric Guichard.

21Aucun signe égal n’était utilisé par Euclide, qui n’en avait pas moins la notion d’égalité portant sur des grandeurs, comme des aires, des longueurs, des angles, etc. Hérigone invente donc plus qu’une symbolisation : il fait intervenir un mode de pensée, avec l’égalité figurée en tant que relation ayant des propriétés que l’on reconnaît aujourd’hui sous le nom de relations d’équivalence. Pour mieux en faire voir la portée, je les donne avec la notation d’Hérigone (réflexivité a 2|2 a, symétrie a 2|2 b donne b 2|2 a, et transitivité a 2|2 b et b 2|2 c donnent a 2|2 c). Alors que notre signe égal banalise par le sens acquis de l’algèbre. Mais justement cette banalisation n’est-elle pas le résultat lointain d’un mouvement lancé par Hérigone ? Auquel cas son 2|2 serait un signe avant-coureur ! L’écriture est de même nature que la notation avec le parallélisme qui nous paraît bien plus naturelle et riche. Hérigone entendait singulariser la relation d’égalité portant sur des mesures de grandeurs, et son choix de 2|2 signifie le maintien d’une spécificité pour les proportions que, par ailleurs, l’algèbre tendait à diminuer. Il aura, indépendamment, une écriture pour les proportions. Or, indépendamment de la volonté peut-on dire de Pierre Hérigone, son signe 2|2 tendait vers une conception algébrique, que ne possède pas son abréviation pour les proportions.

22À la même époque, thomas Harriot faisait en algèbre l’assimilation avec la géométrie en donnant presque notre signe égal. Descartes écrira trois ans plus tard ∝, déformation de æ, pour désigner en latin une égalité qu’il situait aussi bien en algèbre, ou plutôt en fondement de sa théorie des équations. C’est ainsi constater que Descartes abrégeait seulement l’écriture dans le but de mettre en avant une indéniable nouveauté, là où Hérigone donnait une explication sous forme d’un graphème. Tous les deux, en proposant une notation alors inhabituelle, signalent un sens nouveau ; par ailleurs, les deux notations ont aujourd’hui disparu dans un grand et fréquent mouvement d’élagage. En quel sens toutefois peut-on parler d’échec ?

23Hérigone respecte la règle de distinction des imprimeurs d’alors entre écriture en majuscules dans un texte et écriture en minuscules dans une figure, et be, qui intervient à la première ligne de la deuxième colonne pour la phase de préparation de la démonstration (Præpar.), ne désigne nullement le produit de b par e, selon la pratique des relations algébriques à venir, mais cette écriture fait allusion aux points B et E. Quelle est précisément cette allusion ? On voit apparaître □be. Mais on voit aussi un point après le carré, avec toutefois à la suite bc en place de be : □.bc. Les lettres ne sont donc pas interchangeables dans ce symbolisme, et la figure aide à faire les distinctions. Toute écriture a sa contrainte d’interprétation, et normalement un dictionnaire doit pourvoir le sens : il doit être donné quelque part avec le texte. L’introduction à cette époque de listes explicatives de signes est une nouveauté des textes mathématiques par rapport aux manuscrits, et elle vient avant même l’analogue que sont les légendes dans les cartes géographiques.

  • 14 Sans parler de quelques anecdotes fantaisistes qui courent sur le Net, mais dont j’aimerais pouvoi (...)

24Pierre Hérigone14 est assez méticuleux qui dresse de nombreuses pages explicatives. Or si l’on trouve effectivement le carré dans ce dictionnaire, on ne le voit pas toujours suivi d’un point, alors que le rectangle est suivi d’un point, quoique avec une disposition autre des deux lettres, celles-ci étant séparées par des virgules. Ces lettres désignent en cette autre occurrence des nombres, et ne sont pas référées à des points sur une figure géométrique, comme be dans le cas présent.

25Ce n’est pourtant pas en raison de ce manque d’explication pour la notation d’un carré suivi ou non d’un point que l’écriture d’Hérigone est le plus dérangeante ; la difficulté de lecture provient de ce que chaque ligne du texte, au sens très matériel d’une certaine famille de mots placés horizontalement dans une même colonne, doit être une phrase complète ; elle est une étape de la démonstration, dès lors repérable en tant qu’unité.

  • 15 Je ne suis pas sûr qu’on gagne autre chose qu’un effet de mode en qualifiant ce dispositif de « rh (...)

26Cette spatialisation logique que l’on peut aussi décrire comme une succession ordonnée d’atomes horizontaux d’écriture, ou encore des abrégés sténographiques d’une phrase complète, est une contrainte extraordinaire. Elle implique que toutes les idées mathématiques doivent pouvoir se décomposer en unités de tailles équivalentes. La disposition en lignes séparées par des colonnes est très organisée ; elle est aussi une forme de la spatialisation de l’écriture mathématique, et on a avantage à parler plus précisément d’un dispositif15. Il ne sera pas maintenu, ce qui ne signifie pas que leçon n’en sera pas tirée. Ne peut-on constater qu’on a abouti à l’extrême de ce que disait Jack Goody à propos des tableaux en général ?

  • 16 Jack Goody, La raison graphique, op. cit., p. 133.

Une des caractéristiques de la forme graphique c’est de tendre à disposer les termes en rangées et en colonnes, c’est-à-dire linéairement et hiérarchiquement, de manière à assigner à chaque élément une position qui définit sans ambiguïté et en permanence sa relation aux autres16.

27Se présente aussi un aspect épistémologiquement singulier de cette écriture d’Hérigone dans la mesure où la pensée adopte des formes de ce qu’elle est censée donner à penser, en l’occurrence l’espace, ou l’étendue comme écrivait Descartes. Ce dernier utilisera aussi bien la spatialisation pour une forme algébrique, avec le choix d’une double écriture horizontale et verticale des polynômes ; elle sera maintenue assez longtemps comme en témoigne un manuscrit de Johann Bernoulli datant de 1692.

28Avec cette spatialisation de l’écriture polynomiale, on ne peut pas dire qu’il s’agisse seulement d’un emblème, ou d’une convention au sens où il n’y aurait aucune explication à trouver dans le moyen graphique utilisé. La spatialisation fait usage d’une « analogie », et elle n’est pas entée sur la proportion, mais sur le calcul d’un polynôme ou plutôt sur le geste du corps accompagnant ce calcul : on regarde de droite à gauche, par exemple lorsque l’on développe un produit croisé de coefficients comme (a + b)(c + d) qui se déploie spatialement, alors que la lecture des puissances successives de l’indéterminée est linéaire, de gauche à droite. Au contraire, le symbole de l’égalité pour Hérigone, 2|2, est simplement emblématique en ce qu’il rappelle la balance. Mais on retrouve quand même l’une des affirmations les plus anciennes de la pédagogie de l’algèbre, avec le fait de « l’équilibre des deux membres » de l’équation, comme des poids qui, retirés car gommés d’un côté du signe, doivent être également retirés de l’autre côté, ce qui fait précisément intervenir le signe moins.

29Ai-je besoin d’insister sur ce qu’il y a d’invention dans cette pensée du négatif, après ce que Kant en a dit qui souhaitait son introduction dans les raisonnements philosophiques ? On rencontre ainsi une des plus belles questions de l’histoire des mathématiques en ce qu’elle peut aider à comprendre le fonctionnement de l’esprit humain dans sa réflexion collective : faut-il voir l’invention du signe moins dans l’allusion algébrique à des comptes commerciaux à équilibrer ou dans la pensée qui reste spatiale de la balance ? Pourquoi trancher ?

  • 17 Dans son essai, Les enjeux du mobile. Mathématique, physique, philosophie, Paris, Le Seuil, 1993, (...)

30En tout cas, il est sûr que la géométrie n’intégrera le signe moins qu’une fois également pensés les complexes (encore dits aujourd’hui imaginaires) auxquels sera dévolue la tâche d’indiquer les translations, mais aussi les rotations et les homothéties, donc des transformations faisant les similitudes, et qui sont toutes des façons spatiales17.

31Il a déjà été dit que pour ce faire il fallut l’écriture à la fois spatialisée et algébrisée de l’exponentielle complexe avec la forme polaire des nombres imaginaires. Faut-il dès lors tenir pour anecdotique le fait que Johann Bernoulli, avec des polynômes aux écritures superposées, ait tenu à représenter le phénomène de la réfraction par un voyageur cheminant d’un terrain à un autre, à la manière du rayon lumineux qui change de milieu transparent en allant de l’air à l’eau ? Par cette illustration, Bernoulli donne le réalisme spatial d’un dessin au calcul mathématique dont on peut voir la complexité d’écriture ; ce réalisme est renforcé par la convention de perspective, l’œil voyant le voyageur debout quoiqu’il soit figé sur le papier par projection.

32Même donc sur le très simple exemple du théorème de Pythagore chez Pierre Hérigone, on ne peut que souligner à quel point la technique d’écriture peut être un acte de pensée portant sur la structure du raisonnement mathématique, au-delà des abréviations et des symboles ou autres emblèmes, qu’elle le fait par le jeu de notations et l’usage conjoint de l’étendue de la feuille de papier. Car il ne faut pas s’en tenir à la seule unité horizontale d’une idée mathématique chez Hérigone, puisque l’on voit aussi des lignes verticales ; elles individualisent les lignes de texte des unités horizontales de référence, par des indications comme 46.1, ou 31.1, ou 29.d.1, ou d’autres comme d. α. Il s’agit de références à des propositions (proposition 46 du livre I des Éléments), ou à des demandes, voire des définitions, références usuelles chez Euclide mais ici séparées du texte même de la démonstration. La nouveauté est qu’une seule idée se voit référée à une seule origine : astucieusement par les colonnes, le repliement usuel de tout le texte euclidien sur lui-même, par autocitation, accentue la logique de la disposition horizontale. La contrainte d’unité apparente du théorème, par sa disposition en lignes occupant toute la feuille, se conjugue pour la démonstration à un dédoublement des deux colonnes, ce qui augmente encore l’exigence de concision pour l’abréviation.

33Les abréviations participent évidemment de la gageure d’une disposition d’une idée par ligne encadrée par des colonnes, et nous permettent de mieux comprendre ce que plus tôt je décrivais comme un manque. Ainsi de la première phrase de la préparation de la preuve, « be est □.bc ». Il y a enchevêtrement de deux indications sur une seule ligne : d’une part, be désigne la figure géométrique du carré dont deux sommets opposés, B et E, sont seulement nommés selon une habitude qui remonte à Euclide. Il s’agit du carré construit sur l’hypoténuse. Mais l’écriture en minuscules n’est pas seulement une métonymie de ce carré comme l’est BE, car elle désigne en outre une mesure, qui est l’aire de ce carré. La valeur à laquelle elle est égalée, désignée également par deux lettres, ne peut qu’être une mesure ; mais elle est cette fois indiquée par la représentation algébrique de l’opération de mise en puissance d’ordre 2.

34L’enchevêtrement, qui fait sens, est donc entre une mesure qui est d’origine géométrique, et une algèbre qui porte une opération de puissance. De sorte qu’en regardant la figure, la première phrase peut se traduire selon l’affirmation suivante : l’aire du carré BE est le carré de côté BC. Ce qui est requis de la démonstration, comme indiqué à la première ligne de la dernière colonne, s’écrirait aujourd’hui :

35BC2= AB2+ AC2, mais c’est exactement la signification que prend l’écriture chez Hérigone : □.bc 2|2 □.ab + □.ac.

36Ce n’est plus l’énoncé strict d’Euclide, lequel évoque précisément des carrés géométriques, puisque l’énoncé est avec des carrés comme puissances ; on trouve pourtant l’énoncé euclidien strictement écrit par Hérigone à la dernière ligne de la dernière colonne, sans cette fois qu’il y ait justement un point (.) qui suive le carré (□).

37Manifesté par une écriture particulièrement simple (le point venant après le dessin d’un carré), le passage de la figure géométrique (dernière ligne de la dernière colonne) à la proposition avec des carrés algébriques n’en est pas moins essentiel : c’est celui de la géométrie à l’algèbre des formules. On pourrait voir sur l’exemple de la puissance d’un point par rapport à un cercle la façon dont ce passage se répercute à son tour sur les démonstrations euclidiennes les plus ordinaires. Si donc les notations de Pierre Hérigone ne sont plus toutes utilisées – quoique nombreuses sont celles qui sont trouvables sur un traitement de texte ordinaire –, elles n’en ont pas moins préparé effectivement la symbolisation des longueurs des côtés du triangle ABC par des minuscules correspondant aux angles qui font face, a, b, et c ; ce qui ne serait qu’anecdotique s’il n’y avait l’écriture désormais usuelle du théorème de Pythagore sous la forme algébrique, a2+ b2= c2, qui peut oublier son origine de tracé.

38Aussi bien, la position du point après le dessin du carré, dans la forme □.bc, désigne-t-elle une écriture quasiment fonctionnelle : il y a action sur la longueur bc pour en prendre le carré. En le formulant ainsi, et puisque l’idée de fonction n’était pas formellement établie à cette période des mathématiques, je fais à nouveau de l’écriture un signe avant-coureur.

  • 18 Voir les premières lettres publiées dans les deux premiers volumes des Œuvres complètes de Descart (...)

Faut-il imaginer que cette écriture prépare plus l’idée de fonction que celui qui rédige ne le pense ? Il me semble que non, du moins si l’on prend en compte le soin (qui devait s’avérer fastidieux pour les imprimeurs) avec lequel Pierre Hérigone distingue des autres le cas où il y a un point après le carré dessiné. D’ailleurs dans ce même texte, on voit △ace pour un triangle, aussi bien que ◊clme pour un rectangle. Et s’il n’y a pas la forme rectangulaire, c’est sans doute parce qu’il pourrait y avoir confusion avec la valeur numérique attribuée par ailleurs au rectangle. À la même époque, Descartes dans ses propres manuscrits mettait un point après le signe √ et après l’expression sous le radical, comme dans √.ax + b, pour désigner ce que nous écrivons en ayant installé le vinculum horizontal au-dessus du radicand Image18. De la même façon, lorsque la notion de fonction sera établie, au XVIIIe siècle, on notera f.x, et bien avant, on avait écrit sin.x, ou encore l.x, respectivement pour le sinus ou le logarithme. Par contre, on n’écrira pas d.x pour désigner la différentielle de la variable x, mais directement dx : nous devons bien sûr y venir car, avec le symbole différentiel, il y a eu un saut considérable quant au sens de la notation. C’est ce que j’expliquerai plus loin sous l’expression d’une suspension de jugement quant à ce sur quoi porte la lettre d. Mais il convient aussi de faire une remarque générale.

L’ÉCRITURE QUI DÉSIGNE L’UNITÉ DE TOUTE LA MANIÈRE MATHÉMATIQUE

  • 19 Voir Bruno Belhoste, Augustin-Louis Cauchy. A Biography, Berlin, New York…, Springer Verlag, 1990 (...)

Il serait facile, en prenant son temps dans l’analyse du Cours mathématique de Pierre Hérigone, de vérifier l’impression profonde d’unité qu’apporte la présence d’une même écriture spatialisée pour des morceaux très différents de mathématiques, du triangle combinatoire dit de Pascal qui y figure déjà, aux formules de multiplication des arcs. Je dois pourtant avancer en prenant un exemple d’analyse bien plus moderne avec les séries et les intégrales de Fourier : cet exemple servira à approfondir ce qui se joue en une écriture mathématique dans sa fonction apparemment anodine d’abréviation mais nous introduira aussi les relations d’incertitude. Or je veux montrer qu’aussi algébrique soit la formulation, d’où pourtant paraît avoir disparu la spatialisation, il n’en reste pas moins de la symétrie que prend en compte la notation utilisée, à partir de l’exponentielle complexe dont on a déjà vu qu’elle avait un caractère spatial. L’impression très nette d’unité des relations qui vont venir sert la signification épistémologique de la transformée de Fourier. Je sais malheureusement qu’en choisissant cet exemple, je perds pour un temps les lecteurs non habitués à ce genre de calculs, et il me faudrait parler d’abord de l’avantage de la notation intégrale avec bornes indiquées en haut et bas, comme Image qui est aussi une certaine spatialisation. Mais cette écriture n’a pas été fournie avec l’invention du calcul, et ne vint pas avant le début du XIXe siècle, grâce à Cauchy et à Fourier, pour des raisons qui tiennent profondément aux inventions de ces deux mathématiciens19. D’une part, il y a la fondation de l’analyse par Cauchy sur la notion de limite et de fonction continue, et d’autre part, la mise en œuvre par Fourier des séries et des intégrales qui portent désormais son nom. Je me restreins donc à la seule transformée de Fourier d’une fonction f, et à sa notation, dont la définition est : (1)

Image

39Dans cette écriture, je veux insister sur le chapeau mis sur le signe de la fonction f, ou l’accent circonflexe, liant ce chapeau au signe « – » dans l’exponentielle complexe e−2iπxy parce qu’est ainsi impliquée l’idée qu’en doublant le chapeau, ou le chapeautant encore, on obtient quelque chose qui a à voir avec f, même si ce n’est pas exactement f, mais la fonction symétrique. Puisque l’on dispose de la relation :

Image

  • 20 Si la fonction f est à valeurs réelles, l’imaginaire conjugué de la fonction f surmontée d’un chap (...)

Il est utile de poser20Image.On vérifie en effet

Image

Je ne m’étends pas sur des possibilités d’éviter le tilde en introduisant une seconde transformée de Fourier qui serait dénotée par un chapeau renversé, correspondant simplement au choix de –i au lieu de i dans la définition (1) de l’intégrale. Mais je tiens à faire remarquer que ce changement de i en –i correspond à la vieille indétermination en Image des algébristes du XVIIIe siècle, et à une forme fondamentale de symétrie plane. C’est pour avoir un résultat aussi simple, quasiment une involution bien représentée par la propriété des signes (-1)(-1) = +1, et une involution stricte si l’on se restreint aux fonctions f paires, que l’on a pris en exponentielle la forme -2iπ, le signe moins utilisé se retrouvant en + pour l’inversion par le passage de f àImage.

40Naturellement, il faut des propriétés particulières de la fonction f et de celle avec un chapeau pour que les intégrales sur un intervalle infini aient un sens. Pour le moment, je ne spécifie pas ces propriétés, car on verra plus loin qu’il existe plusieurs solutions intéressantes et que l’on peut même gérer le meilleur cas possible de comportement des fonctions pour en retour, au moyen d’une notation particulièrement habile, disposer d’une très grande généralité, presque inespérée. L’intérêt de la notation avec le chapeau pour la transformée de Fourier est de porter sur la fonction elle-même, sans faire apparaître la variable. Du coup, la fonction est un élément individualisable, qui dès lors peut lui-même servir de variable. Envisager ainsi une fonction comme un point d’un espace, c’est en un sens très général installer l’épistémologie de l’analyse fonctionnelle du XXe siècle comme une géométrisation. Elle peut prendre plusieurs visages, soit avec le produit scalaire, soit avec la notion plus algébrique de forme linéaire. Nous le verrons plus loin avec la mécanique quantique.

41Une propriété essentielle de la transformation de Fourier, dans les bons cas d’intégration, est donc son inversion qui a été écrite en (2). Le résultat a été fourni sans aucune précaution par Fourier dès sa Théorie analytique de la chaleur en 1822, et d’ailleurs avec d’autres notations. Car il n’adoptait pas la notation de l’exponentielle complexe et préférait utiliser les cosinus et les sinus. Mais je voudrais y revenir, justement en insistant sur les notations actuelles. Car une notation moderne s’avère utile pour écrire de la façon la plus simple cette inversion. La transformée de Fourier a l’avantage d’échanger deux opérations, la multiplication d’une fonction f par la variable et la dérivation. Cette remarque essentielle qui tient à l’écriture de l’exponentielle e−2iπxy et de sa dérivée est à la base de l’utilisation de la transformée de Fourier pour les équations différentielles et les équations aux dérivées partielles, devenues primordiales pour la physique mathématique. On écrit en deux formes équivalentes grâce à la formule d’inversion :

Image

42et

Image

43En acceptant de faire l'effort mental – ce que les formalistes détestent – d’associer le chapeau à une variable particulière à chaque fois dans (4) ou (5), ces formules ne sont plus gênantes pour l’œil. Si l’on définit alors par M le produit d’une fonction par 2π fois sa variable et par D la dérivation, on écrira simplement

Image.

44Ce qui lie la loi de multiplication (opération M) à la dérivation (opération D) par le biais de la transformation.

45La transformée de Fourier possède une autre propriété encore, celle de conserver à peu près le produit scalaire. Mais, comme annoncé, nous verrons cela un peu plus loin. Pour le moment, remarquons que l’écriture avec le chapeau est suffisamment versatile pour s’adapter à d’autres situations, que l’on peut justement dire analogues par l’usage de cette notation. Choisissons en effet une fonction périodique f et de période 1, pour laquelle on va choisir e2iπnx, n étant un entier relatif quelconque (puisque selon la propriété de l’exponentielle complexe e2iπn(x+1)= e−2iπnx), et définissons cette fois le n-ième coefficient de Fourier par l’expression :

Image

46On aura la fonction f de départ, en place de l’inversion dite par (2) et dans de bons cas pour f, en gros quand cette fonction est continue et à variation non trop rapide (ce qu’on appelle après Darboux une variation bornée).

Image

47Même si la fonction chapeau est cette fois définie sur les entiers relatifs, alors que f est définie sur un intervalle de longueur 1 et prolongée par périodicité 1 ensuite, la relation d’inversion (2) correspond exactement à la somme (8) qui est une synthèse (reconstitution d’une fonction) de la même façon que l’intégrale (7) est une analyse (obtention de coefficients constitutifs d’une fonction).

48Avec analyse et synthèse, j’ai volontairement utilisé un vieux vocabulaire pour qualifier les raisonnements de la géométrie, et cette fois on les retrouve subsumés par une écriture. Qu’avec l’intégrale de Fourier, la quasiment même formule d’inversion exprime par une même écriture, les deux aspects, analyse et synthèse, prouve que ces deux aspects sont en l’occurrence les deux faces d’un même raisonnement.

Forcément doit exister sur les fonctions, au lieu du produit ordinaire, une loi de composition correspondant au produit ordinaire pour les fonctions surmontées d’un chapeau. Si l’on définitImage, la seule propriété de l’exponentielle induit la relation multiplicative : Image. La preuve peut se voir selon les égalités suivantes à partir d’une intégrale double et de la possibilité d’intervertir les opérations d’intégration en u ou en x, tout en manifestant la symétrie par le changement de variable sur x-u qui redonne la même intégrale définie (bornes infinies) compte tenu du passage à –du.

Image

49J’ai tenu à présenter ce calcul simple pour donner à voir algébriquement, et oserai-je dire concrètement, puisque l’idée abstraite devient alors celle de la géométrie, le jeu de la multiplication complexe dans l’intégrale de Fourier, et ainsi le rôle de la symétrie dont je parlais au départ, manifestée par l’opération tilde sur les fonctions.

UNE PAUSE ÉGOTISTE SUR L’AIR DU TEMPS

  • 21 Jean Dhombres, « L’écriture mathématique. De l’impensé à l’impensable », in Georges Bernard et al.(...)

50Ce n’est pas la première fois que je réfléchis d’une manière un peu générale sur la nature et la spécificité de l’écriture mathématique, et entraîné en 1978 par mon ami et aîné le philosophe Jean-Louis Gardies, il y a plus de trente ans déjà, l’un de mes premiers papiers, qui n’était pas de recherche mathématique, concernait la mise en écrit des mathématiques21. Je me permets une citation d’une partie de la conclusion d’alors.

  • 22 Ibid., p. 92.

L’écrit n’est pas neutre en mathématiques et bien au contraire les mathématiciens jouent très souvent de ses ressources aussi bien linéaires que spatiales, de ses qualités suggestives ou descriptives au risque d’ambiguïtés – tant pour exposer que pour investir de nouveaux territoires, « intuitionner » l’impensé et organiser l’impensable. Toute conquête de taille, cependant, conduit, à partir de l’écriture et du parler usuels, à un réaménagement global de l’écriture mathématique, donc à un nouveau classicisme. Ce dernier fige alors, mais pour un temps, la syntaxe (c’est-à-dire le déroulement automatique – donc obligatoire du calcul) et les paradigmes dans une langue complète, fermée sur elle-même, sans passé apparent autre qu’archaïque. Tout est alors mûr pour une nouvelle querelle des Anciens et des Modernes22.

51Je n’ai pas beaucoup à regretter en l’occurrence, mais pris par la question du progrès des mathématiques et par des exemples alors assez contemporains, et paradoxalement ne voulant pas engager la question de l’écriture sur ordinateur des mathématiques, je n’avais pas assez consacré de temps pour réfléchir sur le phénomène du très long terme de l’écriture, auquel Jack Goody nous contraint très élégamment. Je n’avais pas en 1978, je l’avoue, une grande expérience de la lecture des textes mathématiques anciens, et je les interprétais – je n’ai en l’occurrence aucun remords de l’avoir fait – pour ce qu’ils me donnaient à penser en liaison avec des questions modernes. Je vivais en outre la paradoxale situation d’une mode qui consistait à dire, au nom de la positivité des sciences sociales a priori décrétée, que les révolutions scientifiques ne permettent pas la comparaison épistémologique, ni même une mesure critique du progrès.

  • 23 Thomas S. Kuhn, The Essential Tension. Selected Studies in Scientific Tradition and Changes, Chica (...)

52Ceci m’empêchait de considérer qu’il y avait quelque chose à penser sur l’écriture mathématique. C’était un temps où les théories étaient décrétées « incommensurables les unes aux autres », et je me souviens d’une visite que je fis cette année à thomas Kuhn à Boston alors qu’il repensait radicalement l’incommensurabilité en réunissant divers articles sous le nom de The Essential Tension23. J’en ai profité pour revenir à une vision plus globale de l’histoire des mathématiques, celle qui n’est pas faite des seules avancées de quelques esprits, mais prend en compte, notamment par les façons de l’enseignement, la transmission des innovations et ce qu’elle impose de mise en forme et d’écriture qui ne peuvent se contenter d’une conservation ou d’une éradication de modes anciens.

  • 24 Paul Feyerabend, Against Method : Outline of an Anarchist Theory of Knowledge, London, Verso, 1976 (...)

53Une autre tendance, qui me plaisait beaucoup, et au fond fort voisine, avançait qu’en science tout était bon qui réussissait24. Cependant, la question même de ce qui était bon perdait vite son sens, puisque la science était dite déterminée par les seuls rapports sociaux, analogue en cela à la religion, à l’économie, ou à l’art. Précisément, si je me « mettais » à l’histoire des sciences, comme on peut dire vulgairement, c’était pour mieux comprendre comment le contingent social et historique pouvait créer du nécessaire en mathématiques. Sans que j’éprouve le besoin de considérer un même mouvement en littérature, en art, en religion ou en économie. En décortiquant le texte de Pierre Hérigone, comme je viens de le faire en ayant cherché non pas à le déstructurer, mais à saisir les moteurs visibles et moins visibles de son fonctionnement épistémologiquement efficace, je trouve une tendance temporelle, et de nature sociale qui est celle du développement du cours de mathématique, s’adressant à d’autres qu’à des clercs. Je peux vérifier que cette façon enregistre, pour parler comme Goody cité en début de cet article, une liaison qui fait unité entre la géométrie et l’algèbre. Sans pour autant que cette liaison soit celle que Descartes trois ans plus tard exhibait par la géométrie, où la liaison est une traduction de la géométrie à l’algèbre.

54L’écriture n’est donc pas seulement une abréviation, ni une notation qui se nourrit d’analogies à la manière de celles de l’espace, comme on vient de le discuter ; elle peut devenir l’indication d’une structure, celle que l’on a avec le produit de convolution pour la transformation de Fourier. La régularité de l’écriture vaut aussi vérification que l’on ne se trompe pas. La langue vernaculaire pouvait le faire entendre aussi bien, en usant des ressources de l’oral rythmé, quasiment de la poésie apprise par cœur, selon une des ressources des arts de la mémoire. Est inintéressante, car insoluble si on la traite par l’histoire, la question de savoir si la déshérence de l’art de mémoire tient à l’algèbre, ou si l’algèbre est issue de cet art de la mémoire rénové. C’est une affaire de rythme. L’algèbre naissante par ses écritures mêmes dit combien les ressources de l’Ars Memoriae paraissaient désuètes aux yeux d’un certain nombre d’intellectuels. Ainsi puisque l’apparition d’une forme de pensée rend compte du passage du temps, les modes nouveaux de présentation et d’écriture ne peuvent être de simples accidents.

55En le disant ainsi, voici terminée la partie de mon exposé dont le but était de faire saisir le rôle même de la pensée dans l’écriture mathématique. Je peux passer à la partie plus analytique, qui n’implique pas plus de mathématique technique, contrairement à ce que le passage par la transformée de Fourier pouvait laisser penser.

L’ÉCRITURE SANS FIGURE DU CALCUL DIFFÉRENTIEL ET INTÉGRAL AVEC LA SUSPENSION DU JUGEMENT SUR LA VARIABLE

56En me permettant quelques allers et retours entre les XVIIe et XIXe siècles, je devrais évoquer après Hérigone, Barrow, qui pose les prémisses du calcul différentiel, avec d’astucieuses représentations graphiques à partir d’un « triangle caractéristique » qui prennent presque le pas sur le raisonnement, tant celui-ci est encore peu théorisé, puis Leibniz, qui introduit véritablement le calcul différentiel. Là encore, il s’agit de regarder de près les modalités d’écriture, car chez Leibniz, la tangente à une courbe, si recherchée par ses prédécesseurs, n’est qu’un résultat parmi d’autres alors qu’est mis en évidence un objet écrit dx, qui symbolise toute variation d’une variable, indépendamment de son statut vis-à-vis d’autres.

57Et ces écritures ne sont pas quelconques : dès le titre de son article, Leibniz se moque des difficultés liées aux différents ordres de racines dans les « expressions de calcul », et qui posaient tant de problèmes à ses prédécesseurs, qui avaient imaginé des méthodes algébriques pour définir la tangente à une courbe.

  • 25 G. W. Leibniz, Nova methodus pro maximis et minimis, itemque tangentibus, quae nec fractas nec irr (...)
  • 26 G. W. Leibniz, Nova methodus pro maximis et minimis…, art. cit., p. 223.

58« L’exemple » que Leibniz adopte en premier dans son article des Acta Eruditorum est qualifié « d’inutile », ou de « rebutant » par des commentateurs25 : c’est sans doute qu’il ne résout aucun problème déjà constitué (figure 2). Mais il faut aller au bout de cette épithète : en étant sans référence, le problème traité en premier par Leibniz dans son court article a la vertu de ne faire voir que le fonctionnement du calcul différentiel, dont le but est, comme l’écrit l’auteur pour le cas général avec une concision remarquable, de « déterminer dz en fonction de dy » : utique determinanda esset dz per dy26.

59Car la fonction, mot que Leibniz n’a pas encore mis en valeur, correspond à ce qui détermine par le biais du calcul. Après le long extrait du texte original, avec ses notations propres mais en traduction, j’adopte des notations modernes, et même modifie l’écriture de Leibniz lorsqu’elle est liée à des ambiguïtés de signes (on le voit à l’utilisation du signe ±) afin de mieux scander les temps du calcul, allant de la « première équation » à la « quatrième équation ». Cet ordre de la méthode fait écho direct à l’ordre algébrique que Descartes avait mis en place un peu moins de cinquante années plus tôt pour le calcul des tangentes. Les références des lettres majuscules de ce texte sont à la figure, mais ces repérages n’ont vraiment d’intérêt que dans la dernière phase, non numérotée par Leibniz, pour lire les tangentes, donc à ce moment précis pour interpréter les axes, les paramètres des courbes n’étant indiqués que sur les équations. Il vaudrait mieux dire que l’écriture algébrique qui est en cause présuppose un cadre analytique de référencement des courbes, mais il n’a pas besoin, de fait, de référence au tracé des courbes elles-mêmes.

60Je décompose en outre l’explication de Leibniz en séquences, celles qu’il a lui-même pris le soin de numéroter, et peux commenter chacune d’elles pour son écriture propre, quitte à perdre l’allant même de la preuve Leibnizienne que l’on récupère bien sûr en consultant le texte original.

« Soit l’équation première, c’est-à-dire l’équation donnée
Image,
équation exprimant la relation entre x et y, c’est-à-dire entre AX et XY, a, b, c, d, f, g, h, l étant donnés ; nous cherchons comment mener la tangente YD à la courbe au point Y donné, soit le rapport du segment DX au segment XY qui est connu. »

61Les x et y, non nommées comme variables, correspondent à la relation entre les coordonnées AX et AY, quant à elles repérées sur la figure (voir figure 3), mais d’une façon qui est déjà indépendante de la nature même de la courbe, laquelle n’est pas autrement dite que par la relation donnée, suffisamment compliquée pour contenir toutes les difficultés algébriques imaginables à l’époque. Que cet exemple n’atteigne pas les fonctions transcendantes est visible, mais compréhensible : on se demande comment Leibniz aurait pu écrire une relation transcendante sans s’appuyer sur une courbe, telle une cycloïde ou une courbe logarithmique. Or il veut avant tout faire fonctionner le calcul sur une écriture qui n’a pas besoin d’une représentation précise par une courbe, même s’il conçoit que son lecteur ait besoin d’une représentation. Lisons-le :

« Pour abréger, remplaçons a + bx par n, c – xx par p, ex + fxx par q, gg + yy par r, hh + lx + mxx par s, nous obtiendrons une équation seconde Image »

Figure 2 : Début de l’article de G. W. Leibniz, Nova methodus pro maximis et minimis, itemque tangentibus, quae nec fractas nec irrationales quantitates moratur, et singulare pro illis calculi genus, Acta Eruditorum, octobre 1684

Image

Source : exemplaire de la Basel Landesbibliothek. Photographie : Patricia Radelet-de Grave.

62La simplification d’écriture exercée par Leibniz consiste à systématiquement faire apparaître des produits, mais sans simplifier plus quant aux puissances ou aux racines. Dans ce procédé, disparaît la visibilité des deux variables x et y, preuve s’il en fallait que cette étape ne se sert pas de la figure, qu’elle est une disposition en vue de calcul dont les règles portaient précisément sur les produits quotients et puissances entières ou non.

  • 27 Je ne prends pas la notation de Leibniz utilisant des signes pour la différentiation d’un quotient (...)

« Or mon calcul montre que27 Image, semblablement Image, puis Image et Image. Par conséquent, la somme de toutes ces différentielles […] fera 0, et fournira de la sorte une équation troisième, obtenue en remplaçant les membres de l’équation seconde par leurs différentielles. Or dn vaut bdx, dp vaut -2xdx, dq est égal à edx + 2fxdx, dr vaut 2ydy, et ds est égal à ldx + 2mxdx. »

63Le calcul avec d fonctionne sans qu’intervienne la figure, mais pourtant de sorte que les coordonnées réapparaissent systématiquement sous la forme dx et dy, Leibniz n’ayant pas le vocabulaire de forme linéaire en dx et dy.

« Une fois ces valeurs reportées dans l’équation troisième, nous aurons une équation quatrième, où les seules différentielles restantes, dx et dy, apparaissent toutes en dehors des dénominateurs et des radicaux ; de surcroît, chacun des membres est multiplié soit par dx, soit par dy, […] on peut toujours en conséquence en déduire la valeur Image, c’est-à-dire celle du rapport de dx à dy.

  • 28 Pour caractériser la parabole à partir de la propriété du milieu, comme l’exige le problème de la (...)

64La quatrième équation, qui n’est pas la dernière étape du calcul, est la première équation différentielle jamais décrite, quoiqu’elle ne soit pas écrite. Et ce sera à Johann Bernoulli, qui fut le premier à s’exprimer sur la démarche de Leibniz, de dire qu’une telle équation doit être traitée d’une manière qui requiert une connaissance des différentes formes de ces équations28 . Mais pour ce qui est de l’exemple de Leibniz, le but précis du calcul est atteint : disposer de la valeur du quotient différentiel, ce que l’on appelle la dérivée de nos jours et depuis Lagrange à la fin du XVIIIe siècle. Qu’il s’agisse d’une nouvelle fonction est implicitement signifié par Leibniz puisqu’il en donne la courbe représentative, dans un autre quadrant, compte tenu de sa conception des coordonnées comme des quantités géométriques, donc des valeurs positives (voir figure 3). Il ne reste plus qu’à interpréter en termes géométriques, compte tenu du problème posé, et le recours à la figure est assez rhétorique, puisqu’il s’agit seulement de reconnaître que l’on peut reporter systématiquement les résultats du calcul, indépendamment de la nature de la courbe.

  • 29 Dantur et Valores supra scripti literarum, n, p, q, r, s per x et y.

« Soit encore du rapport de l’inconnue DX à XY, qui est donné […]. Le point Y étant donné, x et y le seront aussi, ainsi que les valeurs des lettres, n, p, q, r, s définies plus haut, en fonction de x et y29. Nous voilà parvenus à nos fins. »

65Leibniz sait assurément que ce qu’il vient d’écrire donne intégralement la manière de travailler avec la lettre d, et s’il sait sans doute que l’explication est bien trop abstraite pour être entièrement assimilée, il exhibe ensuite des « exemples plus intelligibles ».

  • 30 Et l’on constate que chacun a ses habitudes particulières à ce propos.

66En incise de mon questionnement sur l’instrumentation de la pensée mathématique par le biais de l’écriture, je rappelle que l’habitude historienne est, depuis longtemps, de dire que Leibniz a fourni un algorithme, en l’occurrence celui du calcul de la dérivée à partir du fonctionnement automatique de l’opérateur d. L’expression ne peut être fausse, de par la longue tradition d’emploi à la suite de Leibniz. Mais elle ne correspond pas à la notion d’algorithme tel que les mathématiciens l’utilisent aujourd’hui, et dont l’exemple fondateur est le calcul euclidien du pgcd de deux nombres entiers : un algorithme est la répétition d’opérations jusqu’à ce que l’opération en cause se réduise à une égalité triviale qui signale la fin de l’opération. Cela n’a lieu ici avec d que par le découpage préalable de l’expression de calcul, ce qui est fait à la deuxième étape, pour laquelle des lettres supplémentaires ont été introduites : le choix de ces lettres n’a rien d’automatique, car il dépend de la volonté de qui calcule pour distinguer des unités d’expressions de calcul particulières30 . Ces unités sont dès lors traitées à égalité avec les x et y, et il est normal de les considérer non plus comme des expressions, mais comme des relations sur lesquelles porte précisément d. Ainsi l’expression r = g2+ y2 est traitée comme une relation entre r et y. On brûle bien sûr de parler de fonction, car à chaque fois une seule variable est en jeu, qui est x ou y.

  • 31 Telle sera la terminologie de Johann Bernoulli dans son manuscrit sur le calcul différentiel et in (...)
  • 32 Telle sera la terminologie du marquis de l’Hospital dans son Analyse des infiniment petits pour l’ (...)

67Toutefois, on ne serait pas aussi affirmatif si Leibniz avait choisi une expression mêlant x et y : il ne le fait que dans le cas du quotient x/y, mais son calcul commence justement par donner ce cas. Il y a pourtant bien une automaticité, qui est celle qui revient à faire apparaître les deux coordonnées, et il vaudrait mieux dire les deux « lettres »31 x et y si l’on ne veut pas parler de variables32. Toutefois comme le jeu ne porte que sur dx et dy, on ne peut pas précisément dire qu’il soit fonctionnel, en ce qu’il n’y a a priori aucune nécessité de privilégier x fonction de y ou y fonction de x (ce qui, d’ailleurs, fait toute la force de la méthode Leibnizienne). Il n’y a donc pas d’algorithme pour la résolution des équations différentielles, et il faut savoir réaliser à bon escient des changements de variables (qui sont aussi bien des changements de fonctions).

Figure 3 : G. W. Leibniz, Nova methodus pro maximis et minimis, itemque tangentibus, quae nec fractas nec irrationales quantitates moratur, et singulare pro illis calculi genus, Acta Eruditorum, octobre 1684

Image

Source : Basel Landesbibliothek.

68Ce qui sera précisément montré par Bernoulli sur la chaînette. Ce savoir-faire constitue ce que l’on apprend aujourd’hui dans les classes. Il s’apparente donc à une culture.

69On apprend à décider que telle expression du calcul conduit à ne plus envisager x ou y, mais une combinaison de ces lettres qui devient la variable utile. Il me semble que c’est ce que sous-entend Leibniz lors de la deuxième étape, en montrant la versatilité de son calcul, qui pourrait prendre dn ou dp, au lieu de dx, puisqu’il dispose de relations permettant de les exprimer avec dx, quitte à faire intervenir dy. On s’aperçoit donc, avec ce calcul de Leibniz, qu’avant même l’équation différentielle de la quatrième étape, il y a effectivement des équations différentielles antérieures qui pourraient servir. On peut alors dire que l’expression de dp, par exemple, est une sorte de suspension de jugement sur la nature même de la variable x ou y qui importe : le calcul différentiel ne se déroule automatiquement qu’après que l’on a décidé des (seules) variables qui importent ; le bon maniement de ce calcul est que les formes mêmes que l’on trouve font décider du bon choix. Il n’y a alors plus algorithme automatique, puisque l’écriture du calcul, par elle-même, donne à penser. En ce cas, on peut interpréter les pensées aveugles de Leibniz venues plus tôt comme des pensées qui n’ont pas besoin de voir les figures géométriques. En ce cas, on doit dire que la lettre d fonctionne comme une technique intellectuelle et il faut une maîtrise des formes, une culture de l’écrit ou de l’érudition, dirait David Olson, pour effectuer les choix. Cette version est évidemment évacuée lorsque, dans les exercices scolaires, on fixe a priori la variable de l’énoncé.

70Il serait intéressant de montrer que les fluxions de Newton donnent moins de visibilité aux changements de variables. Indéniablement nées quelques années avant la différentielle de Leibniz, mais notées tardivement par Newton par un point au-dessus d’une lettre, sans doute vers 1690 et après la parution de l’article de Leibniz, les fluxions considèrent les quantités en jeu comme des fluentes, à la manière d’un écoulement selon un paramètre que l’on peut interpréter comme un temps. L’habitus n’est donc pas du tout le même pour les différentielles dans le choix des bonnes variables à faire, mais il ne faut pas pour autant parler d’un blocage qui tiendrait aux fluxions. Il pourrait y avoir une plus grande difficulté des fluxions à intervenir dans la mathématisation de problèmes physiques, par exemple quand la variable temps n’est pas essentielle, comme en dynamique.

LES RELATIONS D’INCERTITUDE EN MÉCANIQUE QUANTIQUE LORSQU’ON LES ENVISAGE DU POINT DE VUE DE L’ÉCRITURE

  • 33 Voir, par exemple, pour de telles informations, le texte de Max Jammer, The Conceptual Development (...)
  • 34 Werner Heisenberg, Ueber den anschaulichen Inhalt der quantentheoretischen Kinematik und Mechanik, (...)
  • 35 La première prise en compte philosophique fut celle d’un membre du cercle de Vienne, Moritz Schlic (...)

71Mon dernier propos n’est évidemment pas de reprendre un récit épistémologique et historique33 des relations d’incertitude. Le premier exposé physique fut fourni34 par Werner Heisenberg en 1927, et déjà avec une interprétation probabiliste de Wolfgang Pauli. Mais le formalisme des espaces de Hilbert ne vint qu’avec John Von Neumann en 1929. Il n’est pas non plus de discourir sur les diverses interprétations de l’incertitude en jeu, et jusqu’à la remise en cause de l’épistémologie de la causalité qui a donné lieu à tant de discussions, et qui me ferait revenir à ce par quoi j’ai commencé en commentant la citation de Jack Goody35.

  • 36 On retrouve aujourd’hui le détail historique précis du programme de David Hilbert grâce à la publi (...)

72Après la description du contenu d’une notation et l’analyse du cas du calcul (différentiel et intégral, ce qui vaut sa majuscule historique au mot « calcul ») chez Leibniz, je veux maintenant montrer comment la confrontation d’un assez grand nombre d’écritures se révéla épistémologiquement favorable, non seulement pour comprendre ces relations, mais aussi pour les manipuler de façon rigoureuse d’un point de vue mathématique. Car c’est un des aspects essentiels de la mécanique quantique que d’avoir cherché une présentation offrant la plus grande garantie mathématique, et ce par le biais de l’axiomatique, et certainement il faut y voir l’influence directe de Hilbert36, largement exécutée par John Von Neumann.

  • 37 Jean Dhombres, Les savoirs mathématiques et leurs pratiques culturelles. De l’émancipation de l’âg (...)

73Avec Hilbert, l’axiomatique devenait une méthode de découverte, et c’est par la pratique de l’axiomatique que John Von Neumann inventa les espaces de Hilbert (qui n’ont donc pas été inventés par ce dernier) en tant que substrat de la mécanique quantique, c’est-à-dire comme référent. La différence est nette avec l’invention du calcul différentiel et intégral que nous avons examinée à partir du symbole d, mais aussi avec les logarithmes de Grégoire de Saint-Vincent confrontés aux logarithmes de Mercator (dont je ferai l’histoire dans un prochain article37 en relation avec cet ouvrage). Je voudrais maintenant envisager le plus simplement possible les ingrédients mathématiques qui furent utiles à la formalisation mathématique des relations dites d’incertitude de Werner Heisenberg pour la mécanique quantique, en débordant à peine ce qui serait strictement nécessaire pour un seul exposé logique, dans la mesure où je cherche à exhiber plusieurs écritures qui, toutes, tentaient de capter une généralité. L’écriture, en l’occurrence, s’adaptait à la méthode axiomatique, qui était en tout cas dans l’air du temps de Hilbert. Pour cela, je solliciterai les quelques éléments suivants.

Les espaces hermitiens

74En géométrie euclidienne à trois dimensions, c’est-à-dire dans l’espace vectoriel R3, le produit scalaire se définit intrinsèquement à partir de la notion d’angle, à savoir pour deux vecteurs x et y, le nombre réel 〈 x | y 〉 exprime ce produit scalaire comme produit des deux longueurs de x et de y et du cosinus de l’angle que forment les deux vecteurs. Mais considéré comme une forme dans les variables x et y, le produit scalaire noté 〈x | y〉 possède les propriétés suivantes :

  • Pour tout y, l’application de R3 dans R définie par x → x | y〉 est linéaire.
  • Pour tous x et y de R3, 〈x | y〉 = 〈y | x〉.
  • x | x> 0 si (et seulement si) x ≠ 0.

75La notation précise du produit scalaire, une notion développée plus tôt dans le cadre de la mécanique pour désigner le travail d’une force, a été adoptée après quelques hésitations par Hermann Grassmann en 1862 sous le nom de produit interne, contre d’autres propositions, aussi bien x × y que xy. C’est Paul Dirac qui l’adopta pour la mécanique quantique en 1925, et même il individualisait les vecteurs sous la forme | x〉, ou 〈 x |, en bra et ket. John Von Neumann, dans ses Mathematische Grundlagen der Quantenmechanik de 1932, préférait la symbolisation (x, y).

76Il faut d’abord concevoir que l’on peut définir plus généralement un produit scalaire dans un espace vectoriel réel S à partir des seules trois propriétés précédentes. En fait, et pour des raisons de fond déjà brièvement évoquées, on a besoin de quantités complexes, et donc d’espaces vectoriels complexes, que l’on peut encore noter S, et pour lesquels la seule propriété à changer est la symétrie hermitienne remplaçant la simple symétrie par échange de x et de y, à savoir :

77• Pour tous x et y de S, 〈y | x〉 est le nombre complexe conjugué de 〈x | y.

78On parle alors de produit hermitien. Par suite, on parle aussi d’un opérateur linéaire hermitien A de S dans S lorsque la propriété suivante est satisfaite :

79• Pour tous x et y de S, 〈Ax | y〉 = 〈x | Ay

  • 38 Pour obtenir l’inégalité, il suffit de remarquer que l’application définie sur les nombres réels λ(...)
  • 39 Voir le livre de G. H. Hardy, Inequalities, Cambridge (UK), Cambridge University Press, 1932.

80La propriété de positivité du produit hermitien implique une inégalité38, dite de Cauchy-Schwarz-Buniakowski39 compte tenu de son interprétation géométrique dans R3 :

81(14) |x | y|2≤ | x | x|.|y | y|

82On ne doit pas s’étonner de la richesse de cette inégalité lorsqu’on constate qu’elle permet en dimension trois de définir l’angle par un cosinus. Aussi d’elle seule provient une autre relation pour deux opérateurs linéaires hermitiens A et B qui satisfont la relation AB − BA = iI, où I est l’opérateur identité. En effet, on dispose de :

83(15) 〈x | x2 4 〈Ax | Ax.Bx | Bx

84La vérification de (15) est quasi immédiate, à partir de (AB-BA)x = ix, de 〈ABx | x〉 = 〈Bx | Ax, et de 〈BAx | x〉 = 〈Ax | Bx, puisqu’alors ix | x〉 = 〈(AB − BA ) x | x〉 = 〈Bx | AxAx | Bx. La propriété hermitienne fait que l’expression précédente est deux fois la partie imaginaire du nombre complexe 〈Bx | Ax, à laquelle il suffit d’appliquer l’inégalité de Cauchy-Schwarz-Buniakowski (14). C’est de celle-ci au fond que la relation d’incertitude va être déduite, mais il faut encore faire intervenir des espaces fonctionnels convenables.

L’espace de Schwartz

85En vue de la théorie des distributions tempérées, c’est-à-dire pour éviter des difficultés de définition de certains opérateurs, Laurent Schwartz dans sa thèse de 1944 envisage l’espace vectoriel S des fonctions f définies sur l’axe réel et à valeurs complexes, qui sont indéfiniment dérivables et dont le comportement à l’infini (positif ou négatif) est tel que le produit d’une dérivée d’ordre quelconque de f par une puissance quelconque de la variable reste chaque fois borné. Cet espace a de bonnes conditions de régularité locales et de bonnes conditions de comportement à l’infini. On va bien vite comprendre son intérêt pour la transformée de Fourier. Un produit scalaire sur ces fonctions est une expression utilisée depuis longtemps pour les équations différentielles dans le cadre du problème de Sturm-Liouville, débuté en 1836.

Image

On vérifie aisément que les opérateurs suivants Image, et Bf = tg(t) sont des opérateurs hermitiens pour lesquels on la relation de commutation précédente, à savoir AB − BA = iI. Par conséquent, l’inégalité (14) fournit la relation

Image

86Cette inégalité à elle seule peut conduire à l’inégalité d’Heisenberg mais, comme annonce, il vaut mieux passer par d’autres notions encore pour en comprendre la raison.

Les espaces de Hilbert

John Von Neumann définit un espace de Hilbert H comme un espace vectoriel muni d’un produit scalaire, pour lequel une propriété supplémentaire est exigée. L'espace H, quand il est muni de la norme que l’on peut déduire du produit scalaire Image, est complet : cette expression signifie qu’on dispose de la même condition nécessaire et suffisante de convergence d'une suite xn d’éléments de H que si la suite était composée de nombres réels, donc que la norme ||xp − xq|| tende uniformément en p et q vers 0. La propriété majeure d'un espace de Hilbert est que chaque représentation d’une forme linéaire, à condition qu’elle soit continue, se réalise par l’intermédiaire d’un élément de cet espace, moyennant le produit scalaire.

87Malheureusement, l'espace S, quoique muni d’un produit scalaire comme on l’a vu avec la définition 16, n’est pas complet. Mais on peut toujours construire un espace de Hilbert contenant S comme sous-ensemble dense : le complété de S muni du produit scalaire donné. On peut identifier ce complété à un espace de fonctions, celui des fonctions mesurables au sens de Henri Lebesgue : les fonctions dont le carré de l’intégrale existe. L’intégrale à prendre ici est obligatoirement celle de Lebesgue, nouvel avatar de la théorie de l’intégration qui permet de concrétiser l’espace de Hilbert complété de S. Le désavantage est que dans ce nouvel espace de Hilbert, souvent noté L2(R), la dérivation n’a pas de sens ordinaire, et le produit par une puissance de x ne reste pas toujours dans l’espace initial L2(R). Peut-on pour autant remplacer S par un espace, qui ne serait peut-être pas de Hilbert, mais qui contiendrait le complété de S, et sur lequel la dérivation, comme la multiplication par une puissance de x aurait un sens ? L’idée est de passer par la transformée de Fourier dont on a vu qu’elle échangeait les deux opérations.

La transformation de Fourier dans S

Pour une fonction f de S, la transformée de Fourier, déjà notée, est bien définie par Image.

Et sur S, les propriétés déjà décrites sont aisément justifiées. Sur S aussi, on dispose d’une conservation du produit scalaire Image.

88Cette relation se déduit aisément de la définition du produit de convolution comme correspondant en transformée de Fourier au produit ordinaire de deux fonctions de S, et de l’inversion de la transformée de Fourier. A joué alors, nous l’avons déjà remarqué, la propriété dite spatiale de l’exponentielle complexe, celle qui au fond fait comprendre le phénomène d’addition des angles dans la multiplication de deux nombres complexes.

Ceci dit, puisque l’espace S n’offre pas à la physique une souplesse suffisante en n’étant pas un espace de Hilbert, l’idée de Laurent Schwartz fut de définir un autre espace, celui écrit S’, constituée des formes linéaires continues sur l’espace S. La continuité exige toutefois une précision topologique, car l’espace S n’est pas un espace normé. Mais lorsque ceci est mis en place, à tout élément F de S’ on peut associer sa transformation de Fourier selon la règle : Image.

89Ici les parenthèses servent à définir la valeur que la forme linéaire continue F prend en f. Mais si F désigne un élément de l’espace de Hilbert L2(R), on peut changer les parenthèses en des crochets, définissant de cette façon la transformée de Fourier d’une fonction de L2(R). On conçoit maintenant la raison pour laquelle John Von Neumann substitua les parenthèses aux crochets des physiciens tels que Dirac ou Heisenberg.

90On peut démontrer que la transformée de Fourier est bijective sur S’, de la même façon qu’elle est bijective sur s et d’ailleurs sur L2(R). C’est-à-dire, avec des notations précédemment expliquées et pour des fonctions f de S auquel cas on pourrait marquer la variable x, mais aussi pour des distributions dites tempérées F, nom des éléments de S’, qui ne sont plus des fonctions au sens ordinaire, mais sur lesquels peut porter l’opération tilde (~), ou encore pour des fonctions de L2(R).

Image

91La relation précédente se lit donc avec f, mais aussi bien avec F comme distribution tempérée et avec f comme élément de L2(R).

Les inégalités d’Heisenberg

92Ces inégalités sont une conséquence des relations (14) et font intervenir des constantes juste parce que la dérivation de l’exponentielle e−2iπxy le fait. On a avantage à utiliser une notation pour désigner la multiplication d’une fonction f(x) par x, sous la forme (Mf)(x) = xf (x), qui fait disparaître la mention de la variable de la fonction concernée. Soit,

Image

  • 40 Pour les fonctions de norme 1, on aura l’inégalité (...)

Et du coup, on est conduit à écrire un opérateur D sur les fonctions selon Image, pour lequel aussi bien40

Image

Il est facile, sous cette deuxième forme avec la transformation de Fourier, d’utiliser le vocabulaire et les notations des probabilités. En posant l’espérance mathématique E(f) de f comme valant Image, et la variance V(f) comme valant Image. On dispose alors de la minoration :

Image

93En termes de représentation par les probabilités, on voit donc qu’on ne peut assurer une bonne précision de la mesure de la position simultanément avec une bonne mesure de la vitesse : c’est cela qui les a fait appeler les relations d’incertitude. On doit alors constater que l’inégalité, qui porte sur des éléments mécaniques (position et vitesse), se trouve vérifiée précisément parce que ces éléments sont échangés par la transformation de Fourier qui impose ce que l’on peut appeler encore des symétries, au sens même que prend le terme grâce à la formule d’inversion. Aussi bien, les inégalités auront automatiquement lieu, dès lors que l’on adopte pour représentation de la mécanique un espace de Hilbert, ou aussi bien l’espace des distributions tempérées. L’incertitude, si on veut le dire ainsi, est le prix à payer pour changer la représentation classique de la vitesse et de la position en distributions ou en éléments de L2(R) qui ont ipso facto un caractère géométrique. C’est précisément cette géométrie que rappelle le produit scalaire avec des crochets, ou encore les parenthèses de John Von Neumann, et elle va jusqu’aux inégalités d’incertitude qui correspondent à la définition d’un angle en géométrie euclidienne ordinaire. L’écriture, cette fois, prend un rôle de mémoire épistémologique, manifestement ce qu’impose la géométrisation de la mécanique quantique et que le calcul seul pourrait faire oublier.

CONCLUSION

94Si j’ai dissocié deux aspects de l’écriture, ce n’est surtout pas pour faire de l’un, l’écriture des figures, de simples peintures de faits analytiques à la façon dont Auguste Comte les désigne dans le cadre très étroit de ce qu’il appelle la géométrie analytique. En n’éliminant pas la géométrie des figures comme témoignage d’écriture, je peux examiner non seulement les formes de l’enregistrement par les mathématiques, selon la forte expression de Goody qui ne s’embarrasse pas de toutes les précautions des sceptiques, mais encore leurs évolutions qui vont aussi bien à une géométrisation des écritures algébriques qu’à une algébrisation des figures. Ce n’est pas tomber dans le paradoxe du relativisme que de constater que l’histoire, en effet, est bien moins fille du temps selon l’expression si ancienne, que mère des différents rythmes des temps qui, quelquefois, peuvent battre à l’unisson.

95Avec les différentes notations de la théorie des proportions et jusqu’à l’égalité des fractions, on a pu saisir en quoi l’algébrisation contraignait l’écriture, et on pourrait mieux parler de négociation entre l’écriture du langage ordinaire et la cohabitation avec d’autres symboles ayant leur vie propre, ainsi de la différentielle dont on a décrit l’introduction fonctionnelle par Leibniz. Aussi bien, sans lui faire perdre une spécificité, l’écriture mathématique s’inscrit dans le processus général de l’évolution du langage écrit qui, comme toute technique, s’adapte aux innovations mais, comme toute technique aussi, doit tenir compte des choix que ces innovations imposent à un moment du déroulement historique de la science. Une particularité frappante de l’écriture mathématique est son jeu spatial, et son emprunt à ce dont initialement elle parlait principalement, à savoir les figures de géométrie. On l’a particulièrement vu avec le Cours mathématique de Pierre Hérigone, mais on a aussi bien noté que l’écriture y était contrainte par une demande épistémologique exorbitante, celle d’une idée et d’une seule par ligne écrite. C’était bien une forme de spatialisation, mais plus contraignante encore que d’écrire en vers ou avec des rimes, allant jusqu’à une atomisation du raisonnement, qui est la négation même de la pensée géométrique. Ces emprunts à la spatialité, qui sont certainement une condition de la banalisation du contenu mathématique, peuvent être tels que tout ce qui est nécessaire à la représentation spatiale pour la théorie en jeu se résume dans des formules, et ainsi fasse algèbre, avec au mieux une mémoire spatiale. Mais l’algèbre développe son écriture par sa logique interne, ce qui est un autre jeu fondamental de toute écriture. Aussi l’origine spatiale peut alors être oubliée, et ce fut le cas pour l’origine du calcul différentiel et intégral, la conception de ce dernier omettant le rôle aussi bien de la formule algébrique du binôme de Newton que du développement de la fonction logarithme perçue géométriquement avec l’aire sous l’hyperbole. À l’inverse, le plus frappant avec le produit scalaire, dont dérivent fondamentalement les relations d’incertitude en mécanique quantique, est la « géométrisation » manifestée par les espaces de Hilbert. Mais on a aussi bien vu comme en parallèle les distributions tempérées, et cette fois il convient de souligner une algébrisation si manifeste par les relations de commutativité des opérateurs fondamentaux de la mécanique. Le rappel de la transformation de Fourier et de son jeu de symétries formelles est alors bienvenu.

96Tout mathématicien sait qu’il y a une grande liaison entre l’écriture d’une quelconque théorie et son contenu de science, comme une mémoire aussi de ce qui sinon a fait origine pour la théorie, mais peut en être dit comme l’essentiel.

Notes

1 Un document comptable, une table à double entrée par exemple, n’est généralement pas un document mathématique, et si des mathématiques y sont perceptibles, par exemple sur des questions d’approximation d’intérêt, elles sont aisément discernables. La meilleure preuve de la singularité immédiatement repérable de l’écriture mathématique est donnée par les éditeurs de revues de vulgarisation : ne passe quasiment jamais un texte mathématique puisqu’il est décrété non lisible, alors même que les symboles utilisés ont pu être étudiés au lycée. Tout un chacun aujourd’hui sait lire les documents comptables que sont les factures dans un supermarché, y compris le calcul des réductions pour bonus.

2 Jack Goody, La raison graphique. La domestication de la pensée sauvage, Jean Bazin et Alban Bensa (trad.), Paris, Minuit, 1979, p. 251.

3 Jean Dhombres, « La trajectoire d’une parabole. Métamorphoses de la philosophie naturelle sous l’effet des mathématiques, XIIIes Entretiens de la Garenne Lemot », in J. Pigeaud (dir.), Métamorphose(s), Rennes, Presses universitaires de Rennes, 2010, p. 213-241.

4 Cité par Jean Dhombres, « La mise à jour des mathématiques par les professeurs royaux », in André tuilier (éd.), Histoire du Collège de France, Paris, Fayard, 2006, t. 1, chap. 19, p. 377-420.

5 Il faut rappeler que les règles de représentation en perspective, si elles peuvent s’appuyer sur les résultats donnés par Euclide, ne sont pourtant pas définies dans les Éléments. De sorte que l’ouvrage perd la sacro-sainte autonomie intellectuelle qui en faisait aussi bien le manuel par excellence de l’école, que celui que pouvait utiliser l’autodidacte. Voir Jean Dhombres, “Shadows of a circle, or what is there to be seen? Some figurative discourses in the mathematical sciences during the seventeenth century”, in L. Massey (ed.), The Treatise on Perspective: Published and Unpublished, New Haven, Yale University Press, 2003, pp. 177-211.

6 La spatialisation pourtant bien modeste de l’écriture des fractions exaspère les concepteurs de traitements de textes, qui ne la rendent pas facile pour tout un chacun. Car ils la cantonnent dans un ordre d’écriture scientifique, comme si les fractions n’appartenaient pas à la culture commune.

7 Je dois être plus explicite ici : on peut appeler « algèbre cachée », ce qui ne signifie pas qu’elle soit inconnue, la présence de formules directement écrites presque sans y penser, comme a est à b et c à d, alors a + c l’est à b + d (ce que nous lisons algébriquement sans peine en faisant les produits croisés comme Image donne Image).

8 J’en suis à me demander combien de professeurs ont refusé, en toute bonne conscience il y a deux ou trois siècles, que l’on écrive les proportions sous forme de fractions.

9 Éric Guichard a remarquablement analysé les discours, y compris commerciaux, qui se cachent derrière la « fracture numérique » dans « Le mythe de la fracture numérique », in Éric Guichard (éd.), Regards croisés sur l’internet, Villeurbanne, Presses de l’enssib, 2011 (Papiers).

10 Marcel Granet, La pensée chinoise [1934], Paris, Albin Michel, 1968.

11 Simon Stevin de Bruges, La disme, in L’arithmétique, Leyde, Christophe Plantin, 1585. Le texte a souvent été réédité à l’usage des écoliers et se trouve aisément sur le Net.

12 Les rétifs au décimal, alors que les banquiers l’adoptèrent pour les tables d’intérêt, furent d’abord les universitaires (alors même que cela servirait à imposer l’algèbre dont ils savaient les avantages), et surtout les astronomes qui gardèrent le système sexagésimal.

13 Jean Dhombres, « Mesure pour mesure, universel contre régional : le système métrique comme action révolutionnaire », in Annie Jourdan et Joep Leerssen (éd.), Remous révolutionnaires : République batave, armée française, Amsterdam, Amsterdam University Press, 1996, p. 159-199 ; Jean Dhombres, résistances et adaptations du monde paysan au système métrique issu de la révolution : les indices d’évolution d’une culture de la quantification, Annales de Bretagne et des Pays de la Loire, t. 100, n° 4, La culture paysanne (1750-1830), Alain Croix et Jean Quéniart (éd.), 1993, p. 427-439.

14 Sans parler de quelques anecdotes fantaisistes qui courent sur le Net, mais dont j’aimerais pouvoir tracer les origines - certaines inventions ayant beaucoup de saveur -, les dictionnaires biographiques ne disent pas grand-chose de Pierre Hérigone, auteur pourtant du premier « Cours mathématique » portant cette désignation. On connaît sa participation aux réunions de Marin Mersenne débutées vers 1630 dans le couvent des Minimes près de l’actuelle place des Vosges. Hérigone est, comme je voudrais ici le montrer, un mathématicien sur lequel devraient plus se pencher les historiens des mathématiques, des auteurs comme Wallis et Barrow l’ayant lu avec intérêt, sans parler de Blaise Pascal qui se réfère à Hérigone pour parler du triangle arithmétique… dit de Pascal.

15 Je ne suis pas sûr qu’on gagne autre chose qu’un effet de mode en qualifiant ce dispositif de « rhétorique ». Avec le seul mot dispositif, il me paraît utile de bénéficier de l’allusion voilée à la disposition spatiale, aussi éloignée du genre publicitaire que du bric-à-brac, ou même du style, et lui donner ainsi la signification d’un mode induit de lecture.

16 Jack Goody, La raison graphique, op. cit., p. 133.

17 Dans son essai, Les enjeux du mobile. Mathématique, physique, philosophie, Paris, Le Seuil, 1993, Gilles Châtelet dépassait la seule spatialisation pour évoquer le mouvement comme ingrédient presque gestuel de l’écriture. Il voulait désigner au-delà des nombres complexes l’intervention de la géométrie vectorielle née avec l’électromagnétisme, et donc la règle du tire-bouchon, et l’arrivée des quaternions qui peuvent représenter les rotations dans l’espace. Une anthropologie du geste numérique mériterait d’être entreprise, mais je me contente ici des ressources spatiales de la numérotation précisément dite de position.

18 Voir les premières lettres publiées dans les deux premiers volumes des Œuvres complètes de Descartes (Paris, Vrin, 1996).

19 Voir Bruno Belhoste, Augustin-Louis Cauchy. A Biography, Berlin, New York…, Springer Verlag, 1990 [traduction augmentée de Cauchy, Paris, Belin, 1987 (Un savant, une époque)] ; Jean Dhombres et Jean-Bernard Robert, Joseph Fourier : créateur de la physique-mathématique, Paris, Belin, 1999.

20 Si la fonction f est à valeurs réelles, l’imaginaire conjugué de la fonction f surmontée d’un chapeau correspond au passage à f surmonté d’un tilde.

21 Jean Dhombres, « L’écriture mathématique. De l’impensé à l’impensable », in Georges Bernard et al. (dir), L’accession à l’écriture, Nantes, Publications de l’université de Nantes, 1978 (textes et langages), p. 67-103.

22 Ibid., p. 92.

23 Thomas S. Kuhn, The Essential Tension. Selected Studies in Scientific Tradition and Changes, Chicago, The University of Chicago Press, 1977. Traduction française : La tension essentielle : tradition et changement dans les sciences, Paris, Gallimard, 1990 (collection Bibliothèque des sciences humaines).

24 Paul Feyerabend, Against Method : Outline of an Anarchist Theory of Knowledge, London, Verso, 1976. Traduction française : Contre la méthode : esquisse d’une théorie anarchiste de la connaissance, Paris, seuil, 1979.

25 G. W. Leibniz, Nova methodus pro maximis et minimis, itemque tangentibus, quae nec fractas nec irrationales quantitates moratur, et singulare pro illis calculi genus, Acta Eruditorum, octobre 1684. Il est reproduit dans Leibnizens mathematische Schriften (réédition Olms, 1962) et traduit dans La naissance du calcul différentiel. 26 articles des Acta Eruditorum, introduction, traduction et notes de Marc Parmentier, Paris, Vrin, 1989.

26 G. W. Leibniz, Nova methodus pro maximis et minimis…, art. cit., p. 223.

27 Je ne prends pas la notation de Leibniz utilisant des signes pour la différentiation d’un quotient, dont la complexité tient à la positivité supposée de dx, ou dy, envisagées comme des longueurs géométriques ainsi que Leibniz le spécifie sur sa figure. Cependant, les figures 2 et 3 convaincront les lecteurs de la nature de la rançon à payer pour fonder sur un dessin un raisonnement algébrique.

28 Pour caractériser la parabole à partir de la propriété du milieu, comme l’exige le problème de la chute des corps évoqué avec Galilée en début de cet article, Johann Bernoulli écrit une équation différentielle, simplement déduite de la situation géométrique : 2ydx = xdy (on remarquera qu’elle correspond à un raisonnement inverse de celui d’Hérigone, pour ce qui est des relations entre x et y). La difficulté pour l’intégration, aux yeux de Bernoulli, est qu’il faille passer par la fonction logarithme pour aboutir à la fonction puissance.

29 Dantur et Valores supra scripti literarum, n, p, q, r, s per x et y.

30 Et l’on constate que chacun a ses habitudes particulières à ce propos.

31 Telle sera la terminologie de Johann Bernoulli dans son manuscrit sur le calcul différentiel et intégral (Ms Landesbibliothek Universitäts Basel L I a6), transcrit en 1922 par Paul Schafheitlin dans Vorhand der Naturforschenden Gesellschaft in Basel, Bd XXIX, Johannis (I) Bernoulli Lectiones de calculo differentialum.

32 Telle sera la terminologie du marquis de l’Hospital dans son Analyse des infiniment petits pour l’intelligence des lignes courbes en 1696.

33 Voir, par exemple, pour de telles informations, le texte de Max Jammer, The Conceptual Development of Quantum Mechanics, New York, McGraw-Hill, 1966, ou de James T. Cushing, Quantum Mechanics: Historical Contingency and the Copenhagen Hegemony, Chicago, The University of Chicago Press, 1994.

34 Werner Heisenberg, Ueber den anschaulichen Inhalt der quantentheoretischen Kinematik und Mechanik, Zeit. Phys., vol. 43, 1927, pp. 172-198.

35 La première prise en compte philosophique fut celle d’un membre du cercle de Vienne, Moritz Schlick, Die Kausalität in der gegenwärtigen Physik, Die Naturwissenschaften, 19, 1931, pp. 145-162.

36 On retrouve aujourd’hui le détail historique précis du programme de David Hilbert grâce à la publication remarquable du contenu de ses cours à Göttingen, semestre après semestre, qui est une des plus belles réussites de l’érudition des dernières années. Voir la série en cours de publication de David Hilbert’s Lectures on the Foundations of Mathematics and Physics, 1892-1932, et en particulier Michael Hallett et Ulrich Mayer (eds.), David Hilbert’s Lectures on the Foundations of Geometry, 1891-1902, Berlin, Springer Verlag, 2004.

37 Jean Dhombres, Les savoirs mathématiques et leurs pratiques culturelles. De l’émancipation de l’âge baroque à la moisson des Lumières, Paris, Hermann, 2012, chapitre 20.

38 Pour obtenir l’inégalité, il suffit de remarquer que l’application définie sur les nombres réels λ → 〈x + λx | x + λx〉, qui s’exprime comme un polynôme du second degré en λ, reste toujours positive ou nulle, et donc le discriminant doit être négatif ou nul.

39 Voir le livre de G. H. Hardy, Inequalities, Cambridge (UK), Cambridge University Press, 1932.

40 Pour les fonctions de norme 1, on aura l’inégalité Image, ou aussi bien Image.

© Presses de l’enssib, 2012

Licence OpenEdition Books

Lire

Open access

Rechercher dans OpenEdition Search

Vous allez être redirigé vers OpenEdition Search