Version classiqueVersion mobile

Les mutations de l’écriture

 | 
François Nicolas

Troisième partie. Sciences

Figures, lettres et preuves : pulsation et figurations au lieu de l’écriture

René Guitart

Texte intégral

1D’abord, comme exemple précis de mutation d’écriture nous proposons l’écriture de la notion d’objet borroméen.

2Toutefois le but de ce texte est plus large ; il s’agit de la prise en charge du fait même que les écritures mathématiques vivantes mutent, en posant à la racine de nos pratiques ceci : écrire fonde les écritures en étant l’objet même à écrire. Il s’agit d’écrire le fait d’écriture. Tout commence donc par ceci qu’il y a des figures projetées réalisées en traces sur des supports, et puis le calcul de ce fait.

3Nous voulons donc montrer et donner à manier ce que nous appelons l’algèbre figurative, et les esquisses, par quoi l’écriture mathématique devient explicitement son propre objet pulsatif : la représentation se représente, en diagrammes, le calcul devient in fine identique aux preuves qu’il cherche, et ce qui donne le sens commente cette identité. Le sens est un morphisme de diagramme.

4Nous soutenons deux points de méthodes : le recours à l’algèbre figurative, et l’exercice subséquent du jeu diagrammatique catégoricien, comme réceptacle universel des écritures diagrammatiques élaborant leurs sens comme flèches entre diagrammes ou figures.

1. De l’objet borroméen, du ternaire

5Si l’on considère un ensemble X représenté par un disque partagé en trois zones disjointes A, E et Y, noté X = A + E + Y , alors, suivant la figure ci-après à droite, on obtient un dispositif diagrammatique hexagonale de six disques autour d’un septième, chacun comportant la marque de une ou deux des trois zones spécifiées. La disposition est telle que les disques opposés soient complémentaires, telle qu’en faisant le tour un disque sur deux comporte deux marques qui soient celles figurants dans les deux disques adjacents. Nous appellerons cette disposition l’hexagramme de Sesmat-Blanché. Les quatre places A, E, E + Y, Y + A dessinent un « carré » qui est comme le carré d’Aristote-Appulé, les postes supplémentaires A + E et Y venant créer la symétrie ternaire hexagonale.

6On peut montrer que ce diagramme donne à voir la même situation d’écriture que celui dessiné au centre montrant trois ronds sur une surface de genre 3, et que celui de gauche représentant un entrelac borroméen. De gauche à droite l’écriture est modifiée, passant d’une figure emblématique faisant paradoxe quand on la voit faite d’anneaux circulaires (ce qui est impossible), à un dispositif géométrique puis logique donnant à saisir et calculer quelque chose du paradoxe en question.

  • 1 Klein’s group as a borromean object, Cahiers Top. Géo. Di. Cat., Vol L-2 (2009), pp. 144-155

7L’étape suivante est une diagrammatisation en système de composition de flèches, où s’invente l’écriture de l’idée d’objet borroméen1 , qui écrit du paradoxe ce qui nous importe seul, indépendamment de sa représentation visuelle géométrique, la tenue cyclique de 3 sans tenue par 2. A bien lire le diagramme de la vita deus, le strictement impossible s’y voit d’imaginer le plan de P sous le plan de F, lui même sous celui de SS, et ce dernier sous celui de P : l’ordre devient circulaire, c’est impossible ; et cet impossible (on y revient au paragraphe 7) y masque l’étrange de la tenue de 3 sans tenue en 2, faisant confondre cet étrange avec cet impossible, mais cette confusion est défaite dans la figure du centre, dès lors que l’on entend les ronds comme flexible, comme entrelac déformable continûment.

8Un tel objet borroméen est la donnée d’un objet B dans une catégorie abstraite donnée, avec un diagramme le reliant à trois autre objets, notés R, S et I, et à des sommes fixées par deux de ces trois, soit R + S, S + I, I + R, de manière que chacune de ces sommes apparaisse comme quotient de B par le troisième objet parmi R, S et I qui n’apparaît pas dans ladite somme. Ainsi

9B/R= S + I, B/S= I + R, B/I: R + S.

10Ce qui se figure par le diagramme que voici :

  • 2 Logotopie : construction des lieux des discours, Conférence à la Lysimaque du 13 février 1999, puis (...)

11Ainsi l’utilité logotopique2 de l’entrelac borroméen, qui tient d’un paradoxe entrevu que l’on précise d’une présentation topologique voire logique, métamorphosée ensuite en son diagramme spécifique, devient une ressource proprement mathématique,. Il est utile pour dégager et manier des coordinations ternaires non réductibles naturellement au binaire. On est donc passé de l’écriture à contempler de l’impossible de la trinité de Dieu (suivant l’usage historique de l’entrelac borroméen) présenté comme une sorte de paradoxe visuel, à l’écriture de la fonctionnalité du paradoxe lui-même. Passage d’une fascination passive d’une image à un exercice effectif possible avec cela qui fascine, au travers de sa fonction notée.

  • 3 Borromean Objecs, as examplied by the groupe G168 of Klein’s Quantic, linked with Moving Logic, Ab (...)
  • 4 Les coordonnées curvilignes de Gabriel Lamé, représentations des situations physiques et nouveaux o (...)

12Ensuite on cherchera et trouvera de nombreux exemples de cette « structure » borroméenne. Ainsi les fonctions elliptiques s’organisent en une algèbre différentielle borroméenne3, à partir de trois fonctions A, B et C de Lamé4 telles que

13A’= BC, B’= CA, C’= AB.

14Ou encore on peut dégager une structure borroméenne du groupe simple à 168 éléments, etc. Le diagramme borroméen explique ces situations.

15La plupart des calculs mathématiques élémentaires sont organisés sur la base de systèmes d’opérations binaires, à quoi s’ajoutent seulement les déterminants. En tous cas le parti-pris est autant que possible celui d’un calcul binaire écrit en ligne. Pourquoi ?Est-ce parce que l’écriture mathématique serait naturellement 1-dimensionnelle et binaire, parce que ce que la raison doit mettre en place serait d’abord une coordination binaire ? Une raison historique probable est la simplicité pour manier et écrire en ligne, puisque c’est ainsi qu’encore souvent on calcule. Mais tout changerait dès lors que l’on prouverait en diagrammes, par concaténations et simplifications 2-dimensionnelles, comme ce que l’on fait en réalité sans le savoir quand on fait de la géométrie plane élémentaire des triangles et cercles. Il s’agit alors d’une sorte d’algèbre à deux dimensions, avec des caractères à deux dimensions, combinables au moins suivant ces deux dimensions, où les lois de compositions peuvent bien être ternaires, par exemple sous la forme que voici :

16Avec à l’esprit cet exemple particulier du diagramme de l’objet borroméen, nous allons maintenant interroger de façon générale l’élaboration de l’écriture dans la pratique de modélisation mathématique du travail mathématique, pour y pointer le rôle des diagrammes au sens de la théorie mathématique des catégories.

2. Figures, lettres, preuves

  • 5 Figure, lettre, preuve : dimensions et pulsation de l’écriture, La figure et la lettre, Presses Uni (...)

17Posons que la pratique mathématique invoque implicitement une triple tension ou pulsation nécessaire entre les trois ordres des figures, des lettres et des preuves. Ceci est argumenté en détails et illustré (notamment de résultats originaux sur la géométrie élémentaire des triangles, sur la symétrie du système des fonctions elliptiques, sur le calcul à deux dimensions des entrelacs), dans la conférence de Nancy5 de 2008 faisant suite à ce texte-ci, et il y est spécialement tenté de convaincre que, dans le jeu des diagrammes et des échappées dans les dimensions nouvelles, ces trois pôles communiquent et deviennent homogènes. Ici nous nous concentrerons sur la seule question du sens comme morphisme de diagrammes, et subséquemment sur l’acte d’écriture même comme écritures et modifications de diagrammes, sur la pulsation entre écrire et modifier du diagramme.

  • 6 La pulsation mathématique, l’Harmattan, (1999), 336 p.

18Une figure est emblématique, logotopique (construction de lieu de discours à y inscrire), topologique (discours à tenir sur les lieux) ; une lettre est un chiffre, un code, un symbole ; une preuve est une construction, un discours, un algorithme : au niveau du geste diagrammatique ces distinctions s’estompent et s’entretiennent dynamiquement, il y a de la pulsation mathématique6. La nouveauté inventive émerge du soutien de cette triple tenue, de son bougé, et précisément dans la pulsation de l’écriture diagrammatique, comme on a pu le réaliser dans notre élaboration initiale ici sur le borroméen au paragraphe 1.

3. Les diagrammes, les figures, les lieux, la lettre

  • 7 E. Barbin, Voir des figures, des raisonnements et des équations : une approche sémiotique de la dém (...)

19D’une part, à propos du « diagramme », la conception de Charles Saunders Peirce est un bon point de départ ici. Pour lui l’invention mathématique procède d’observations actives d’un diagramme (qui est pour lui une icône particulière représentant la forme d’une relation intelligible) et d’un travail de manipulation pour modifier ledit diagramme jusqu’à obtention complète d’une analogie désirée avec la forme d’un autre diagramme. Au regard de cette conception, et des idées de Peirce sur les signes, on peut analyser diverses découvertes mathématiques du point de la « dynamique diagrammatique7 ». Parmi les diagrammes il y a les équations et diagrammes algébriques, les diagrammes exprimant les relations logiques, les figures de géométrie, les graphiques divers et autres schémas, les diagrammes de compositions de relations et fonctions, et nous pouvons évidemment y ajouter les diagrammes particuliers que sont les diagrammes au sens que ce mot à aujourd’hui pour les catégoriciens. Les déformations les plus importantes ici pour nous sont celles qui vont d’images à diagrammes catégoriciens, qui sont comme des preuves ou comme des définitions faisant état de la fonctionnalité implicite générée par une image (voir donc le cas du borroméen au paragraphe 1).

  • 8 T. de Vittori, La caractéristique géométrique de G. W. Leibniz : présentation et perspectives, La f (...)

20D’autre part, à propos de « figure », ce qui nous importera ici sera la question de Leibniz qui voulait disposer d’une langue philosophique, dont les termes seraient parfaitement clairs, et qui présenterait les connexions entre ses termes, qui seraient, dans la terminologie de Leibniz, des caractères8. Ce que ne sont pas les figures géométriques traditionnelles, mais que seront peut-être les figures diagrammatiques catégoriciennes. Parce que les objets d’une catégorie (au sens mathématique du terme) seraient peut-être de tels caractères, répondant à la demande de Leibniz : « les Caractères sont des objets exprimant les relations entre d’autres objets ». Les objets d’une catégorie sont comme des lieux abstraits, points de croisement de relations entre d’autres lieux, ce que signifie le lemme de Yoneda, et par là l’idée même de lieu devient purement relationnelle, au-delà d’un jeu métrique de distances mutuelles ou d’une enveloppe faisant frontière.

  • 9 J.-P. Lubet et J.-P. Friedelmeyer, La subversion de la figure par la lettre et la construction d’un (...)

21Et enfin, la question de la « lettre », que l’on pourra toujours entendre comme un nom de lieu. On a souvent parlé de l’autonomie de la lettre (Pierre Damphousse), de la puissance autonome de la lettre9. Il s’agit de l’ « indétermination féconde » du symbole algébrique, et de la possibilité de substituer la lettre à la figure, comme si ainsi l’on manipulait des grandeurs, voire des quantités. Soit dans le fond le sens initial de l’invention de l’algèbre explicitement tendue dans l’alternative de signifier du nombre ou de la grandeur géométrique ; ce dont Descartes tirera partie pour reproduire, sans souci de mesure et de nombres, les opérations de l’arithmétiques dans sa géométrie. Si l’on omet de la géométrie cartésienne son caractère analytique, qui se tient au point de tout exprimer par l’unité en termes de lignes, alors il n’est pas impossible de penser ainsi la géométrie de Grassmann, qui de lettres pointe les lignes, plans, etc., et intrinsèquement, leurs relations.

22L’idée d’algèbre figurative fonctionnera de faire jouer à plein la fonction substitutive de la lettre dans la figuration diagrammatique des lieux où objets mathématiques, en supposant à ce geste une portée universelle (à la fois au sens de ce mot en philosophie et épistémologie, et au sens technique de ce mot en théorie des catégories, c’est-à-dire au sens que tout s’exprimerait par des propriétés universelles de diagrammes, comme sont les produits, les sommes, les noyaux et conoyaux dans les catégories).

4. Le diagrammatique et le nouveau

23Sur l’idée même du diagrammatique, rappelons que Gilles Châtelet mettait l’accent dans l’acte créateur (en mathématique ou en physique) sur le mouvement de pensée transversal à son propre développement, mouvement de bascule, quand la pensée sort de ses gonds ; pour notre part à ce sujet nous mettrons plutôt l’accent sur l’idée de pulsation, sur la capacité paradoxale de poursuite en dépit de et grâce au déséquilibre dans les enjeux contraires. Ces observations sont du côté de la conscience initiatrice de l’acte. On peut envisager maintenant la question d’une façon déplacée, en insistant sur le fait que la pratique mathématicienne est une manipulation de diagrammes, et que l’émergence du sens mathématique ressort de cette manipulation.

24Alors, qu’il s’agisse, au point de la conscience de l’acte, de transversalité ou de paradoxalité, les enjeux de déséquilibre se retrouvent au moment de décision des manipulations de diagrammes. Le point-clé est quand on baptise un diagramme, et qu’on en fait un objet mathématique frais.

25La question de l’invention est alors déplacée, depuis l’acte jusqu’à son sens, et, non plus pour la conscience initiatrice, mais vis-à-vis du sens, il nous faut construire une théorie du nouveau, articuler des critères de nouveauté.

26Les virtualités du diagramme comme modèle sont des entrées dans des cheminements d’exercices avec ledit diagramme, et les chemins alors effectivement parcourus par les gestes empruntant le diagramme dessinent la forme de la vérité du problème qui anime l’utilisateur confronté au diagramme ; cette forme est la “réponse” du modèle à un sujet actif. Cette réponse participe de l’infini des réponses de la même sorte qui sont précisément possibles, et le sujet au travail ne s’y peut achever.

27Les virtualités s’en suivent des contraintes propres du diagramme. Un diagramme est un obstacle réel et un point d’appui fictif ; il se présente à la pensée comme un événement à résoudre suivant sa pente naturelle à déceler. Ce que le diagramme écrit est encore dans sa gangue, c’est une écriture en métamorphose, il s’agit de le lire, de lire la cohérence de son dispositif, de sa métamorphose en cours, et cette cohérence lue est la solution.

  • 10 Op. cit.
  • 11 Évidence et étrangeté, PUF, 2000

28Il ne faut pas méconnaître ici la dimension herméneutique (expressément ignorée dans La pulsation mathématique10 et dans Évidence et étrangeté11, quand il fallait d’abord dégager l’effet de structure, autour de la question de la littéralité). Il y aurait maintenant à ajouter la dimension culturelle et l’ambition interprétative, au sein de la culture et de l’histoire mathématique. Le diagramme se constitue au fur et à mesure du travail mathématique en raison de la culture du mathématicien au travail, et suivant l’état d’avancement de sa résolution déjà en cours dès son amorce.

29Le point-clé le plus redoutable (et le plus intéressant) est l’ambiguïté ou l’équivoque, et au sein même de la pratique diagrammatique sa saisie comme question et comme réponse, tout comme on fait dans le cas des diagrammes que sont les équations dans la tentative de résolution, avec la théorie de Galois. Ici on pourrait faire entendre aux non-mathématiciens que la mathématique est autre chose que l’opération de la rigueur mécanique positive, que l’esprit mathématique qui anime la manipulation des diagrammes est beaucoup plus sournois et subtile, qu’il s’inquiète précisément de la portée de ce qu’il fait au moment où il le fait, qu’il cherche justement un moyen d’invention nouveau ! Nouveau veut évidemment dire pour le moins insu et inédit, et on n’autorise pas là une simple substitution machinale facile à laquelle tout le monde penserait. L’objet résolutoire nouveau pour le diagramme est donc comme un trou énigmatique à combler au centre même du système ; encore faut-il réaliser de l’objet qu’il est déjà là, et qu’il rend le service voulu. Bref, encore faut-il savoir lire le diagramme, comme figure de son sens où l’on sait omettre ce qui le rend illisible, ajouter ce qui comble quelque manque.

30Soulignons encore qu’ici nos diagrammes ne seront pas tous ceux de Peirce, mais quelques cas bien particuliers, à savoir les diagrammes que manipule le mathématicien quand il fait de la théorie des catégories, des organisations fonctionnelles, et des constructions d’objets en termes de propriétés universelles. Nous pensons que ces diagrammes de catégoriciens sont “théoriquement” suffisants, notamment si on les considère en toutes dimensions, pour écrire tous les diagrammes intelligibles donnant lieu à de l’activité mathématique. Mais la lecture de ces diagrammes catégoriques fonctionnels peut, pour que du sens s’y inscrive, demander d’autres diagrammes faisant image. C’est le cas par exemple de notre diagramme de l’objet borroméen du paragraphe 1, dont un sens reste justement d’être la figure de la fonctionnalité sous-jacente à une certaine mise en scène fascinante de la trinité... C’est le cas aussi du diagramme du troisième problème dans le paragraphe 5, ou encore des diagrammes de Venn et de figures impossibles que nous rencontrons plus loin au paragraphe 7.

31Les diagrammes exhibent des fonctions, explicites où implicites, univoques ou équivoques. Par eux la fonctionnalité pure est visible comme jeu d’une algèbre substitutive générale, et cette visibilité n’est pas à confondre avec la visibilité d’une figure géométrique, quand cette figure semble représenter l’espace physique. En revanche, si l’on suit une figure de géométrie pour y confirmer au fur et à mesure l’argument qui fait preuve, alors la figure est bien utilisée comme un diagramme fonctionnel, et à ce titre pourrait aisément être reformulé par un diagramme catégorique, comme élément d’une algèbre figurative.

5. Lire et écrire

  • 12 Figure, lettre, preuve : dimensions et pulsation de l’écriture, op. cit.

32L’arithmétique, l’algèbre et la géométrie classiques n’échappent pas à la difficulté de lire et écrire, et à sa nécessité. C’est toujours dans le fond un acte d’écriture et lecture que tout approfondissement mathématique suppose. Voici trois exemples dont on trouvera ailleurs12 les solutions. On y doit observer qu’il y est question de découvrir comment lire, ou comment écrire, c’est là même le problème. Le premier est le plus difficile parce que ce qui est écrit ne dévoile rien du problème sous-jacent, dont on montre la solution ; le second est plus facile, mais il faut cependant écrire soit même l’équation demandée, et une fois cela fait on réalise mieux le sens de l’objet x, ce qu’il résout ; et dans le troisième cas la situation est la plus facile, car on voit en partie de quoi il s’agit, des questions précise nous viennent à l’esprit, parce que la structure de l’écriture fait signe de ce qui est construit par elle, mais du coup on tombe plus aisément dans l’ouverture d’une série infini de questions.

5.1 Tout d’abord considérons l’écriture

33776027140648681826953023283321388666423232240592337610315061922690
321593061406953194348955323833033238580023195089004703344094211982
833508953446157558874364918967966655125464772584546510461...

34Qu’est-ce que c’est ? C’est illisible en l’état, comme tout objet mathématique qui reste énigmatique et illisible tant qu’on ne le rapporte pas à la solution d’un problème.

35L’algèbre usuelle suppose que l’on se met au travail de substitution et de développement. Par exemple si l’on pose

36x =1+21/5 +41/5 +81/5 + 161/5,

37alors, avec u =21/5 on a u5 = 2, et comme x =1+ u + u2 + u3 + u4, on peut former une équation du cinquième degré à coefficients dont x est solution (et même la seule solution réelle). Faites-le !

38Enfin voici une figure à méditer (lire) : quel problème cette figure pose-telle ? que faut-il y voir ? Pourquoi y a-t-il 31 zones dans le disque et pas 32 ? Peut-on considérer cette figure comme l’écriture d’une preuve de l’énoncé : dans un hexagone convexe quelconque, les côtés et les diverses diagonales déterminent 25 zones ? Ici parmi les 25 zones, il y en a 3 pentagonales (les zones 25,27,29), 3 tétragonales (les zones 26,28,30), 19 trigonales, dont 1 intérieur (la zone 31) ; est-ce général ?

39Cette figure peut être comprise comme un dispositif d’exploration des symétrie du 6, en traçant justement un hexagone sans symétries, ce qui permet de voir apparaître toutes les zones, y compris celles qui disparaissent en cas de symétrie. On peut en comprendre diagrammatiquement l’organisation en construisant le graphe d’adjacence par les arêtes associées, où 31 est lié à 25, 27 et 27, où 25 est lié à 3, 24, 26, 31, 32, etc. Mais on peut aussi bien rester avec cette figure en la pensant telle que comme diagramme. Et puisqu’il s’agit de 6, on pourra chercher la liaison entre cette figure et celle du borroméen, qui traite aussi largement de 6. Ce sera au niveau de diagrammes de flèches que le rapprochement sera le plus commode et fructueux.

6. Algèbre figurative : voir en diagrammes

40L’algèbre figurative propose l’unification de l’algèbre et la géométrie dans la pratique diagrammatique. On y déduit sur des schémas, des diagrammes, qui sont autant des figures que des lettres, des espaces à voir et des lieux de substitutions littérales.

41En algèbre classique, il y a des opérations d’arités des entiers, l’arité d’une opérations indiquant le nombre de variables en entrée. Par exemple l’addition est d’arité 2, ce que l’on voit dans l’écriture 5+3, et l’arité 2 de + est visualisable par deux places juxtaposées (l’une où l’on met le 5, l’autre où l’on met le 3), ce qui se dessine : .. , ce qui en quelque sorte « est » l’entier abstrait 2 ; cette arité peut encore être vue comme un ensemble abstrait à 2 éléments.

42En géométrie il y a, comme opérations, des schèmes de construction, et il n’est pas toujours explicitement dit quels composants détachés tel schème va combiner. Par exemple la construction de la médiatrice d’un segment opère sur une figure abstraite qui est un segment, la construction du cercle orthogonal à trois cercles opère sur la figure abstraite formée de 3 cercles, etc. Les composants que tel schème combine quand s’effectue son opération sont disposés suivant une figure abstraite que l’on appellera l’arité dudit schème.

  • 13 Introduction à l’analyse algébrique, I et II, Math. Sci.. Hum., 96 et 97 (1986 et 1987), pp. 49-663 (...)
  • 14 Toute théorie est algébrique et topologique. Cahiers. Top. Géo. Diff. Cat. vol. XLIX-2 (2008), pp.  (...)

43L’idée d’algèbre figurative13 combine les deux aspects de l’algèbre et de la géométrie, en admettant d’une part que dans le calcul algébrique classique les arités, au lieu d’être simplement des entiers, puissent aussi être pensées comme des figures, et, d’autre part, que, dans la géométrie, les constructions géométriques soient comme des opérations algébriques, pouvant satisfaire à des conditions équationnelles. Ainsi on peut incorporer dans les arités la forme même des variables, et décrire alors la géométrie en termes d’opérations algébriques sur des variables de formes diverses, réalisées en raison de ces formes et de leurs concaténations visibles. Il y a donc une catégorie d’arités, entre elles des substitutions mettant en scène leurs constitutions relatives, puis des morphismes additionnels entre ces arités, qui représentent les opérations ou « concaténation réduites », et une algèbre figurative sera une réalisation sur un objet support des opérations ainsi spécifiées entre les arités. Nous renvoyons le lecteur à l’Introduction à l’analyse algébrique pour la définition précise formelle des algèbres figuratives, et de nombreux exemples dessinés. On trouvera aussi un résumé dans un article de 200814.

44L’algèbre classique, où les arités sont des nombres entiers ou des ensembles, peut être dite algèbre ensembliste. Si en revanche les arités sont des diagrammes on parle d’algèbre diagrammatique, etc. Le diagramme mathématique n’est pas la figure de géométrie, nous le considérons comme le cas le plus important de figure au sens général de ce terme dans l’expression « algèbre figurative ». En fait, dans la définition générale des algèbres figuratives, les figures d’une algèbre figurative donnée peuvent bien être a priori parmi les objets d’une catégorie donnée quelconque.

45C’est une erreur grave que de croire qu’il n’est de preuve rigoureuse que par le calcul (éventuellement obscur mais contrôlé), ou aussi bien d’argument lumineux que géométrique (éventuellement incalculable mais visuellement évident). Au contraire la double pratique d’algèbre figurative, où l’on voit la géométrie des calculs et des preuves, et où les calculs sont aussi des constructions en figures, est une ressource des plus prometteuses, qui s’accomplit aujourd’hui principalement dans la pratique des diagrammes. Et cette pratique est d’une part de l’algèbre diagrammatique, bien délimitée en ces arités, concaténations et opérations, et, d’autre part de l’activité visuelle, l’activité de l’œil qui lit les diagrammes et leurs combinaisons, et ainsi les pense comme figures. Le mathématicien au travail exerce un calcul et un contrôle littéral de l’écriture des diagrammes, et, simultanément, au niveau intuitif, un voir des diagrammes. Il se figure la mathématique.

46La rigueur formelle n’est pas plus déposée comme garant dans la pratique algébrique classique que dans la pratique géométrique classique, et notamment la rigueur y demande la surveillance du voir, du toucher, du dire, quoique, ici et là, dans des proportions variables. Dans la pratique unifiée de l’algèbre figurative, il en ira de même, il y aura toujours l’intervention du sujet. Toujours l’incomplétude de l’écriture sera le risque sur lequel la pensée pourra progresser.

47En calcul figuratif on garde l’idéal d’une rigueur formelle absolue, mais on ne s’interdit plus de courir expressément le risque du manque provisoire de rigueur, ce qui permet peut-être de mieux gérer en situation les défauts de rigueur, plutôt que de croire avoir éliminé l’erreur pour toujours. Par là on pratique la mathématique comme l’invention du vrai.

48Du point de vue figuratif, le sens serait donc la question de la lecture d’un certain rapport entre un diagramme épuré (des fonctions), et une image plus primitive (des relations substantielles).

49Nous illustrons maintenant cette double question de construire une image possible qui fasse voir ce que le diagramme représente, de voir un diagramme en dépit d’une image qui le donne à voir comme impossible.

7. Diagrammes de Venn pour voir la logique, figures impossibles

50Venn croyait impossible de représenter par des diagrammes (de Venn, dit-on aujourd’hui) la situation logique générale de plus de quatre propositions. En fait il se trompait, et on peut même faire le travail de façon syméterique pour cinq voire pour sept propositions. Voici pour 7 la figure obtenue par Grünbaum, figure disponible sur le site de Frank Ruskey.

51Il s’agit donc là d’un travail de nature inverse à celui de dégager le diagramme d’une figure (par exemple de l’entrelac borroméen) puisqu’ici le diagramme est donné, il s’agit de l’algèbre de Boole libre à 7 générateurs, que l’on sait isomorphe à l’algèbre de toutes les parties d’un ensemble à 7 éléments, qui comporte donc 27 éléments ; le diagramme de Grünbaum fait voir cette algèbre, de sorte que la logique s’y calcule « d’un coup d’oeil », comme le souhaitait Venn.

  • 15 Figure, lettre, preuve : dimensions et pulsation de l’écriture, op. cit.

52Pendant longtemps l’emblème de l’université Paris 7 était le tribar de Penrose (où pouvait se lire le chiffre 7) que voici à gauche, que l’on sait impossible à réaliser dans l’espace15. A droite nous donnons à voir un joli triplement de cette figure, dont nous ignorons l’auteur. Le lecteur saura expliquer cette dernière figure comme une sorte de concaténation de trois tribars, au sein donc d’une algèbre figurative appropriée.

53Rappelons que le diagramme d’objet borroméen procède, au paragraphe 1, d’une lecture de la figure réellement impossible de trois vrais anneaux circulaires rigides que donne à voir la figure du Vita Deus, qui donc est bien une figure impossible de même espèce que le tribar. On sait écrire cet impossible (du tribar, du borroméen) en termes de calculs de groupes de cohomologies, dont la non-nullité prouve l’impossible en question. Mais des preuves et explications élémentaires sont aussi possibles.

8. Le sens, la flêche, les catégories

54Pour bien exposer l’idée de l’universalité de l’écriture de diagrammes catégoriques, par où donc d’autres écritures diagrammatiques d’images et autres trouvent leur sens quand on les y réduit, il convient de donner quelques indications sommaires, et elles-mêmes diagrammatiques, sur ce que sont les diagrammes catégoriques, autrement dit sur ce que sont les catégories mathématiques abstraites elles-mêmes. Ce par quoi nous terminons ici.

55Nous imaginons donc le sens (d’un diagramme A) comme une flèche (à construire)

56s : B → A

57On pense à A comme à l’expliqué, à B comme à l’impliqué, ou bien, suivant les circonstances, on voit les choses à l’envers : B l’expliqué, A l’impliqué. Les diagrammes catégoriques sont constitués de flèches et de commutations entre celles-ci, leurs compositions. L’ingrédient de base est donc la flèche, et son usage est sous condition de l’équivoque de sa signification :

  • la flèche signifie « le même » : similitude à ;

  • la flèche signifie le « change » : changement en.

58Avant la flèche il y a, historiquement parlant, l’exemple des fonctions, comme flèches concrètes entre deux ensembles, quoiqu’en fait ces flèches concrètes soient des paquets de flèches abstraites entre éléments des ensembles en question. Ce qui est concret c’est donc plutôt la détermination fonctionnelle par formule analytique de la correspondance qu’il y a dans une fonction. Pour en arriver à l’idée abstraite de fonction il a donc fallu un effort d’abstraction considérable à partir des cas concrets : l’addition des entiers, la transcendante sin (x), le polynôme ax+b, etc., dans des champs de nombres, grandeurs et indéterminées. Il fallait que tous ces exemples deviennent précisément des cas de l’entité abstraite nommée fonction. Une fois cette étape franchie, une deuxième devenait nécessaire, celle d’épurer les cas de flèches que sont les fonctions, les homomorphismes, les transformations, et que tout cela finisse par tomber sous un seul nom, le nom de morphisme. Avant-dernière étape : le jeu de la composition des morphismes est in fine la seule chose qui, abstraitement, compte. Un système de morphismes clos par compositions constitue une catégorie concrète.

59Dernière étape : l’idée abstraite de catégorie, dont les constituant sont des flèches abstraites, et la pratique des diagrammes qui s’en constituent. Le diagramme fondamental est donc celui-ci exprimant que la composition de deux flèches f suivie de g est une troisième, ce qu’on écrit en ligne par h = g.f.

60Avec de tels diagrammes adjacents et mêlés, on utilise l’unitarité et l’associativité, soit les modifications qui résultent des diagrammes :

61Une catégorie est constituée d’un ensemble d’objets C0, d’un ensemble de flèche C1, d’un ensemble de paires de flèches consécutives C2, d’un ensemble de trios de flèches consécutives, et puis, entre ces ensembles de diverses applications satisfaisant à certaines équations de composition. Principalement, il y a des applications « identité » i, « source » s, « but » b, et « composition » c, qui font de la catégorie un graphe orienté muni d’une composition des flèches consécutives unitaire et associative. Une catégorie quelconque C est elle-même la réalisation RC d’un certain diagramme catégorique abstrait (l’esquisse de catégorie) à l’intérieur de la catégorie des ensembles et applications Ens, et cette esquisse S se dessine. Ainsi l’idée même de catégorie se présente par un diagramme (précisément une esquisse). Et l’on a un morphisme de catégorie ou foncteur

62pc : RC → S

63Ici pc est ce qui donne le sens de RC (et partant de C) que l’on fait voir comme réalisation de l’esquisse S.

64Toute catégorie C peut être plongée dans une catégorie C de préfaisceaux (foncteur de la catégorie Cop opposée à C (obtenue en renversant le sens de toutes les flèches de C) vers la catégorie Ens des ensembles et applications dont chacun F est une représentation de la catégorie C dans la catégorie des ensemble, et le tout se dessine.

65Ce dessin (diagramme) exhibe en fait implicitement le lemme de Yoneda qui décrit comment C est plongée dans C . Notamment le fait que la flèche t : FG soit une “transformation naturelle” entre les préfaisceaux F et G se réduit à l’identité d’associativité :

66(t.x).u = t.(x.u).

67Ainsi la simple circulation associative, ce qui s’effectue spontanément du seul fait de lire les chemins sans les parenthéser, rend compte du naturel des flèches de C . Ainsi le lemme de Yoneda est bien une modification d’un diagramme, soit l’élargissement de C à C , ce qui donne le “sens” de toute catégorie C, comme si C expliquait C .

68A travers la mise en forme comme algèbre figurative, toutes les situations mathématiques d’images, de figures, équations et écritures diverses, représentant des situations existantes ou impossibles, voulu ou non, peuvent être maniées et déformées (métamorphosées) jusqu’à donner lieu à une ré-écriture de leur structure en tant que diagramme, dans le cadre de la théorie des catégories et foncteurs (dont les éléments d’écriture sont montrés ici), comme organisation d’un jeu de flèches. La flèche d’une telle métamorphose est le sens catégorique trouvé de ces situations. Comme nous l’avons montré par exemple pour la question borroméenne.

Notes

1 Klein’s group as a borromean object, Cahiers Top. Géo. Di. Cat., Vol L-2 (2009), pp. 144-155

2 Logotopie : construction des lieux des discours, Conférence à la Lysimaque du 13 février 1999, puis à Bruxelles le 3 mars 1999. htp://pagespersoorange.fr/espace.freud/opos/topolo/logotop.htm

3 Borromean Objecs, as examplied by the groupe G168 of Klein’s Quantic, linked with Moving Logic, Abstract d’une conférence à Calais, Colloque Category Theory 2008 (22-28 june, 2008), Abstracts, p. 37.

4 Les coordonnées curvilignes de Gabriel Lamé, représentations des situations physiques et nouveaux objets mathématiques, Actes du Colloque International Gabriel Lamé, janvier 2009, Nantes, bulletin de la SABIX, no 44, pp. 119-129.

5 Figure, lettre, preuve : dimensions et pulsation de l’écriture, La figure et la lettre, Presses Universitaires de Nancy, 2011 (17ème Colloque inter-IREM Épistémologies, Nancy, 23-24 mai 2008

6 La pulsation mathématique, l’Harmattan, (1999), 336 p.

7 E. Barbin, Voir des figures, des raisonnements et des équations : une approche sémiotique de la démonstration, La figure et la lettre, Presses Universitaires de Nancy, 2011.

8 T. de Vittori, La caractéristique géométrique de G. W. Leibniz : présentation et perspectives, La figure et la lettre, Presses Universitaires de Nancy, 2011.

9 J.-P. Lubet et J.-P. Friedelmeyer, La subversion de la figure par la lettre et la construction d’une analyse algébrique, La figure et la lettre, Presses Universitaires de Nancy, 2011.

10 Op. cit.

11 Évidence et étrangeté, PUF, 2000

12 Figure, lettre, preuve : dimensions et pulsation de l’écriture, op. cit.

13 Introduction à l’analyse algébrique, I et II, Math. Sci.. Hum., 96 et 97 (1986 et 1987), pp. 49-663, 19-45. Disponible sur NUMDAM.

14 Toute théorie est algébrique et topologique. Cahiers. Top. Géo. Diff. Cat. vol. XLIX-2 (2008), pp. 83-128..

15 Figure, lettre, preuve : dimensions et pulsation de l’écriture, op. cit.

Auteur

Le texte et les autres éléments (illustrations, fichiers annexes importés) sont sous Licence OpenEdition Books, sauf mention contraire.

Rechercher dans OpenEdition Search

Vous allez être redirigé vers OpenEdition Search