Version classiqueVersion mobile

La théorie des catégories

 | 
Arnaud Dewalque
, 
Bruno Leclercq
, 
Denis Seron

Ni husserlienne, ni russellienne : la théorie des catégories sémantiques de Leśniewski1

Thomas Rapaille

Texte intégral

  • 1 Je remercie chaleureusement Nadine Gessler, Bruno Leclercq et Denis Seron pour leurs comme (...)

Quel drôle de montre ! remarqua-t-elle. Elle indique le jour du mois et elle ne dit pas quelle heure il est !
Pourquoi le dirait-elle ? grommela le Chapelier. Est-ce que votre montre, à vous, vous dit en quelle année nous sommes ?
Bien sûr que non, répondit sans le moindre embarras Alice : mais c’est parce que l’on reste dans la même année durant un très long laps de temps.
C’est précisément ce qui se produit dans le cas de ma montre, à moi », dit le Chapelier.
Alice se trouva terriblement déconcertée. La remarque du Chapelier lui semblait dépourvue de toute signification, et pourtant elle était grammaticalement correcte.
(Lewis Carroll, Les Aventures d’Alice au pays des merveilles, ch. vii.)

  • 2 D’excellents ouvrages sont consacrés à cette tâche particulièrement ardue : on peut ainsi (...)

1On doit au logicien polonais Stanisław Leśniewski la création de trois systèmes déductifs : la Méréologie, l’Ontologie et la Protothétique. Leśniewski a, de plus, posé les bases de ce qui deviendra les grammaires catégorielles grâce à sa théorie des catégories sémantiques (semantischen Kategorien). Il ne rentre pas dans les objectifs de ce texte de présenter les trois systèmes2, mais l’ambition est ici d’étudier la théorie des catégories sémantiques en rapport avec sa double origine, husserlienne et russellienne. Ces deux sources, Leśniewski, dans son article de 1929 intitulé « Grundzüge eines neuen Systems der Grundlagen der Mathematik », les revendique et les précise :

  • 3 S. Leśniewski, « Grundzüge eines neuen Systems der Grundlagen der Mathematik », dans Funda (...)

En 1922, j’ai esquissé le concept de catégories sémantiques destinée à remplacer la hiérarchie des types, qui m’apparaissait contre-intuitive. À dire vrai, je me sentirais obligé aujourd’hui d’accepter ce concept même s’il n’existait aucune antinomie. D’un point de vue formel, mon concept de catégories sémantiques est fortement apparenté aux célèbres théories des types, spécialement en ce qui concerne leurs conséquences théoriques. D’un point de vue des intuitions, cependant, ce concept se rapproche davantage de celui de la tradition des catégories d’Aristote, des parties du discours de la grammaire traditionnelle et des catégories de signification de Husserl3.

Nous citons longuement Béatrice Godart-Wendling et Pierre Joray qui résument au mieux le projet leśniewskien d’une théorie des catégories sémantiques :

  • 4 P. Joray & B. Godart-Wendling, « De la théorie des catégories sémantiques de Leśniewski à (...)

Si l’idée de catégoriser les constituants d’un langage n’est évidemment pas née avec l’avènement de la logique moderne, la réalisation par Leśniewski du programme husserlien de « grammaire pure » présente cependant cet aspect novateur d’avoir donné lieu à une théorie catégorielle visant à régler la construction effective d’une idéographie logique. L’entreprise de ce logicien, essentiellement motivée par les risques que faisait peser sur les langages formels la découverte des antinomies, exerça toutefois assez rapidement un attrait hors du champ de la logique formelle de par sa proximité avec la conception traditionnelle de la grammaire en parties du discours. Mis en avant par Leśniewski, ce lien conférait à ses yeux l’avantage de rendre la théorie des catégories sémantiques profondément intuitive, la délestant ainsi du caractère ad hoc de la théorie des types4.

  • 5 Par la suite RL.

Ainsi, à l’instar de la théorie des types de Russell, la théorie des catégories sémantiques aurait pour objet de prévenir les systèmes logiques de Leśniewski du paradoxe que Bertrand Russell mit au jour dans l’idéographie de Gottlob Frege, mais son mécanisme s’inspirerait de la notion de catégorie de signification (Bedeutungskategorie) qu’Edmund Husserl théorisa dans sa iveRecherche logique5. Il y aurait donc comme un point de jonction, certes modeste, entre la tradition phénoménologique et la tradition analytique, que seraient les catégories sémantiques.

2Ce rapprochement, quoique attractif, nous semble ne pas aller de soi. En réalité, il est possible d’adresser deux critiques à ce que s’accorde Leśniewski. D’une part, on sait que Husserl vise à travers la notion de catégories de signification la fondation de lois de signification. Comme le soutient Yehoshua Bar-Hillel, les catégories de signification husserliennes sont proprement des catégories syntaxiques et non des catégories sémantiques. Il faudrait donc interpréter les lois de signification comme ce que les logiciens nomment aujourd’hui les règles de bonne formation des formules, c’est-à-dire les règles qui déterminent si une proposition est syntaxiquement bien ou mal construite. Or, le paradoxe de Russell n’est-il qu’une proposition syntaxiquement mal construite ? On peut en douter : où serait l’erreur grammaticale dans l’énoncé « je mens » ? Il y a lieu donc d’interroger la théorie des catégories sémantiques afin de vérifier si les outils qu’elle se donne permettent effectivement de remplir la tâche qu’elle prétend effectuer. D’autre part, Husserl enracine sa IV RL dans sa III RL, en ce sens que l’étude de la différence entre les significations indépendantes et les significations dépendantes, titre de la quatrième recherche, se veut être une application de la théorie des touts et des parties, thème de sa troisième recherche. Mais s’il y a une quelconque parenté entre les notions de catégories sémantiques et de catégories de signification, comment expliquer que Leśniewski ne rattache nulle part sa théorie des catégories sémantiques à sa Méréologie ? Dès lors, il y a lieu d’interroger et de compliquer le rapport entre les notions de catégories sémantiques et de catégories de significations.

Leśniewski et le paradoxe de Russell

3Du paradoxe de Russell, on peut discerner deux formulations : la première — la plus célèbre mais historiquement la seconde — est le paradoxe de la classe des classes ne se contenant pas elles-mêmes, la seconde — historiquement la première — est le paradoxe des imprédicables ou paradoxe de l’imprédicativité. Dès 1916, Leśniewski s’est consacré entièrement à la résolution du paradoxe de Russell et les deux formulations du paradoxe trouvent chez lui deux solutions différentes. Le paradoxe de la classe des classes ne se contenant pas elles-mêmes sera l’objet de la Méréologie, le paradoxe de l’imprédicativité sera l’objet de la théorie des catégories sémantiques.

  • 6 S. Leśniewski, Sur les fondements de la mathématique, Fragments, trad. fr. G. Kalinowski, (...)

4Différentes solutions ont été proposées pour qu’une telle classe ne puisse plus être construite au sein des systèmes logiques : l’affaiblissement de la loi V de Frege, la théorie des types de Russell et Whitehead ou encore l’axiome de séparation de Zermelo prétendent tous remplir cette tâche. Cependant, Leśniewski les refusa toutes trois, arguant qu’elles sont dénuées de tout fondement intuitif. À ses yeux, ces solutions ne sont que des traitements prophylactiques en ce sens qu’elles ne résolvent en rien le paradoxe mais ne font que l’éviter. A contrario, pour le logicien polonais, « l’unique méthode de solution des antinomies est la méthode de mise en question intuitive des raisonnements ou des supposés conduisant à la contradiction », ces pseudo-solutions relevant de « la mathématique extra intuitive [qui] ne contient pas de remèdes contre les insuffisances de l’intuition »6. Plus généralement, Leśniewski oppose :

  • 7 Id. Cette citation demanderait un long commentaire, Leśniewski semblant identifier — ou co (...)

Les sciences mathématiques, tenues pour des théories déductives appelées à capter la réalité hétérogène du monde dans des lois aussi exactes que possibles, et les systèmes déductifs non contradictoires analogues, mais qui […] se distinguent tout de même par l’absence de toutes valeurs intuitives scientifiques les rattachant à la réalité7.

  • 8 Le lecteur intéressé pourra se reporter à l’article de B. Sobociński, « L’analyse de l’ant (...)
  • 9 N. Gessler, Introduction à l’œuvre. Fascicule III : La Méréologie, p. 53.
  • 10 Boleslaw Sobociński, élève de Leśniewski, résume la distinction ainsi : « L’expression « c (...)

5Détailler la résolution leśniewskienne du paradoxe de Russell sort du cadre de ce texte8. Néanmoins, on peut souligner que celle-ci est proprement l’origine de la Méréologie, puisque, comme l’écrit Nadine Gessler, les intuitions qui soutiennent la résolution engagent à « rejeter la notion classique de classe ou d’ensemble au profit d’une définition méréologique de la classe qui n’est soumise à aucune contradiction » et permettent « d’éclairer les raisons mêmes de l’antinomie »9. Le paradoxe de Russell, selon l’analyse de Leśniewski, repose, in fine, sur une confusion entre les conceptions distributives et collectives de la classe. Là où la première conception conçoit la classe comme l’extension d’un concept, comme une construction logique abstraite, la seconde comprend la classe comme un objet concret, réel : bref, comme un tas (au sens de tas de sable) ou encore une collection10.

6Le refus net de Russell d’identifier la notion logique de classe avec celle d’agrégat, de collection, s’oppose à l’exigence de Leśniewski d’identifier les classes à des agrégats ou des collections. Celles-ci ne sont pas des fictions logiques mais bien des objets concrets et réels. Il est, dès lors, absurde de vouloir parler d’une classe vide et de distinguer entre une classe singulière et son unique élément, comme le font les théories classiques des ensembles. Ainsi, pour Leśniewski, l’objet « classe d’Edmund Husserl » ne contient qu’un seul objet, Edmund Husserl, et est totalement identique à son objet ; l’objet « classe des objets non-identiques à soi-même », classe vide, n’est qu’un objet au sens impropre puisqu’il s’agit d’un objet contradictoire.

7On peut résumer l’opposition par ce tableau :

Classe distributive Classe méréologique
Statut métaphysique Fiction logique Objet concret et réel
Classe vide Définissable Absurdité
Classe singulière Distincte de son unique élément Identique à son unique élément
Éléments Seuls les éléments tombant sous le concept classificatoire appartiennent à cette classe Se compose des éléments qui tombent sous son concept classificatoire mais comprend aussi tous les parties propres de ses éléments

8Cette distinction acquise, Leśniewski élimine la conception distributive de la classe, puisqu’elle mène au paradoxe, pour fonder une théorie axiomatique des classes s’appuyant sur la conception collective, méréologique, de la classe : sa Méréologie.

9Néanmoins, pour asseoir logiquement sa Méréologie, Leśniewski entreprit de créer un système proprement logique pour gérer le traitement du distributif qui n’engage pas à la reconnaissance de l’existence des classes distributives. Ce système logique est l’Ontologie.

L’Ontologie

10L’Ontologie est un calcul non pas des individus mais des noms dont la structure est celle de la tradition aristotélicienne. Rejetant la structure frégéenne fonction-objet, Leśniewski définit le foncteur ε, foncteur primitif de l’Ontologie, qui peut se lire « … est le… » ou « … est un des… » et conçoit les propositions de son Ontologie sous la forme A ε b, schéma qui rappelle la structure sujet-copule-prédicat. En outre, Leśniewski distingue, au sein de son système, trois sortes de noms : les noms singuliers qui dénotent un et un seul objet, les noms généraux qui dénotent plusieurs objets, et les noms vides qui ne dénotent aucun objet. Une proposition de l’Ontologie est ainsi toujours un certain rapport entre deux noms reliée par l’epsilon dont la signification est donnée par l’unique axiome de l’Ontologie :

(∀A, b) (A ε b) ≡ [{ (∃B) (B ε A)} ∧ { (∀D, C) (D ε A) ∧ (C ε A) ⊃ (D ε C)} ∧ { (∀D) (D ε A) ⊃ (D ε b)}]

Le second membre de l’axiome peut être divisé en trois conjonctions qui toutes portent un sens précis de l’epsilon.

  1. (∃B) (B ε A) indique que le nom A n’est pas un nom vide,
  2. (∀D, C) (D ε A) ∧ (C ε A) ⊃ (D ε C) indique que le nom A ne dénote qu’un seul objet, c’est-à-dire que A est un nom individuel.
  3. (∀D) (D ε A) ⊃ (D ε b) indique que le principe de convergence est respecté : si le nom D dénote le même objet que le nom A, alors l’objet dénoté par le nom D est aussi l’objet ou les objets dénotés par le nom b.

L’axiome de l’Ontologie montre donc les conditions de vérité des propositions ontologiques : toute proposition dont le nom-sujet n’est pas un nom singulier est fausse et seules les propositions ontologique A ε b, où A est un nom individuel et b n’est pas un nom vide (il est soit un nom singulier, soit un nom vide), sont vraies.

11Cependant, rien ne garantit que l’Ontologie soit à l’abri de tout paradoxe, et en particulier, qu’il soit impossible d’y construire le paradoxe de l’imprédicativité. C’est pourquoi Leśniewski ajouta à l’Ontologie la théorie des catégories sémantiques.

Les catégories sémantiques

12Le but de la théorie des catégories sémantiques est d’éviter l’assertion de propositions paradoxales. Pour ce faire, le mécanisme de base est d’attribuer une catégorie à chaque mot. Cependant, cette tâche se complique singulièrement dans les systèmes logiques leśniewskiens dans la mesure où ces systèmes possèdent une structure développementale des plus déroutantes. En effet, bien que l’Ontologie fût originellement construite pour servir de base logique déductive à la Méréologie, il lui est possible d’exprimer d’autres théories. Cette caractéristique, Alfred Tarski la résume ainsi :

  • 11 A. Tarski, « Le concept de vérité dans les langages formalisés », dans Id., Logique, séman (...)

Le langage d’un système complet devrait contenir en tant que tel — en acte ou en puissance — toutes les catégories sémantiques possibles apparaissant dans les langages des sciences déductives11.

Cette ambition amène Leśniewski à introduire dans la construction de ses deux systèmes logiques — la Protothétique et l’Ontologie — des mécanismes pour inscrire de nouveaux foncteurs logiques et de nouvelles catégories sémantiques sans que cela ne mette en péril la cohérence de ses systèmes. Si l’inscription de nouvelles catégories sémantiques inédites (relativement aux catégories sémantiques contenues par le système considéré à un moment donné) est une propriété remarquable des systèmes logique leśniewskiens, les explications terminologiques sont le prix à payer pour garantir la cohérence logique du développement des systèmes de Leśniewski. En définissant un tel métalangage strict, Leśniewski put expliciter les règles codifiant l’introduction de nouveaux foncteurs logiques et de nouvelles catégories sémantiques. Ces règles, appelées explications terminologiques, jouent ainsi à la fois le rôle des règles d’inférence et des règles de définitions. Eugene Luschei précise que, si les explications terminologiques organisent et permettent de développer les systèmes logiques leśniewskiens, elles ne fixent pas, pour autant, le développement de celui-ci :

  • 12 E. Luschei, The logical systems of Leśniewski, Amsterdam, North-Holland Publishing Company (...)

Les directives de Leśniewski sont des épreuves d’architecte, non des spécifications de bâtisseurs : elles contrôlent mais ne dictent pas les détails du développement (…). Elles sont des prescriptions générales, (…), qui établissent un cadre pour les théories mais elles ne prédéterminent (…) pas l’ordre dans lequel les thèses sont ajoutées aux axiomes12.

  • 13 Donnons un exemple du caractère développemental de la Protothétique. Au temps zéro de son (...)

La puissance des explications terminologiques est, sans doute, ce qui distingue le plus les systèmes logiques de Leśniewski des systèmes logiques classiques. En effet, si, pour ces derniers, il est possible d’ajouter des nouveaux foncteurs logiques, rien ne garantit que la cohérence soit préservée. Il faut, en effet, à chaque ajout, redémontrer la non-contradiction du système. Les explications terminologiques, au contraire, garantissent que toute nouvelle catégorie sémantique et tout nouveau foncteur ne modifie en rien la cohérence initiale de la Protothétique et de l’Ontologie13.

  • 14 On pourrait concevoir les foncteurs logiques comme une machine qu’on nourrit avec X, Y, Z, (...)

13Leśniewski stipule que tout signe présent dans une proposition de la Protothétique et l’Ontologie possède une catégorie sémantique, à l’exception notable des quantificateurs et des différentes parenthèses. De plus, Leśniewski distingue deux types de catégories : d’une part, les catégories de base et, d’autre part, les catégories dérivées. Les seules catégories de base admises sont celles de la proposition et celle du nom, les catégories dérivées seront introduites par la suite et formées à partir des catégories déjà présentes dans le système. Seules les catégories sémantiques des foncteurs logiques sont des catégories dérivées. Celles-ci doivent préciser deux caractéristiques des foncteurs : la catégorie sémantique du tout qu’il forme et les catégories sémantiques de leurs termes14.

  • 15 Nous reprenons ce terme à Pierre Joray et Béatrice Godart-Wendling.
  • 16 P. Joray & B. Godart-Wendling, « De la théorie des catégories sémantiques de Leśniewski à (...)

14C’est proprement l’analyse des catégories dérivées qui posera le plus de difficultés. Pour y parvenir, il est nécessaire d’introduire les notions de syntaxe inscriptionnelle15 de l’idéographie de Leśniewski et de contexte des foncteurs logiques. Si la syntaxe inscriptionnelle, dans laquelle il est constamment possible d’inscrire des nouveaux foncteurs et des nouvelles catégories sémantiques, intervient dans la détermination de la catégorie sémantique d’un signe dépend, puisque c’est relativement au développement du système et donc aux catégories sémantiques déjà inscrites dans le système qu’il est possible d’introduire une nouvelle catégorie sémantique, c’est, en définitive, la notion de contexte qui joue le rôle premier dans cette détermination. La notion de contexte se définit comme « la donnée d’un parenthésage dont la forme spécifique et le nombre d’arguments qu’il délimite [lui] sont caractéristiques »16. À chaque catégorie sémantique correspond un couple spécifique de parenthèses (comme (), [], {}, < >, …) et l’information du nombre de termes qu’il contient, le tout sera noté : (-), [--], {--}, (---), < --- >, et ainsi de suite.

Exemple :

15Le contexte de la catégorie sémantique de la conjonction propositionnelle, de l’implication matérielle ou encore de la disjonction propositionnelle sera identique mais devra obligatoirement différer du contexte de la catégorie sémantique de la conjonction nominale (par exemple, « quatre ans et six mois »), la catégorie des premiers foncteurs étant différente de celle du dernier foncteur (respectivement notée dans la notation d’Ajdukiewicz S/SS et N/NN).

Les catégories sémantiques appliquées au paradoxe de Russell

16Leśniewski reste vague sur l’application de sa théorie des catégories sémantiques à la résolution du paradoxe russellien et ne montre nulle part comment il comptait effectivement procéder. Il existe, néanmoins, un passage, provenant d’un texte de Sobociński, qui traite de cette question.

17Sobociński part du fait que le paradoxe de Russell peut être inféré à partir de la définition de la propriété de normalité des classes, c’est-à-dire la propriété « qui ne se contient pas elle-même ». Appelons cette propriété K :

(1) (∀A) (A ε K) ≡ (A ε A)
Qui se lit : quel que soit le nom A, A est une classe qui ne se contient pas elle-même si et seulement A n’est pas (un élément de) A.

Cette proposition est une définition du nom K. Dès lors, on peut vérifier que cette définition respecte bien les directives de la définition nominale prescrites par les explications terminologiques. En effet, c’est une prérogative des explications terminologiques de prescrire les conditions pour inférer une proposition d’un ensemble de propositions mais aussi les conditions pour définir un nouveau foncteur ou une nouvelle constance nominale. On appelle par convention definiendum la proposition à gauche du signe d’équivalence (ici « A ε K »), definiens la proposition à droite du signe d’équivalence (ici «  (A ε A) »). Or, Leśniewski a spécifié, dans l’une des conditions de la directive de définition, que le definiens doit être obligatoirement une conjonction composée et de la proposition proprement définitoire permettant de définir la constance nominale et de la proposition « A ε A ». Si la proposition (1) contient bien une proposition définitoire (toujours, «  (A ε A) »), elle ne respecte pas la seconde condition, « A ε A ». Cette dernière proposition est équivalente, dans l’idéographie leśniewskienne, à la proposition « A est un objet », qui se note dans le formalisme de l’Ontologie « A est V » où V est le nom général dénotant tous les objets. La proposition « A ε A » signifie donc que A est un objet. Il en résulte que la directive définitoire imposerait, à la définition de la classe des classes ne se contenant pas elles-mêmes, la condition que A soit un objet. Corrigée selon cette directive, la définition du nom K devient donc :

(2) (∀A) (A ε K) ≡ (A ε A) ∧ (A ε A).

Il est facile de constater que cette proposition n’est nullement un paradoxe mais plutôt l’une des nombreuses définitions de l’objet contradictoire. En effet, il n’est plus possible d’en inférer le paradoxe de Russell :

(3) (K ε K) ≡ (K ε K)

La proposition (1), qui engendrait le paradoxe, est, in fine, une proposition mal formée ; elle n’est donc pas une proposition de l’Ontologie.

18Toutefois, cette résolution pose deux problèmes. D’une part, c’est la directive définitoire, et non les catégories sémantiques, qui interdit de construire la proposition paradoxale, ce qui est confirmé par Sobociński :

  • 17 B. Sobociński, « L’analyse de l’antinomie russellienne par S. Leśniewski », dans Methodos  (...)

Dans cette proposition [(∀A) (A ε K) ≡ (A ε A)], il n’y a pas de confusion des catégories, mais une violation des règles de construction régulières de la définition de type ontologique17.

19La proposition (1) est donc une proposition mal formée relativement à la directive définitoire, nullement en vertu de la théorie des catégories sémantiques. La malformation de cette proposition n’est donc pas d’ordre syntaxique mais d’ordre définitionnel, puisqu’elle dépend de la directive définitoire. D’autre part, cette solution ne dit rien à propos du paradoxe de l’imprédicativité ; elle ne fait que confirmer ce que Leśniewski avait déjà déterminé pour le paradoxe des classes. Il semble, toutefois, qu’il soit possible de dériver, mutatis mutandis, une solution pour le paradoxe des imprédicables. Cependant, si la théorie des catégories sémantiques, seule, ne peut résoudre le paradoxe Russell de la classe des classes ne se contenant pas elles-mêmes, on ne voit pas comment elle pourrait prétendre y parvenir pour le paradoxe de l’imprédicativité. Il faudrait, sans doute, faire appel tout autant aux directives définitoires, ce qui confirme notre hypothèse : la théorie des catégories sémantiques, si elles sont une pièce maîtresse dans l’organisation des systèmes leśniewskiens, ne peut réaliser la fonction que leur attribuait Leśniewski.

Catégories de signification et catégories sémantiques

20L’un des enjeux de la IV RL est de faire place à ce que Husserl appelle la morphologie pure des significations, c’est-à-dire aux lois a priori d’une grammaire pure logique. Ces lois ont pour objet de séparer sens (Sinn) et non-sens (Unsinn), couple qui ne se confond pas avec le couple proprement logique sens / contresens (Widersinn) :

Ces lois, qui régissent la sphère des complexions de significations et qui ont pour fonction de séparer en elle sens et non-sens, ne sont pas encore ce qu’on appelle des lois logiques au sens fort du mot ; elles donnent à la logique pure les formes possibles de signification, c’est-à-dire les formes a priori de signification complexes, ayant une unité de sens, dont ensuite les « lois logiques » au sens fort du mot régissent la vérité « formelle » ou « l’objectivité ». Tandis que les premières de ces lois préviennent le non-sens, ces dernières préviennent le contresens formel ou analytique. (…)

  • 18 RL iv, p. 85-86 [294-295].

Il y a, au sein de la logique pure, une sphère de lois qui font abstraction de toute objectivité, et qui, à la différence des lois logiques au sens usuel et prégnant du mot, devraient à juste titre être qualifiées de lois de grammaire pure logique. Mieux encore, nous opposerons à la morphologique pure des significations la théorie pure de la validité qui la présuppose18.

  • 19 RL iv, p. 85 [294].

21À un niveau infra-logique, Husserl a pour projet de mettre à jour les règles permettant de déterminer si un groupe de mot possède un sens ou en est dénué. C’est pour y parvenir que Husserl forge la notion de catégories de signification dans lesquelles « s’enracine une multiplicité de lois de signification »19. La catégorisation des constituants d’un énoncé est une opération qui se fonde sur la distinction signification dépendante / signification indépendante, distinction à la fois sémantique et méréologique. Cette distinction est reflétée dans la grammaire par la différence médiévale entre catégorèmes et syncatégorèmes. En investiguant en premier ce niveau purement grammatical, Husserl aspire en réalité à retrouver le domaine sémantique :

  • 20 RL iv, p. 96 [304].

La distinction grammaticale autorise cependant une autre interprétation, pourvu seulement que l’on décide de concevoir la complétude ou l’incomplétude des significations, par conséquent la différence grammaticale comme la marque d’une certaine différence essentielle dans l’ordre de la signification20.

  • 21 Y. Bar-Hillel, « Syntactical and semantical categories », dans The Encyclopedia of Philoso (...)

22La question de trancher si les catégories husserliennes ressortent du domaine de la signification (sémantique) ou de la grammaire (syntaxique) dépasse le cadre de notre propos. On peut noter, néanmoins, que Bar-Hillel soutient que Husserl, tout comme Leśniewski, adhère au principe suivant : « La bonne formation et le fait d’être doué de sens sont entièrement coextensifs »21.

23Quoi qu’il en soit, notre objectifest d’établir les différences entre les deux auteurs. On peut examiner, pour cela, la procédure qu’adopte Husserl pour déterminer la catégorie de signification d’un mot ou d’une partie du discours. Chez Husserl, c’est par l’opération de substitution que se fait la détermination des catégories de signification : « cet arbre est vert » peut devenir « cet or est vert », « ce nombre algébrique n est vert » ou encore « ce corbeau bleu est vert ». La substitution nous fait saisir la possibilité ou l’impossibilité de la connexion entre deux significations et, par après, les lois a priori concernant cette connexion pourront être tirées. Ajdukiewicz énonce un critère servant à identifier les catégories sémantiques de deux expressions dans des termes fort proches de ceux de Husserl :

  • 22 K. Ajdukiewicz, « Syntactic Connexion », p. 208. Je traduis.

Le mot ou l’expression A, pris au sens x, et le mot ou l’expression B, pris au sens y, appartiennent à la même catégorie sémantique si et seulement si il y a une proposition (ou une fonction propositionnelle) S(A), dans laquelle A se présente avec la signification x, et qui a la propriété que si S(A) est transformé en S(B) par remplacement de A par B (avec la signification y), alors S(B) est aussi une proposition (ou une fonction propositionnelle). (Il est entendu que, dans ce processus, les autres mots et la structure de S(A) restent les mêmes)22.

Or, nous avons constaté que la théorie des catégories sémantiques utilise non pas l’opération de substitution mais plutôt la notion de contexte. En réalité, appliquer la substitution serait une absurdité, car la structure développementale des systèmes leśniewskiens interdit cette opération : au temps zéro de la Protothétique, le système ne possède aucun foncteur substitut à l’équivalence puisque ce dernier est (provisoirement) l’unique foncteur du système. La substitution pouvant tantôt fonctionner, tantôt échouer, elle ne peut être donc considérée comme un mécanisme pour déterminer la catégorie sémantique d’un signe. Il y a donc une première incompatibilité entre les deux théories quant à l’opération de détermination des catégories.

24Une seconde différence intervient dans le statut « logique » de ces théories. Alors que Leśniewski a construit sa théorie des catégories sémantiques au sein de ses explications terminologiques qui appartiennent aux systèmes logiques — celles-ci pouvant être considérées comme une partie propre de la Protothétique et de l’Ontologie, Husserl souligne à maintes reprises que les lois de signification interviennent en amont de la logique et qu’il ne peut être question ni de confondre, ni de mélanger et, encore moins, de fusionner les deux genres de lois. Il y a donc une seconde incompatibilité quant à la structure même de la logique.

Conclusion

25En expliquant le mode original de la construction des systèmes logiques de Leśniewski, nous avons pu tester la théorie des catégories sémantiques sur deux points : son héritage russellien et son héritage husserlien. Réévaluer ce double héritage nous paraissait urgent dans la mesure où peu d’études y ont été consacrées, de sorte que, suivant la tradition, s’était établi insidieusement que la théorie des catégories sémantiques résolvait le paradoxe de Russell en utilisant des outils husserliens. Nous avons montré qu’il n’en était rien. Certes, les systèmes logiques de Leśniewski sont, sans aucun doute, armés pour prévenir l’inférence de la proposition paradoxale mais la théorie des catégories sémantiques ne fait pas partie du stock d’armes, sinon au titre de munition.

26À côté de cela, nous avons voulu préciser et compliquer le rapport entre la théorie leśniewskienne et la théorie husserlienne. Bien que les deux philosophes partagent l’idée de catégoriser les constituants du langage, et les mécanismes propres à la détermination des catégories et le statut même de la logique trouvent des solutions différentes chez les deux philosophes. Il est amusant de constater qu’Ajdukiewicz retrouve une intuition d’Husserl que son maître avait laissée de côté. Cette étude a tenté de faire place à toute l’originalité et à toute la difficulté des systèmes leśniewskiens et, en particulier, de la théorie des catégories sémantiques. Ni husserlienne, ni russellienne, celle-ci n’en possède pas moins un intérêt propre, aussi bien pour l’histoire des grammaires catégorielles que pour la construction d’une logique développementale.

Bibliographie

Bibliographie

K. Ajdukiewicz, « Die syntaktische Konnexität », dans Studia Logica 1 (1935), p. 1-27 ; trad angl. H. Weber, « Syntactic Connexion », dans S. mccall (éd.), Polish Logic. 1920- 1939, Oxford, Clarendon Press, 1967, p. 207-231.

Y. Bar-Hillel, « Syntactical and semantical categories », dans P. Edwards (éd.), The Encyclopedia of Philosophy, vol. 8, Londres, MacMillan, 1967, p. 57-61.

Y. Bar-Hillel, « Husserl’s conception of a purely logical grammar », dans Id., Aspect of language. Essays and lectures on philosophy of language, linguistic philosophy and methodology of linguistics, Amsterdam, North-Holland Publishing, 1970, p. 89-97.

N. Gessler, Introduction à l’œuvre de S. Leśniewski. Fascicule III : La Méréologie, Neuchâtel, Centre de Recherches Sémiologiques / Travaux de logique, 2005.

B. Godart-Wending et P. Joray, « De la théorie des catégories sémantiques de Leśniewski à l’analyse de la quantification dans la syntaxe d’jdukiewicz », Langages 148 (2002), p. 28-50.

E. Husserl, Recherches logiques II/2 : Recherches pour la phénoménologie et la théorie de la connaissance, Recherches III, IV, V, trad. fr. H. Elie, L. Kelkel, R. Schérer, Paris, P.U.F., coll. « Épiméthée », 1961.

S. Leśniewski, Sur les fondements de la mathématique. Fragments, trad. fr. G. Kalinowski, préface de D. Miéville, Paris, Hermès, 1989.

S. Leśniewski, / S. J. Surma, J. T. Srzednicki, D. I. Barnett & V. F. Rickey (éds), Collected works, 2 vol., Dordrecht-Boston, Kluwer, 1992.

E. Luschei, The Logical Systems of Leśniewski, Amsterdam, North-Holland Publishing Company, 1962.

D. Miéville, Introduction à l’œuvre de S. Leśniewski. Fascicule I : La Protothétique, Neuchâtel, Centre de Recherches Sémiologiques / Travaux de logique, 2001.

D. Miéville, Introduction à l’œuvre de S. Leśniewski. Fascicule II : L’Ontologie, Neuchâtel, Centre de Recherches Sémiologiques / Travaux de logique, 2004.

B. Sobociński, « L’analyse de l’antinomie russellienne par S. Leśniewski », dans Methodos 1 (1949), p. 94-107, 220-228, 308-316, et Methodos 2 (1950), p. 237-257.

A. Tarski, « Le concept de vérité dans les langages formalisés », dans Id., Logique, sémantique, métamathématique, 2 vol., Paris, A. Colin, 1972.

Notes

1 Je remercie chaleureusement Nadine Gessler, Bruno Leclercq et Denis Seron pour leurs commentaires et leur aide.

2 D’excellents ouvrages sont consacrés à cette tâche particulièrement ardue : on peut ainsi se reporter à E. Luschei, The Logical Systems of Leśniewski, et plus récemment à D. Miéville, Introduction à l’œuvre de S. Leśniewski. Fascicule I : La Protothétique ; Fascicule II : L’Ontologie, et N. Gessler, Introduction à l’œuvre de S. Leśniewski. Fascicule III : La Méréologie. Pour les références complètes, voir la bibliographie en fin de chapitre.

3 S. Leśniewski, « Grundzüge eines neuen Systems der Grundlagen der Mathematik », dans Fundamenta Mathematicae 14 (1929) ; trad. angl. sous le titre « Fundamentals of a new system of the foundations of mathematics », dans S. Leśniewski, S. J. Surma (éds), Collected Works, vol 2., Dordrecht-Boston, Kluwer, 1992, p. 421-422. Nous traduisons.

4 P. Joray & B. Godart-Wendling, « De la théorie des catégories sémantiques de Leśniewski à l’analyse de la quantification dans la syntaxe d’Ajdukiewicz », dans Langages 148 (2002), p. 30-31. Nous soulignons.

5 Par la suite RL.

6 S. Leśniewski, Sur les fondements de la mathématique, Fragments, trad. fr. G. Kalinowski, préface de D. Miéville, Paris, Hermès, 1989, p. 33.

7 Id. Cette citation demanderait un long commentaire, Leśniewski semblant identifier — ou confondre — mathématique et ontologie formelle. Toutefois, aucun autre texte de Leśniewski ne vient éclairer ou préciser sa conception des mathématiques. Il est, cependant, certain que Leśniewski n’avait que peu d’estime pour le courant formaliste pour lequel les mathématiques sont comme un jeu de symboles dénués de toute signification sur lequel on peut projeter une interprétation sémantique.

8 Le lecteur intéressé pourra se reporter à l’article de B. Sobociński, « L’analyse de l’antinomie russellienne par Leśniewski », dans Methodos 1 (1949), p. 94-107, 220-228, 308-316, et Methodos 2 (1950), p. 237-257.

9 N. Gessler, Introduction à l’œuvre. Fascicule III : La Méréologie, p. 53.

10 Boleslaw Sobociński, élève de Leśniewski, résume la distinction ainsi : « L’expression « classe (a) » n’est, au sens distributif, qu’un nom apparent qui remplace le terme bien connu de la logique classique « l’extension des objets a ». Si l’on prend le terme « classe » dans ce sens, la formule « A ε Kl (a) » signifie la même chose que « A est un élément de l’extension des objets a », c’est-à-dire, plus brièvement : « A est a ». Par conséquent, la formule (…) « Socrate est Kl (blanc) » signifie la même chose que « Socrate est un élément de l’extension des objets blancs », autrement dit : « Socrate est blanc ». (…) Par contre, le terme « classe collective » est un nom réel ; on ne peut l’éliminer en le ramenant à aucune autre conception de la logique. Au sens collectif, l’expression « classe (a) » indique un objet existant réellement, composé de tous les objets du domaine des objets a. En d’autres mots, (…), nous pouvons à l’aide du terme « classe » pris au sens collectif obtenir un objet composé uniquement des objets appartenant au domaine indiqué, des objets a » (B. Sobociński, « L’analyse de l’antinomie russellienne par Leśniewski », Methodos, 1, 1949, p. 240-242).

11 A. Tarski, « Le concept de vérité dans les langages formalisés », dans Id., Logique, sémantique, métamathématique, vol. 1, Paris, A. Colin, 1972, p. 219.

12 E. Luschei, The logical systems of Leśniewski, Amsterdam, North-Holland Publishing Company, 1962, p. 118.

13 Donnons un exemple du caractère développemental de la Protothétique. Au temps zéro de son développement, celle-ci ne contient que ses trois axiomes. Ces axiomes sont tous composés uniquement de propositions et n’ont pour foncteur que celui de l’équivalence. Il y a donc deux catégories sémantiques inscrites dans le système au départ : S, celle des propositions et (S/SS), celle de l’équivalence. Tarski a démontré qu’il est possible de définir, à partir de l’équivalence, la négation et la conjonction, et partant, l’implication et la disjonction. Ainsi, des nouvelles propositions sont inscrites dans la Protothétique et celles-ci peuvent introduire de nouvelles catégories sémantiques. Ainsi, la négation a pour catégorie sémantique (S/S). Par la suite, la Protothétique peut s’enrichir en inscrivant de nouvelles propositions et de nouvelles catégories sémantiques.

14 On pourrait concevoir les foncteurs logiques comme une machine qu’on nourrit avec X, Y, Z, … qui produisent T (X, Y, Z, T ne sont pas forcément différents). Dans son article « Die syntaktische Konnexität », Kasimir Ajdukiewicz mit au point une écriture fractionnaire pour symboliser les catégories sémantiques de Leśniewski. La catégorie des propositions se note par S, celle des noms par N et celle des foncteurs logique par une fraction de la façon suivante : le numérateur indique la catégorie sémantique obtenue grâce à ce foncteur et le dénominateur les catégories sémantiques des éléments du foncteurs. Ainsi, la catégorie sémantique de l’implication se note : S/SS puisqu’il s’agit d’un foncteur formateur de proposition à partir de deux propositions.

15 Nous reprenons ce terme à Pierre Joray et Béatrice Godart-Wendling.

16 P. Joray & B. Godart-Wendling, « De la théorie des catégories sémantiques de Leśniewski à l’analyse de la quantification dans la syntaxe d’Ajdukiewicz », p. 33.

17 B. Sobociński, « L’analyse de l’antinomie russellienne par S. Leśniewski », dans Methodos 2 (1950), p. 248.

18 RL iv, p. 85-86 [294-295].

19 RL iv, p. 85 [294].

20 RL iv, p. 96 [304].

21 Y. Bar-Hillel, « Syntactical and semantical categories », dans The Encyclopedia of Philosophy, vol. 8, p. 58. Se reporter aussi à Id., « Husserl’s conception of a purely logical grammar », dans Id., Aspect of language, Amsterdam, North-Holland Publishing, 1970, p. 89-97.

22 K. Ajdukiewicz, « Syntactic Connexion », p. 208. Je traduis.

Auteur

Aspirant du F.N.R.S. Université de Liège

© Presses universitaires de Liège, 2011

Conditions d’utilisation : http://www.openedition.org/6540

Rechercher dans OpenEdition Search

Vous allez être redirigé vers OpenEdition Search