Desktop versionMobile version

Varia autour de Justice digitale

 | 
Samuel Benisty

Justice digitale

Révolution graphique et ruine institutionnelle ?

Samuel Benisty

Author's note

Mes vifs remerciements vont à M. Laurent Benisty pour ses lumières en informatique et à Karen sans laquelle ces varia n’auraient jamais pu aboutir.

Full text

  • 1 A. Garapon et J. Lassègue, Justice digitale, Paris, PUF, 2018, p. 351. L’ouvrage sera cité sous l (...)
  • 2 Ibid.
  • 3 À propos des jugements analysés par les logiciels de justice prédictive, v. JD, p. 221 et s.

1Justice digitale se donne pour objet d’étudier l’impact que pourrait avoir le règne du numérique tant sur le droit comme corpus normatif que sur le fonctionnement des institutions juridiques. La démarche au cœur de l’ouvrage consiste non pas à appréhender ce phénomène à la lumière de ses intérêts pratiques – ce qui aurait mené à dresser un « bilan d’utilité de ces nouveaux outils »1 –, mais à en mesurer la « résonance anthropologique »2. À cet égard, Justice digitale constitue un contrepoint qui détonne par l’originalité de son approche et par sa dimension pluridisciplinaire. Les propos, souvent élégants, parfois difficiles, sont placés au service du développement de nombreuses thèses embrassant pléthore de sciences humaines. Le résultat peut se lire comme une mise à l’épreuve du numérique de l’ensemble des institutions juridiques doublée d’une mise en garde : les auteurs incitent à maîtriser le numérique afin de sauver l’État et de sanctuariser l’humanité de la justice rendue. En toile de fond, l’ouvrage s’attache également à analyser la révolution numérique comme une révolution graphique. Il insiste sur l’irréductible spécificité de l’écriture numérique, laquelle, en dépit de ses performances exceptionnelles, est présentée comme un outil dont l’emploi mène à un appauvrissement du sens des matériaux traités3 ; l’écriture numérique œuvrerait plus globalement à dépouiller le fait social de sa dimension symbolique, dont elle serait incapable de rendre compte.

On rappellera d’abord comment Justice digitale envisage la confrontation des institutions juridiques traditionnelles et du numérique (I). Cette démarche, synthétique et largement acritique, précédera l’expression de réserves quant à l’hypothèse d’une révolution graphique (II).

I. Les institutions juridiques à l’épreuve du numérique

  • 4 En ce sens, v. M. Tegmark, Life 3.0. Being Human in the Age of Artificial Intelligence, New York, (...)

2Le juge. L’activité judiciaire est parfois vue comme une computation traitable informatiquement, les données d’entrée étant constituées par des informations relatives aux preuves et aux lois, le résultat en sortie étant la décision juridictionnelle4. Dans cette perspective, qui est majoritairement celle des informaticiens, il est assez commun d’opposer la perfection de la machine dans l’exécution du syllogisme juridictionnel aux carences et lacunes qui affectent inexorablement la justice humaine.

  • 5 JD, p. 199.
  • 6 Une étude de 2012 a démontré que des juges israéliens rendaient des décisions bien plus sévères q (...)
  • 7 Décisions gauchies par la couleur de peau des parties, leur religion, leur orientation sexuelle, (...)

À rebours de cette approche, les auteurs plaident qu’il est essentiel de ne pas remplacer l’opérateur de justice par un « mécanisme technique neutre du point de vue moral »5. Le robot-juge, algorithme capable de mobiliser le droit applicable à une affaire et de l’appliquer à un contexte donné, est ainsi un horizon qui doit être regardé avec défaveur et crainte. Le propos vient nuancer les conjectures exaltées des partisans d’une justice numérique que l’on promet rapide, peu onéreuse, ouverte à tous et expurgée des biais accidentels6 et intentionnels7 qui sont le propre de la justice humaine. Mais les décisions totalement dépourvues de biais humains sont-elles les plus justes ? L’ouvrage réfute cette analyse et place ainsi au cœur de l’acte de justice sa dimension humaine, refusant de laisser le piège du syllogisme judiciaire, froid et mécanique, se refermer sur le juge.

  • 8 Sur cette question, v. Droit et philosophie, vol. 9, no 1, 2017.
  • 9 JD, p. 159.
  • 10 JD, p. 160-161.

C’est dans le cadre de cet hymne à la justice humaine que Justice digitale se livre à une ode à la faillibilité du juge dans la mise en œuvre du droit, opposée à la perfection de la machine dans l’exécution du syllogisme juridictionnel. Cette valorisation est assez peu courante chez les juristes positivistes : alors que la sécurité juridique et la prévisibilité du droit sont des priorités largement partagées, les auteurs entendent souligner ce que peut avoir de salutaire l’indétermination du droit8. Au-delà de la possible immixtion de l’équité venant enrayer à la marge l’application mécanique de la règle, les auteurs plaident pour une très large « respiration »9 de la règle entendue comme une dérogation à son jeu normal : « La valeur d’une règle dépend […] de la capacité de la suspendre, d’y déroger pour des motifs supérieurs d’intérêt général ou de respect des droits fondamentaux. Un droit entièrement déterminant devient inhumain et antipolitique. »10

  • 11 JD, p. 237.

Si l’on suit les auteurs dans la nécessité de confier l’acte de justice aux hommes en dépit de leur imparfaite rationalité, leur liberté interprétative paraît excessivement magnifiée par Antoine Garapon et Jean Lassègue : dans notre tradition continentale, le juge reste essentiellement un organe d’application de la règle générale ; lui permettre d’y déroger au nom de droits fondamentaux toujours plus nombreux et flous ou d’un intérêt général à géométrie variable est sans doute porteur du risque de voir le pouvoir politique soumis aux caprices de quelques-uns. Cela étant, l’expérience montre que la vie du droit est celle d’une matière malléable : Cassirer enseignait d’ailleurs que « la force propre au droit réside dans sa capacité à faire évoluer ses règles jusqu’à en retourner le sens par rapport à leur contenu originel sans affecter sa force prescriptive »11. Et de fait, chacun sait que le juriste se plaît à revisiter les concepts à l’aune de ses nouvelles préoccupations. À cet égard, on ne veut pas imaginer ce que serait un droit se développant mécaniquement, froidement, sans delta dans ses interprétations ni affect dans la jurisdictio. Il y aurait assurément là le germe d’un totalitarisme. L’originalité de Justice digitale est de démontrer que le remède numérique de l’imperfection de la justice humaine pourrait être bien plus funeste que le mal qu’il entend traiter.

  • 12 Sur ce thème, v. la contribution dans cet ouvrage de Basile Darmois.
  • 13 Sur les différentes possibilités envisageables, v. M. Tegmark, op. cit., p. 121 : « We aren’t fac (...)
  • 14 Y. Meneceur, « DataJust face aux défis de l’intelligence artificielle », JCP G, 2020, 1087. Du mê (...)

Ces analyses invitent à réfléchir aux formes que pourrait prendre, dans le futur, la coopération du juge et de la machine, car l’avenir se fera nécessairement avec les outils de la justice digitale puisqu’ils s’adossent au marché, dont on sait la difficulté à contester l’expansion. Veut-on un système où le juge aurait pour ressources des intelligences artificielles (IA) d’aide à la décision12 ? Peut-on aller plus loin et confier la première instance à une IA et l’appel à un juge humain13 ? La doctrine la plus hostile à cette intervention de la machine dans l’œuvre de justice s’oppose à toute forme de coopération, notamment parce que l’homme serait tôt ou tard condamné à « perdre la main ». Serait ici à l’œuvre un biais d’automatisation, l’expression désignant « la propension humaine à privilégier les suggestions automatiques des systèmes de prise de décision et [à] ignorer les informations contradictoires […] même si elles sont correctes »14.

3L’importance du procès dans sa forme classique, celle d’une mise en scène, est également rappelée. Justice digitale montre avec force comment le procès est un vecteur d’apaisement des conflits :

  • 15 JD, p. 170.

« Avant l’arrivée des nouvelles technologies, le procès reposait sur la règle des trois unités du théâtre classique : unité de temps, de lieu et d’action. Il donnait rendez-vous à toutes les parties – avocats, juge, experts, témoins et public – dans une même salle en vue de trancher une affaire et de lui apporter un épilogue. D’où la concentration de toutes les parties pour réunir tous les arguments, mobiliser toutes les ressources utiles […] pour sortir victorieux de cette épreuve indissociablement juridique, psychologique, financière et sociale, qui caractérise un fait social total. L’effet social de catharsis, c’est-à‑dire d’apaisement, dépend de ce précipité. »15

  • 16 JD, p. 180.

L’idée développée fait indiscutablement mouche tant il est clair que l’expression des passions, des colères et des arguments dans le cadre idoine qu’est le procès doit bien permettre de désarmer le conflit et peut-être même de le purger. L’effet de cantonnement de la violence par le procès vient de ce que « la résolution de conflits ne passe plus par la violence réciproque mais seulement par la parole et l’argumentation […] ; il y a un avant et un après. Cette alchimie rituelle opère une transformation sur toutes les parties en présence »16.

  • 17 Ibid.
  • 18 JD, p. 190.

Les techniques numériques modernes, telles que l’exploitation de l’image à titre de preuve absolue ne tolérant pas la discussion, la visioconférence dénaturant le rituel de l’audience, appauvrissent radicalement l’expérience de justice. Le numérique est alors accusé de faire voler en éclats le fragile équilibre classique en « désintriquant rituel, procédure, argumentation juridique et pacification sociale »17. Or, comme les auteurs y insistent, l’efficacité symbolique du procès a partie liée avec son expression rituelle qui « vise à ramener l’inquiétant à du connu, l’étranger à du familier, l’horreur à un ordre sublimé. Le rituel […] manifeste qu’il est possible de maîtriser collectivement la violence »18.

  • 19 V.-L. Benabou et E. Jeuland, « L’audience en visio-conférence : une exception au principe de prés (...)
  • 20 CE, ord., 27 novembre 2020, nos 446712, 446724, 446728, 446736, 446816.
  • 21 V.-L. Benabou et E. Jeuland, Art. cit.
  • 22 Ibid.

Or, le fait est que l’on constate une « virtualisation accrue de la justice sous les effets conjugués de la paupérisation de la justice, du développement technique »19 et, depuis mars 2020, de la pandémie de Covid-19 (difficulté d’extraction des détenus, protection de la santé des acteurs du procès…). Témoigne de cette évolution l’ordonnance no 2020-1401 du 18 novembre 2020 qui a autorisé, indépendamment de l’accord des parties au procès, la tenue de l’audience par visioconférence devant toutes les juridictions pénales, allant ainsi bien au-delà de ce que prévoit l’article 706-71 du Code de procédure pénale. Saisi d’un référé-liberté relatif à l’ordonnance citée, le Conseil d’État a jugé que la dérogation au principe de la présence physique dans le procès criminel constitue une atteinte manifestement illégale aux droits de la défense et au droit à un procès équitable. Pour fonder sa décision, le juge administratif énonce que le procès criminel a cela de particulier que « le rôle dévolu à l’intime conviction des magistrats et des jurés confère une place spécifique à l’oralité des débats »20. Comme on l’a parfaitement synthétisé, « être présent à l’autre dans un même espace, en particulier celui de la salle d’audience, sans médiation technique, est donc une liberté fondamentale »21. Ainsi, dans le cadre du procès criminel, le principe de la présence marque « un coup d’arrêt à la présomption d’équivalence fonctionnelle »22 entre la visioconférence et la présence physique.

  • 23 E. Jeuland, La justice des émotions, Paris, IRJS éditions, 2020. L’auteur insiste sur l’idée qu’i (...)
  • 24 V.-L. Benabou et E. Jeuland, Art. cit.

L’analyse retenue par le Conseil d’État fait écho à celle menée par Justice digitale, quoique l’ouvrage soit plus radical dans l’expression des dangers de la disparition du rituel judiciaire. En un sens, la thèse d’Antoine Garapon et Jean Lassègue paraît également rejoindre les recherches d’Emmanuel Jeuland, qui insistent sur le fait que le procès doit permettre d’accueillir les émotions de l’ensemble de ses intervenants23 (repentance, pardon, compassion…) afin que l’œuvre de justice puisse se faire24. Or ces émotions, véhiculées par les corps, sont mécaniquement écartées par le recours à la visioconférence.

  • 25 JD, p. 84.
  • 26 JD, p. 269.

4Ailleurs, c’est la dimension politique de la justice digitale qui est analysée. Les auteurs relèvent que la technologie numérique s’est développée en même temps que la mondialisation économique. Ils constatent que ces pouvoirs – technique et économique – « conjurent contre l’État »25. C’est que « l’économie et le numérique se pensent elles-mêmes comme deux formes de mise en ordre de la coexistence humaine pouvant se passer de fondation politique »26. Les institutions publiques, d’une part, et la loi entendue comme règle générale collectivement établie, d’autre part, sont plus précisément les cibles de l’alliance du pouvoir numérique et du marché.

  • 27 JD, p. 152.
  • 28 Ibid.

Est ainsi observée une concurrence radicale faite aux institutions publiques qui se manifeste de façon topique dans le développement de la blockchain. Les auteurs rappellent que cette technique défie « la capacité régalienne des États de battre monnaie » tout en proposant une autre option à la mission « de conférer une identité (état civil), de certifier la propriété (cadastre) [et de] garantir les diplômes »27. S’y ajoute la mise en péril de « toutes les professions de tiers de confiance, publiques (notaires, officiers d’état civil, avocats) ou privées (banques) »28. Si elle se vérifiait, cette disparition des institutions dépositaires du pouvoir politique au bénéfice de la technique numérique serait catastrophique : elle éliminerait la dimension verticale de l’autorité exerçant son imperium depuis une position en surplomb. La relation de pouvoir ne passerait plus par un tiers politique mais par une technique :

  • 29 JD, p. 271.

« Ainsi s’opère[rait] un contrôle des individus, non plus par l’extérieur mais de l’intérieur, non plus verticalement mais horizontalement, non plus par des injonctions mais des interactions, non plus dans une mise en scène mais dans une mise en réseau […] au risque d’oublier que la médiation des formes est la condition même de la liberté. »29

  • 30 JD, p. 251.
  • 31 Ibid.
  • 32 Ibid.

La destruction des formes politiques classiques se manifeste également par ce que les auteurs nomment la disparition de la loi. Ils désignent par là le fait que la généralité de la loi tend à faire place à des prescriptions personnalisées, individualisées que les auteurs illustrent par la décision d’opérer (ou non) tel patient à risque qui est prise, après calcul de risques, par l’assureur du chirurgien et non le chirurgien lui-même. L’émergence de ces injonctions personnelles émanées d’opérateurs privés témoigne pour les auteurs d’une « re-féodalisation moderne »30, à la différence que la relation hiérarchique « n’est plus entre un sujet et un pouvoir nommé et représenté, mais entre un sujet et [un opérateur privé] »31. Justice digitale entend montrer ainsi que « la fin de la triangulation par l’État mais aussi par la loi générale se paie d’un corps-à-corps très inégalitaire »32.

  • 33 JD, p. 99.
  • 34 JD, p. 96.
  • 35 JD, p. 98.
  • 36 On retrouve ici des idées inspirées de la pensée d’Ernst Cassirer dont les auteurs se réclament à (...)

Pareilles analyses sonnent comme autant d’exhortations à un sursaut de l’État dans son entreprise de régulation de l’activité numérique qui, au surplus, fait vaciller l’ensemble des professions juridiques. Les legaltech – ces start-up spécialisées dans les services juridiques œuvrant souvent au moyen d’intelligences artificielles – connaissent en effet un essor que Justice digitale retrace avec brio. Les auteurs observent en effet que l’intégralité du cycle judiciaire (depuis l’information juridique, la phase amiable, l’assistance judiciaire jusqu’à l’exécution des décisions juridictionnelles) est désormais l’objet de prestations pourvues via la technologie numérique. Sous cette pression du numérique, les professions juridiques traditionnelles, dont l’identité s’ancre dans une déontologie forte et pluriséculaire, s’ouvrent à des prestataires de services de tous horizons. C’est dire que l’on observe le développement d’un « modèle entrepreneurial de la prestation juridique »33 où « le “serviciel” tend à se substituer à l’institutionnel »34. Cette évolution pourrait bien faire rapidement litière des garde-fous éthiques qui entourent les professions traditionnelles. Par ailleurs – et c’est un point essentiel pour les auteurs –, les legaltech dépouillent les relations juridiques de leur portée symbolique : tel est l’aspect délétère du numérique qui « disqualifie l’effet de robe, […] destitue l’avocat à la Daumier, le notaire de Balzac et le juge des Plaideurs »35. Or, la destruction de symboles collectivement construits et vécus témoigne d’un appauvrissement tant du lien aux autres (on fait de moins en moins société) que de l’esprit humain, qui ne peut se bâtir que grâce aux symboles et autres productions culturelles objectives36.

Justice digitale dresse ainsi un panorama impressionnant et glaçant de l’impact du numérique sur le monde du droit dans toutes ses dimensions. On peut regretter que le livre ne se penche pas sur les efforts du législateur pour encadrer le phénomène : le droit du numérique est une discipline certes récente mais déjà riche de nombreux textes européens et nationaux. Cependant, il est vrai que l’analyse du droit positif jure avec l’esprit de l’ouvrage, davantage porté sur le métajuridique que sur la dimension positive de la règle de droit. Une démarche positiviste aurait sans doute corrompu cet esprit.

II. L’hypothèse d’une révolution graphique

  • 37 JD, p. 14.
  • 38 Sur laquelle v. JD, p. 219 et s.
  • 39 Sur ce thème, v. supra, nos 2-4.

5Un axe fort de Justice digitale consiste à analyser le développement du numérique comme une révolution graphique. Les auteurs défendent l’idée que c’est dans les spécificités de l’écriture numérique, dans l’originalité de cette technique, que se loge « le secret de sa prétention normative »37, prétention que l’on peut notamment observer positivement dans le développement de la justice prédictive38 et négativement dans l’impact destructeur des institutions juridiques traditionnelles par le numérique39. Ce faisant, l’ouvrage présente la spécificité de l’écriture numérique comme la clé d’analyse critique de la révolution numérique. Le trait saillant de la démonstration est le suivant : l’écriture numérique produirait une signification appauvrie au regard de celle générée par l’écriture traditionnelle (A). La mise en parallèle de ces deux types d’écriture surprend car l’écriture numérique n’a pas grande parenté avec l’écriture traditionnelle, tant dans son utilisation que dans ses fonctions. Par ailleurs, l’analyse de l’écriture numérique portée par Justice digitale ne paraît pas intégrer les progrès récents de l’intelligence artificielle (IA), qui décuplent les potentialités de cette technique (B).

A. La signification appauvrie de l’écriture numérique

  • 40 Il ne fait pas de doute que toute pensée procède de l’emploi intérieur d’un langage.
  • 41 D. Vernant, Introduction à la philosophie contemporaine du langage, du langage à l’action, Paris, (...)
  • 42 J. L. Austin, How to Do Things with Words : The William James Lectures Delivered at Harvard Unive (...)
  • 43 J. R. Searle, Les actes de langage : essai de philosophie linguistique, traduit par H. Pauchard, (...)
  • 44 D. Vernant, op. cit., p. 93.
  • 45 La démarche sémantique repose sur le principe selon lequel le langage présente une signification (...)

6L’écriture classique. Justice digitale entend analyser la signification de l’écriture numérique à l’aune de celle de l’écriture au sens classique du terme. Rappelons d’emblée l’essence de cette dernière. L’écriture telle qu’on la définit classiquement désigne tout système ayant pour fonction d’opérer la représentation graphique d’une production linguistique, qu’il s’agisse d’une pensée40 ou d’un discours. Selon que les symboles graphiques représentent des mots, des syllabes ou des phonèmes, l’écriture sera dite « logographique », « syllabique » ou « alphabétique ». L’usage de l’écriture traditionnelle mène à la production d’un énoncé (le signifiant) auquel est associée une signification (le signifié). Or, selon les enseignements de la philosophie moderne du langage41, spécialement la pragmatique portée par des philosophes tels qu’Austin42 et Searle43, une révolution épistémologique s’est opérée au terme de laquelle l’énoncé signifiant doit être considéré comme un acte. Dire, c’est effectivement faire un acte, si l’on peut reprendre l’aphorisme d’Austin. Dans cette perspective moderne, l’emploi du langage s’analyse comme la mise en œuvre d’une technique dont le résultat est qualifié d’acte de langage. La pragmatique a par ailleurs notablement enrichi l’analyse de la signification de l’acte de langage. Cette science entend rendre « compte de l’usage effectif de la langue par un locuteur en un discours qu’il prononce à l’intention d’un interlocuteur pour, en une situation donnée, résoudre ensemble une difficulté, un problème »44. Elle démontre que le sens du message communiqué ne jaillit pas de la seule analyse technique intrinsèque de l’énoncé par son destinataire : il faut prendre en considération le contexte, les circonstances d’énonciation pour comprendre le sens que l’on a voulu communiquer. Il existe donc une distance entre la signification de l’énoncé pris en lui-même, i.e. ce que disent les mots (sens sémantique)45, et la signification de l’énoncé replacé dans son contexte d’énonciation (sens pragmatique). Prenons pour exemple l’énoncé « Le chat est sur le paillasson » :

  • 46 O. Cayla, vo « Austin J. L. », in O. Cayla et J.-L. Halpérin (dir.), Dictionnaire des grandes œuv (...)

« Du point de vue pragmatique et réaliste qu’Austin nous incite à considérer avec sérieux et attention, dire à un interlocuteur que le chat est sur le paillasson peut avoir par exemple pour fonction […] de le consoler (car il se plaignait d’avoir perdu son chat), de le renseigner (il demandait par curiosité où était le chat), de lui adresser un reproche (étant sur le paillasson parce que laissé sans surveillance…). C’est pourquoi l’acte qui présente l’aspect d’une benoîte description »46

  • 47 Ibid. Cette différenciation entre sens sémantique et sens pragmatique fait écho à la distinction (...)

est en fait porteur d’un sens qui le dépasse largement. Dans tout énoncé, écrit ou oral, on a toujours intérêt, selon cette théorie, à dépasser la stricte valeur sémantique de la proposition (la « benoîte description ») pour dénicher son sens pragmatique (communication d’un reproche, d’une information ou d’un apaisement)47. La signification d’un énoncé mobilisant une écriture traditionnelle dépend donc fondamentalement de son contexte d’énonciation. En un mot, tout ce qui entoure la production du signifiant doit aider à en déterminer la signification.

  • 48 JD, p. 27.
  • 49 Il faut ici prendre le mot énoncé dans son sens le plus objectif d’une suite de nombres sans rech (...)
  • 50 JD, p. 36.
  • 51 Au-delà de l’atteinte déjà évoquée à certaines formes symboliques au sens de Cassirer. Sur cette (...)

Or, c’est précisément cette dimension qui, selon les auteurs, fait défaut dans l’écriture numérique. Celle-ci serait marquée par son « caractère conceptuel fondé sur une séparation stricte entre le support matériel et [sa] signification »48. Si l’on comprend bien, un énoncé numérique49 se voit associer une signification qui ne dépend que de la séquence de signes formels (suite de 0 et de 1) et en rien de l’acte matériel d’énonciation, qu’il s’agisse de son contexte, de son cotexte ou de son support. Aussi, le sens d’un énoncé numérique, à le comparer à un énoncé traditionnel, se trouve appauvri, asséché à raison du caractère conceptuel de l’écriture numérique. Le passage de l’emploi d’une écriture traditionnelle à une écriture numérique opère ainsi une réduction, une « amputation de la dimension sémantique des signes »50. L’ouvrage invite ensuite à mesurer la portée de cette perte de sens51.

  • 52 JD, p. 31 et s.
  • 53 Préc.

7L’écriture numérique. La démarche suivie par l’ouvrage qui consiste à partir du modèle de l’écriture traditionnelle pour dénoncer les imperfections de l’écriture numérique nous paraît ne pas rendre justice au fait qu’il s’agit de phénomènes aux antipodes l’un de l’autre. À cet égard, le terme écriture n’a pas le même sens selon l’épithète qui lui est accolée : si l’écriture traditionnelle est essentiellement un outil de représentation du discours ou de la pensée d’un locuteur, telle n’est absolument pas l’utilité de l’écriture numérique. Justice digitale en donne une définition52 qui s’articule autour de deux fonctions majeures : représenter et stocker une information objective via sa numérisation ; appliquer à cette information numérisée un traitement de sorte à obtenir un résultat. Afin d’approfondir la notion d’écriture informatique et de clarifier le traitement qu’elle permet d’opérer, on s’appuiera ici sur le remarquable ouvrage de Max Tegmark, Life 3.0. Being Human in the Age of Artificial Intelligence53.

  • 54 Sur cette notion, v. infra.
  • 55 Le 0 et le 1 sont des conventions qui représentent en réalité deux états distincts et stables du (...)
  • 56 « We can therefore think of bits as atoms of information—the smallest indivisible chunk of inform (...)
  • 57 V. cependant la contribution de Basile Darmois à cet ouvrage : l’auteur y distingue les notions d (...)
  • 58 On peut définir le logiciel comme un programme, c’est-à‑dire une liste d’instructions à exécuter (...)

La numérisation opère le codage d’une réalité externe qui devient alors une donnée. Elle s’opère grâce à un capteur qui mesure par exemple les couleurs et qui associe à chacune d’entre elles une certaine tension électrique, cette tension particulière étant le signal codé sur le hardware54 par une suite de 0 et de 1 autrement nommés bits (abréviation de binary digits). Si par exemple un ordinateur code en 8 bits, cela signifie que le codage des données s’opère par une suite de 0 et de 1 qui ne peut dépasser 8 caractères, ce qui offre un répertoire de 256 possibilités (28), chacune étant, dans notre exemple, associée à une teinte. Si l’ordinateur code en 64 bits, le répertoire des entrées possibles offrira 264 possibilités, c’est-à‑dire plus de 18 000 billiards. L’immensité du répertoire offre par exemple la possibilité de coder des couleurs d’une image avec une précision qui permet d’en capter les moindres nuances55. Le point essentiel tient ici au fait que le codage est au service de la conservation d’une information qui sera stockée sur un disque dur ou tout autre dispositif de mémoire (clé USB, serveur…) : les bits peuvent ainsi être considérés comme des atomes d’information qui ne peuvent être subdivisés et qui, si on les combine (suite de 8 bits, 64 bits…), peuvent constituer n’importe quelle information56. Le hardware peut même stocker, outre des données (data), les logiciels (également nommés « programmes », « algorithmes » ou « softwares »57) utiles à leur traitement58.

  • 59 « A computation takes information (input) and transforms it (output), implementing what mathemati (...)

Le traitement d’une donnée (ou d’une quantité importante de données dans l’hypothèse du big data) est opéré par un logiciel. Le programme applique sur cette donnée pourvue en entrée (input) une fonction afin d’obtenir un résultat (output). Par exemple, le traitement algorithmique peut être au service du calcul de la racine carrée d’un nombre donné en entrée. En application du traitement algorithmique de la donnée, il y aura eu une transformation de l’information pourvue en entrée. Il ne s’agit donc plus de se souvenir d’une information numérisée et stockée mais de la transformer en lui appliquant une fonction. On parle de computation pour désigner cette transformation d’une information donnée par application d’une fonction59.

  • 60 « Any substance that can perform arbitrary computations » (ibid., p. 76).
  • 61 Ibid., p. 75.
  • 62 « This fact that exactly the same computation can be performed on any universal computer means th (...)
  • 63 Rappr. avec le « caractère conceptuel » de l’écriture numérique tel que conçu par Justice digital (...)

On le voit, l’écriture numérique appelle la distinction fondamentale entre le hardware, c’est-à‑dire le matériel apte à stocker l’information et à la traiter, et le software, c’est-à‑dire le programme que le hardware exécute. En français, on parle de la distinction entre le matériel et le logiciel. Le matériel, pour être apte à opérer les computations, doit présenter certains caractères physiques ; on le nomme computronium60 : il peut s’agir de NAND gates61, de réseaux de neurones, etc. En conséquence, on constate une indépendance du logiciel vis-à-vis du matériel en ce sens où le logiciel peut être exécuté par n’importe quelle matière qui présente les caractères physiques du computronium. C’est cela que signifie la séparation stricte du plan matériel et du plan logiciel62,63.

8Il y a donc une différence essentielle entre l’écriture numérique – au service d’un stockage de data et propice à un traitement via l’opération de computation – et l’écriture traditionnelle – au service de la représentation d’un acte de langage. Ces techniques n’appartiennent pas à la même famille et n’ont pas la même fonction. À cet égard, appliquer à l’écriture numérique le concept de signification, forgé pour les écritures traditionnelles et enrichi par la pragmatique, est un point de départ discutable. On ne peut reprocher à l’écriture numérique le fait que son sens se détermine hors contexte et hors sol pour en conclure qu’elle ne vaut pas l’écriture traditionnelle, car l’écriture numérique n’est pas au service des mêmes fins. Sa fonction se limite au codage et au traitement de données.

  • 64 JD, passim.

Dans ces simples opérations qui constituent du codage de données, de la computation et de la production d’un résultat, il n’est a priori nulle prétention à produire du sens et encore moins à ériger une norme au même titre qu’un scripteur qui prend sa plume pour composer une missive ou édicter une règle. Que le résultat d’un traitement de données (telle projection, telle prévision…) fasse autorité, qu’il soit considéré comme une référence apte à justifier une injonction, à orienter les choix individuels (négocier plutôt qu’agir en justice) ou à déterminer une politique publique, cela pose une tout autre question : celle de la confiance placée dans les machines et les logiciels, dont l’ouvrage fait un thème transversal qu’il nomme « mythe de la délégation (des tâches humaines) aux machines »64.

B. Un regard dépréciatif sur l’intelligence artificielle

  • 65 Sur l’appréhension des programmes informatiques par JD, v. tout particulièrement la contribution (...)
  • 66 L’expression semble gagner du terrain. V., en ce sens, A. Hyde, « Droit et intelligence artificie (...)
  • 67 Ibid.

9La lecture de Justice digitale donne parfois l’impression que les auteurs sous-estiment les performances du numérique quant à l’analyse et à la production du langage humain (natural language65), et qu’ils voient dans cette faiblesse une raison puissante de l’incapacité de l’intelligence artificielle à faire œuvre de justice prévisionnelle66. Et, de fait, les applications informatiques poursuivant cette fin utilisent « des technologies plus ou moins avancées en matière d’apprentissage machine (machine learning) et de traitement du langage naturel (natural language processing) pour analyser un grand volume de décisions »67.

  • 68 JD, p. 32.
  • 69 Ibid.
  • 70 JD, p. 36.
  • 71 JD, p. 51.
  • 72 JD, p. 48.

10Le traitement informatique du langage humain (natural language). On a vu que l’écriture numérique a notamment pour fonction de coder la réalité externe sur le mode d’une « donnée », d’une mesure objective. Cependant, lorsque le phénomène à coder est un acte de langage produit par l’emploi d’une écriture traditionnelle, les auteurs relèvent que l’opération ne peut se faire qu’imparfaitement, approximativement, « en mettant de côté et la perception directe et la langue, qui sont des vecteurs de sens »68. Si l’on comprend bien, toutes les dimensions sociales qui entourent l’acte de langage et qui permettent de l’interpréter correctement et d’en déterminer la signification ne seraient pas accessibles – pas mesurables –, en sorte que la numérisation d’informations extraites d’actes de langage se ferait au prix d’une « suspension du sens », en « congédiant tout ce qui pourrait tendre vers une signification »69, en procédant à une « amputation de la dimension sémantique des signes »70 constitutifs de l’acte de langage. Autrement dit, le traitement informatique du langage naturel désymboliserait fatalement le matériau traité, dont la signification est ancrée dans le social71. Serait ainsi occulté « le pouvoir expressif de la parole »72. En un mot, il est fait grief à l’informatique d’être inadaptée à l’analyse de textes ou de discours dont elle occulte, à l’occasion du codage de données qui en sont extraites, toute une part de leur dimension expressive.

Le problème posé par l’ouvrage est finalement celui des possibilités de l’intelligence artificielle en matière de traitement du langage humain (natural language), et il semble que la réponse retenue par les auteurs minore ses performances.

  • 73 M. Tegmark, op. cit., p. 297.
  • 74 Ibid., p. 47.

11Deep reinforcement learning. Dans sa définition la plus consensuelle, l’intelligence artificielle désigne des algorithmes ayant la capacité d’atteindre des buts complexes73, à l’image de ceux que se donnent les humains, nonobstant le point de savoir si l’intelligence a conscience d’elle-même74.

  • 75 Ibid., p. 64.
  • 76 Ibid., passim.
  • 77 Pour un exposé du fonctionnement de ces réseaux de neurones, v. M. Tegmark, op. cit., p. 71.

Or, les meilleurs spécialistes relèvent que les intelligences artificielles accomplissent moins bien que l’homme les buts « sociaux », tels que la traduction ou l’interprétation de textes, alors qu’elles surpassent l’homme dans l’accomplissement de buts non sociaux (notamment les jeux intellectuels tels que les échecs, l’arithmétique…)75. Cependant, les chercheurs spécialisés en la matière76 enseignent qu’aucune raison ne s’oppose à ce qu’un jour les intelligences artificielles deviennent plus performantes que les hommes pour atteindre l’ensemble des buts complexes, y compris sociaux. Ils perçoivent dans un avenir plus ou moins proche l’émergence d’une AGI (Artificial General Intelligence) capable d’accomplir tous les buts que se donnent les humains, y compris l’apprentissage. Et c’est précisément cette faculté d’apprendre qui ouvre de larges perspectives. Il s’agit, pour l’algorithme, d’exécuter la fonction qui lui est assignée de mieux en mieux au fil de sa pratique, à mesure que son expérience grandit. Techniquement, ce deep reinforcement learning, comme il convient de le nommer, s’opère par l’action d’un réseau de neurones interconnectés au moyen de synapses, outil pensé dès le début des années 1980 par le physicien John Hopefield77. Ces réseaux sont entraînés (trained) à réaliser la fonction qui leur est assignée en étant bombardés de data et en tirant les leçons de leur pratique. Ce processus de training permet de mettre à jour l’information, de l’enrichir et, en conséquence, d’améliorer les performances du système, si bien que les réseaux de neurones peuvent apprendre à réaliser des computations extrêmement complexes par le simple fait d’être entraînés par l’exposition à un nombre considérable de données.

  • 78 V., pour l’exemple de l’apprentissage du jeu Atari Breakout, la vidéo consultable à l’adresse : h (...)
  • 79 À cet égard, les progrès de Google Traduction s’expliquent essentiellement par l’utilisation de r (...)
  • 80 Ces compétences liées à l’emploi du langage humain composent le champ disciplinaire nommé natural (...)
  • 81 Ces algorithmes basiques sont désormais nommés Good Old Fashion Artificial Intelligence (GOFAI) ( (...)
  • 82 Le deep reinforcement learning s’oppose au basic reinforcement learning, technique inspirée du be (...)

Les applications les plus impressionnantes de cette technologie touchent de nombreux domaines. La société DeepMind, spécialisée dans l’IA, a ainsi créé en 2014 une intelligence capable d’apprendre à jouer à des jeux vidéo78 au point de découvrir les stratégies optimales et de surpasser les meilleurs joueurs humains. Une année plus tard, le système AlphaGo, entraîné à partir d’une masse de données à identifier la force des positions du jeu de go, a outrageusement dominé Lee Sedol, joueur considéré comme étant un des meilleurs au monde. Des progrès que peu auraient imaginés touchent désormais des compétences sociales telles que la description du contenu d’une image, la compréhension d’un langage parlé (speech recognition) mais également la traduction79,80. Or les dernières intelligences artificielles n’ont jamais été aussi près de passer avec succès le fameux test de Turing. Le champ disciplinaire nommé natural language processing a ainsi bénéficié de la révolution deep learning en ce sens que de tels résultats n’auraient pas été envisageables si des algorithmes figés, incapables de se reconfigurer81, avaient seuls été utilisés82. Ces évolutions sont si déroutantes qu’elles amènent à se poser à nouveau la question de savoir ce qu’est un être humain, ce qui fait sa singularité. Elles pourraient changer radicalement la manière dont nous nous voyons.

  • 83 Y. Meneceur, Art. cit.

Cependant, ces éloges ne sont pas unanimes, et une forte doctrine maintient que les IA ne sont pas et ne pourront jamais être des outils fiables de justice prédictive. Il faut citer ici Yannick Meneceur, qui dénonce la « généralisation souvent abusive des capacités de l’IA sur la base de succès tout à fait réels obtenus dans des environnements fermés » : les capacités calculatoires des algorithmes d’apprentissage automatique (machine learning) n’ont aucune difficulté pour manipuler des données quantitatives non ambiguës avec des règles discrètes (au sens mathématique) et figées. Il n’est donc pas surprenant de voir ces machines exceller avec des jeux, même aux combinatoires exponentielles, comme le jeu de go. Il est en revanche bien plus spéculatif d’espérer retirer les mêmes avantages dans un environnement dont les données sont qualitatives, interprétées, sans certitude de la nature des relations entre elles. C’est pour cela que les algorithmes manipulant ces concepts relevant des sciences sociales, par exemple, se heurtent à des difficultés très basiques qui n’ont toujours pas été résolues : la société ne se laisse pas aisément « mettre en équation », selon l’expression de P. Jensen83.

  • 84 En ce sens également, v. J. Cervelle, contribution préc.

Si l’on peut avoir un regret à la lecture de Justice digitale, c’est que l’ouvrage n’ait pas appréhendé la révolution numérique en y intégrant l’analyse du deep learning84 et en rendant justice aux performances des intelligences artificielles dans le traitement du langage humain. L’ouvrage n’en reste pas moins impressionnant par son envergure et la profondeur de ses analyses.

Notes

1 A. Garapon et J. Lassègue, Justice digitale, Paris, PUF, 2018, p. 351. L’ouvrage sera cité sous la forme abrégée JD.

2 Ibid.

3 À propos des jugements analysés par les logiciels de justice prédictive, v. JD, p. 221 et s.

4 En ce sens, v. M. Tegmark, Life 3.0. Being Human in the Age of Artificial Intelligence, New York, Alfred A. Knopf, 2017, p. 119 : « The legal process can be abstractly viewed as a computation, inputting information about evidence and laws and outputting a decision. »

5 JD, p. 199.

6 Une étude de 2012 a démontré que des juges israéliens rendaient des décisions bien plus sévères quand ils avaient faim puisqu’ils rejetaient 85 % des demandes de libération conditionnelle avant le déjeuner contre seulement 35 % après le déjeuner. Sur cette étude, v. M. Tegmark, op. cit., p. 120.

7 Décisions gauchies par la couleur de peau des parties, leur religion, leur orientation sexuelle, leur fortune, les liens que l’une ou l’autre entretient avec le juge, etc.

8 Sur cette question, v. Droit et philosophie, vol. 9, no 1, 2017.

9 JD, p. 159.

10 JD, p. 160-161.

11 JD, p. 237.

12 Sur ce thème, v. la contribution dans cet ouvrage de Basile Darmois.

13 Sur les différentes possibilités envisageables, v. M. Tegmark, op. cit., p. 121 : « We aren’t facing an all-or-nothing decision regarding robojudges, but rather a decision about the extent and speed with which we want to deploy AI in our legal system. Do we want human judges to have AI-based decision support systems, just like tomorrow’s medical doctors ? Do we want to go further and have robojudge decisions that can be appealed to human judges, or do we want to go all the way and give even the final say to machines, even for death penalties ? »

14 Y. Meneceur, « DataJust face aux défis de l’intelligence artificielle », JCP G, 2020, 1087. Du même auteur, v. L’intelligence artificielle en procès, Bruxelles, Bruylant, 2020.

15 JD, p. 170.

16 JD, p. 180.

17 Ibid.

18 JD, p. 190.

19 V.-L. Benabou et E. Jeuland, « L’audience en visio-conférence : une exception au principe de présence physique », JCP G, 2021, no 2.

20 CE, ord., 27 novembre 2020, nos 446712, 446724, 446728, 446736, 446816.

21 V.-L. Benabou et E. Jeuland, Art. cit.

22 Ibid.

23 E. Jeuland, La justice des émotions, Paris, IRJS éditions, 2020. L’auteur insiste sur l’idée qu’il est possible (et même salutaire) d’intégrer les émotions du juge dans le raisonnement judiciaire, récusant ainsi l’approche exclusivement rationnelle du droit et de la justice.

24 V.-L. Benabou et E. Jeuland, Art. cit.

25 JD, p. 84.

26 JD, p. 269.

27 JD, p. 152.

28 Ibid.

29 JD, p. 271.

30 JD, p. 251.

31 Ibid.

32 Ibid.

33 JD, p. 99.

34 JD, p. 96.

35 JD, p. 98.

36 On retrouve ici des idées inspirées de la pensée d’Ernst Cassirer dont les auteurs se réclament à maintes reprises. Sur cet auteur, v. J. Lassègue, Cassirer : du transcendantal au sémiotique, Paris, Vrin, 2016.

37 JD, p. 14.

38 Sur laquelle v. JD, p. 219 et s.

39 Sur ce thème, v. supra, nos 2-4.

40 Il ne fait pas de doute que toute pensée procède de l’emploi intérieur d’un langage.

41 D. Vernant, Introduction à la philosophie contemporaine du langage, du langage à l’action, Paris, Armand Colin, coll. « U Philosophie », 2010.

42 J. L. Austin, How to Do Things with Words : The William James Lectures Delivered at Harvard University in 1955, Oxford, Clarendon Press, 1965.

43 J. R. Searle, Les actes de langage : essai de philosophie linguistique, traduit par H. Pauchard, Paris, Hermann, 1972.

44 D. Vernant, op. cit., p. 93.

45 La démarche sémantique repose sur le principe selon lequel le langage présente une signification objective ; elle étudie le sens de l’énoncé pris hors contexte. Elle est à rapprocher de l’approche représentationnelle du langage (opposée à l’approche actionniste).

46 O. Cayla, vo « Austin J. L. », in O. Cayla et J.-L. Halpérin (dir.), Dictionnaire des grandes œuvres juridiques, Paris, Dalloz, 2010, p. 18.

47 Ibid. Cette différenciation entre sens sémantique et sens pragmatique fait écho à la distinction qu’Austin (How to Do Things with Words, op. cit.) opère entre la dimension locutoire et illocutoire de ses fameux speech acts. Il propose d’appeler « force illocutoire » le niveau pragmatique de la force expressive d’un énoncé. La pragmatique fait apparaître deux niveaux de signification : « est en jeu non l’énoncé et sa signification sémantique » (D. Vernant, op. cit., p. 138) mais bien « le sens communiqué [qui] dépend du cotexte, du contexte partagé, des circonstances d’énonciation » (ibid.).

48 JD, p. 27.

49 Il faut ici prendre le mot énoncé dans son sens le plus objectif d’une suite de nombres sans rechercher l’auteur de cet énoncé qui n’existe pas : l’écriture numérique produit donc des énoncés sans énonciateur.

50 JD, p. 36.

51 Au-delà de l’atteinte déjà évoquée à certaines formes symboliques au sens de Cassirer. Sur cette atteinte, v. supra, no 4.

52 JD, p. 31 et s.

53 Préc.

54 Sur cette notion, v. infra.

55 Le 0 et le 1 sont des conventions qui représentent en réalité deux états distincts et stables du hardware. Ils n’ont pas d’existence véritable. Sur ce sujet, v. M. Tegmark, op. cit., p. 66 et s.

56 « We can therefore think of bits as atoms of information—the smallest indivisible chunk of information that can’t be further subdivided, which can combine to make up any information » (M. Tegmark, op. cit., p. 67).

57 V. cependant la contribution de Basile Darmois à cet ouvrage : l’auteur y distingue les notions d’algorithme, de programme et de logiciel.

58 On peut définir le logiciel comme un programme, c’est-à‑dire une liste d’instructions à exécuter sur des données.

59 « A computation takes information (input) and transforms it (output), implementing what mathematicians call a function » (M. Tegmark, op. cit., p. 72).

60 « Any substance that can perform arbitrary computations » (ibid., p. 76).

61 Ibid., p. 75.

62 « This fact that exactly the same computation can be performed on any universal computer means that computation is substrate-independent » (ibid., p. 78).

63 Rappr. avec le « caractère conceptuel » de l’écriture numérique tel que conçu par Justice digitale (p. 27) qui semble faire écho à cette séparation matériel / logiciel.

64 JD, passim.

65 Sur l’appréhension des programmes informatiques par JD, v. tout particulièrement la contribution de Julien Cervelle à ces varia.

66 L’expression semble gagner du terrain. V., en ce sens, A. Hyde, « Droit et intelligence artificielle : quelle régulation du marché pour des outils de justice prévisionnelle dignes de confiance ? », JCP G, 2021, no 142.

67 Ibid.

68 JD, p. 32.

69 Ibid.

70 JD, p. 36.

71 JD, p. 51.

72 JD, p. 48.

73 M. Tegmark, op. cit., p. 297.

74 Ibid., p. 47.

75 Ibid., p. 64.

76 Ibid., passim.

77 Pour un exposé du fonctionnement de ces réseaux de neurones, v. M. Tegmark, op. cit., p. 71.

78 V., pour l’exemple de l’apprentissage du jeu Atari Breakout, la vidéo consultable à l’adresse : https://tinyurl.com/atariai.

79 À cet égard, les progrès de Google Traduction s’expliquent essentiellement par l’utilisation de réseaux de neurones.

80 Ces compétences liées à l’emploi du langage humain composent le champ disciplinaire nommé natural language processing.

81 Ces algorithmes basiques sont désormais nommés Good Old Fashion Artificial Intelligence (GOFAI) (M. Tegmark, op. cit., p. 102).

82 Le deep reinforcement learning s’oppose au basic reinforcement learning, technique inspirée du behaviorisme qui associe les bons comportements à l’obtention d’une récompense et les mauvais comportements à une punition. Les résultats les plus impressionnants procèdent de machines qui associent deep et basic learning.

83 Y. Meneceur, Art. cit.

84 En ce sens également, v. J. Cervelle, contribution préc.

Author

Maître de conférences en droit privé et sciences criminelles à l’université Paris-Est Créteil et membre du Laboratoire du droit privé

The text and other elements (illustrations, imported files) may be used under OpenEdition Books License, unless otherwise stated.

Search OpenEdition Search

You will be redirected to OpenEdition Search