Confiance et éthique
p. 79-94
Texte intégral
1L’IA peut-elle être éthique ? Une telle question pourrait sembler absurde – ou, en tout cas dépassée – si l’on considère le champ d’extension de l’IA dans notre vie quotidienne. La place qu’elle y occupe déjà ou qu’elle devrait très bientôt y occuper est en effet croissante, et ce à tous les niveaux, du plus intime au plus collectif, du plus prosaïque au plus officiel, de l’éducation à la justice, de la guerre à la chirurgie. En première approche, l’IA peut se définir comme un programme de recherche qui, depuis la seconde moitié du xxe siècle, vise à reproduire et imiter les mécanismes de l’intelligence naturelle et peut permettre de programmer des machines pour accomplir des tâches plus ou moins spécialisées. Les IA, robotisées ou non, s’occupent déjà de nos aînés, de nos enfants ; elles se présentent à des élections, gèrent nos finances, nos déplacements ainsi que ceux des marchandises, notre système judiciaire ou d’aide sociale. Aussi semble-t-il peut-être un peu tard pour s’interroger sur la dimension éthique de l’IA.
2Pourtant, depuis quelque temps, cette question semble être devenue de plus en plus pressante, et de nombreux groupes de travail ont été réunis sur ce sujet. Cette dynamique normative a pris place à tous les niveaux : celui des entreprises comme des institutions nationales et internationales, comme en témoignent par exemple le groupe d’experts ad hoc de l’Unesco qui a permis l’établissement d’une recommandation sur l’IA adoptée en 2021, celui de la Commission européenne ou du Conseil consultatif national d’éthique. De manière intéressante, ces instances mobilisent peu la philosophie morale et politique alors que la question d’une IA éthique peut également être envisagée sous cet angle – voire qu’elle devrait l’être.
3 L’idée que je souhaite défendre ici est qu’il n’est pas raisonnable de « faire confiance » à l’IA, ni de déléguer l’éthique à l’IA, notamment parce que l’on ne peut pas exiger qu’elle soit raisonnable. Pour le dire autrement, il me semble que la question d’une IA éthique n’est pas seulement un problème d’éthique pratique, mais également de métaéthique, au sens où le point d’achoppement réside peut-être moins dans la mise en pratique d’une éthique que dans une erreur sur la signification de l’éthique.
4Mon argumentation se développe en deux moments complémentaires. Tout d’abord, il ne me semble pas anodin que le terme clé utilisé aujourd’hui pour parler de l’éthique de l’IA soit celui de « confiance ». Mon hypothèse est que cette notion de confiance est révélatrice d’une personnification indue de l’IA, qui repose sur des mécanismes bien connus et bien analysés, comme « l’équation du média ». Dans un second moment, je propose d’interroger non plus la manière dont nous concevons l’éthique de l’IA, mais la façon dont nous envisageons couramment l’éthique dans l’IA, pour montrer que ces modalités reposent sur une appréhension erronée de ce qu’est l’éthique.
Les biais comme cause de défiance
5L’expression la plus couramment utilisée aujourd’hui pour caractériser la dimension éthique de l’IA est celle d’une éthique « digne de confiance ». La notion de confiance est devenue une focale, voire un mot-clé pour de nombreux programmes en IA, comme en témoigne, par exemple, le consortium intitulé « Trust-AI », auquel participe la France (Schoenauer & Frias, 2020). Si bien que la Commission européenne a publié en novembre 2019 un rapport intitulé Lignes directrices en matière d’éthique pour une IA digne de confiance.
6Que l’on ne fasse pas confiance à l’IA, qu’elle soit donc objet de méfiance, voire de défiance et ne soit pas acceptable socialement constitue une crainte partagée par les différent·es acteur·rices du milieu de l’IA comme par les décideur·ses politiques. C’est notamment le problème posé par les biais inhérents à l’IA, dont la connaissance s’est diffusée au sein du grand public grâce au livre de Cathy O’Neil (2016), Weapons of math destruction, qui a cristallisé cette méfiance. Il apparaît en effet incontestable que des biais dans la conception de l’IA affectent les populations minoritaires (ou considérées telles en fonction de l’identité des concepteur·rices de l’IA) de manière intersectionnelle. Par exemple, les logiciels de reconnaissance faciale sont moins fiables pour les visages noirs que blancs, pour ceux des femmes que pour ceux des hommes et pour ceux des personnes âgées que des quarantenaires. Le taux d’erreur va croissant si une personne combine plusieurs de ces catégories « défavorables ».
7De plus, ces biais touchent tous les secteurs essentiels de notre vie : de l’allocation des ressources à la santé, de la justice à l’éducation, à l’emploi ou au système judiciaire. Ils concernent également des applications qui pourraient sembler anecdotiques (et sont pourtant loin de l’être), comme les IA relationnelles ou les voitures à systèmes de reconnaissance vocale embarquée.
8Ces biais, souvent catégorisés dans le grand public comme « le problème de l’homme blanc » (Crawford, 2016), ont été qualifiés de « regard codé » (Buolamwini, 2016), en référence directe au « regard colonial » ou au « regard mâle » qui installent une vision du monde et des rapports de pouvoir en fonction d’un axe de domination. Le problème supplémentaire, posé par ce regard codé est qu’il passe par l’artefact d’une machine qui n’est pas seulement une « machine à voir »1 comme ce peut être le cas dans le regard mâle ou le regard colonial. Il s’agit aussi d’une machine à prescrire, explicite dans certains cas.
9On a longtemps prétendu que ces biais étaient dus à de « mauvaises » données, ce que les informaticien·nes ont l’habitude de désigner par l’acronyme Gigo (garbage in, garbage out) que l’on peut traduire par « ordures en entrée, ordures en sortie ». Pour le dire autrement, on considère ainsi souvent que ces mauvaises données ne sont, après tout, que le miroir de la société qui fait l’IA : ce ne serait donc pas l’IA qu’il faudrait changer, mais uniquement les données avec lesquelles on la nourrit – ce qui a d’ailleurs permis aux entreprises de dire qu’elles allaient prendre le problème à bras le corps en diversifiant leurs données, ce que certaines ont d’ailleurs fait.
10C’est incontestablement le cas, et il est certes indispensable de prêter attention aux données qui « nourrissent » l’IA. Toutefois, la situation est plus complexe pour plusieurs raisons. D’une part, ces biais ne font pas que refléter ou reproduire les inégalités mais ils les accentuent dans la mesure où ces IA constituent ainsi de nouveaux systèmes de normes. D’autre part, ainsi que je l’ai montré ailleurs (Nurock, 2019b), le problème n’est pas seulement conjoncturel mais aussi structurel car l’IA intègre en son sein, par exemple, certaines structures de pensée patriarcales qui ne peuvent se réduire aux données entrées dans le système et sont d’autant plus problématiques qu’elles sont posées comme neutres, voire comme contraintes par des éléments techniques.
Pourquoi parler de confiance ?
11C’est justement cette neutralité prêtée – à tort, on l’a vu – à l’IA, qui provoque une impression d’impartialité. S’installe ainsi une dynamique qui fait glisser l’IA du neutre technologique au neutre moral et politique, de la justesse à la justice. On passe alors également à une autre signification de l’acronyme Gigo, qui signifie non plus garbage in, garbage out, mais garbage in, gospel out, que l’on peut traduire par « ordures en entrée, vérité révélée en sortie » : les éléments produits par l’IA (ses outputs) acquièrent le statut d’une vérité révélée et ne sont pas mis en question, même si leurs présupposés sont erronés, car leur dimension technologique, « neutre », leur donne valeur de loi, que celle-ci soit entendue en son sens épistémologique ou politique.
12Pourtant, à y bien réfléchir, un tel usage du terme « confiance » pourrait sembler étonnant dans la mesure où il est rarement utilisé pour qualifier notre manière de considérer les objets techniques : je ne dis pas que j’ai confiance en mon grille-pain ou en ma cafetière, en mon appareil photo ou en ma mobylette, par exemple. On pourrait donc penser que l’utilisation du terme « confiance » est avant tout le signe d’un lapsus ou d’une extrapolation peu rigoureuse.
13Or, à y regarder de plus près, on s’aperçoit rapidement que cette notion de confiance est assez largement utilisée dans le champ des technologies émergentes, comme les nanotechnologies (Andersen & Petersen, 2013), qui font partie du groupe de technologies dites NBIC (nanotechnologies, biotechnologies, sciences de l’information et de la cognition) incluant donc l’IA. Certains évoquent même le « fossé de confiance » (trust gap) séparant le public des nanotechnologies et appellent à une nouvelle forme de contrat social (sic) entre les compagnies faisant des nanotechnologies et le public (Rejeski, 2008). Ceci n’est probablement pas anodin car les nanotechnologies sont, notamment en Europe, l’objet d’une dynamique passionnelle entre surenchère de promesse (le hype) et crainte extrême, voire haine. De plus, le développement de ces technologies a été d’emblée installé dans une dynamique politique consciente du poids des scandales sanitaires dans l’opinion publique, telles la vache folle ou l’amiante en France. On a ainsi considéré qu’il était crucial d’accompagner ce développement technologique d’un travail sur les enjeux sociaux de ces technologies. Cet accompagnement est souvent labellisé comme procédant d’une « acceptabilité sociale », notion aux contours flous mais qui désigne plus ou moins ce que les gens sont prêts à accepter (ou non) en un lieu et temps donnés, ou ce que l’on pourrait leur faire accepter. Corinne Gendron (2014) propose de la définir comme l’« assentiment de la population à un projet ou à une décision résultant du jugement collectif que ce projet ou cette décision est supérieur aux alternatives connues, incluant le statu quo », mais il me semble que cette définition laisse de côté que, souvent, la solution technologique proposée l’est comme s’il n’y avait pas d’alternative.
14Pourtant, ainsi que le souligne Trond Grønli Am (2011), utiliser la notion de confiance s’agissant des nanotechnologies est problématique pour deux raisons au moins. Premièrement, la difficulté à définir ce que sont les nanotechnologies, si bien que l’objet de la confiance apparaît comme brouillé. Deuxièmement, le fait que le concept de confiance s’articule à une dimension relationnelle, interpersonnelle, reposant sur le fait d’assumer une forme de vulnérabilité à l’égard d’autrui.
15Il me semble que ces deux arguments peuvent être repris lorsque l’on pose la question de la confiance dans l’IA. Premièrement, la définition de l’IA est, encore aujourd’hui, objet de débat. Deuxièmement, on peut s’interroger sur ses conséquences et surtout sur l’absence d’interrelation – à moins, et ce point est essentiel, de reconnaître une intentionnalité aux IA. La question de la vulnérabilité doit donc probablement également y être posée, mais d’une autre manière qu’elle l’est dans les nanotechnologies, j’y reviendrai.
16Le terme de « confiance » est ainsi non seulement mal choisi, mais encore, il sert à dissimuler l’idée d’acceptabilité sociale, qui, on l’a vu, englobe ce que les gens sont prêts à accepter d’un point de vue descriptif plutôt que normatif, et confond l’acceptabilité morale avec l’acceptation sociale, ainsi que je l’ai développé ailleurs (Nurock & Panissal, 2016).
17Par ailleurs, il me semble que resituer la question de la confiance en l’IA en regard d’une confiance dans les NBIC en général, et notamment dans les nanotechnologies, permet certes de remettre la question en perspective, mais que cela ne doit cependant pas conduire à laisser de côté ce qui fait la particularité de la question de la confiance en l’IA. L’IA est en effet spécifique en cela qu’elle est enchâssée dans nos vies à tel point que nous élaborons avec elle ce que Langdon Winner, s’inspirant de Wittgenstein, appelle des « formes de vie » : ces systèmes deviennent une part de ce que nous sommes. Nous modelons certes l’IA ; mais, ainsi qu’il a déjà été évoqué concernant le problème posé par les biais, l’IA modèle, remodèle et transforme ou renforce certains aspects de notre vie, y compris de notre vie sociale.
18L’hypothèse de Langdon Winner (1988) est que certaines innovations technologiques sont susceptibles de modifier la condition humaine. La question centrale est donc de savoir quel monde nous fabriquons avec ces objets technologiques, et plus précisément de comprendre les processus de transformation psychologiques, sociaux et politiques qui sont ainsi à l’œuvre. Winner suggère que ces formes de vie fonctionnent comme une seconde constitution, parallèle mais aussi parfois superposée, à la constitution socio-politique.
19C’est cette intrication dynamique que James Katz et Mark Aakhus (2002) appellent l’Apparatgeist. Ce terme désigne un mouvement dialectique entre l’Apparat et le Geist par lequel la société modèle l’appareil mais par lequel l’appareil, dans le même processus, modèle les sociétés et les individus. Pour le dire autrement : la machine est contraignante en termes de structure et limite donc un ensemble de possibles. La société et les individus font avec ces contraintes et parviennent parfois à opérer certains détournements. L’Apparatgeist incarne également dans et par la machine un « sens social » : l’appareil peut aller jusqu’à remplacer certains types de relations voire de processus affectifs et cognitifs. Or c’est précisément la question de notre vie sociale, morale et politique qui est implicitement posée lorsque l’on interroge la confiance en l’IA, mais elle l’est en ignorant certaines distinctions pourtant classiques en philosophie morale et politique.
20Ainsi, l’analyse proposée par la philosophe néo-zélandaise Annette Baier (1986) élabore une distinction (devenue depuis classique) entre d’un côté, la notion de confiance (trust) et de l’autre, celle de fiabilité (reliance). Selon Baier, la confiance concerne les relations interpersonnelles et repose sur l’idée que nous nous soucions (care) les un·es des autres, que nous sommes de bonne volonté plutôt que de mauvaise volonté. Nous assumons une forme de vulnérabilité en plaçant notre confiance en quelqu’un·e car nous lui faisons confiance au sujet de choses qui nous importent (care). Ce point est d’autant plus important que faire confiance, c’est risquer de voir sa confiance trahie, prendre le risque que l’autre ne se soucie plus de cette forme de relation : c’est donner à celle ou celui en qui nous avons confiance une forme de pouvoir. La confiance est une capacité à la fois émotive, cognitive et conative, qui permet de construire nos relations sociales, morales et politiques sur des bases solides. Last but not least, un climat de confiance constitue par ailleurs l’arrière-plan nécessaire au fonctionnement démocratique.
21Or, une IA ne nous trahit pas car elle ne se soucie pas de nous, elle n’est ni de bonne volonté ni de mauvaise volonté. Ce sont nos attentes qui se trouvent déçues, tout au plus. L’IA ne peut donc pas être « digne » de confiance, au sens où on ne saurait parler de la « dignité » d’une machine. Il ne faut pas plus personnifier les IA qu’il ne faut les diviniser ou, au moins, avoir foi en leur pouvoir quasi magique, digne de la révélation, du Gospel. On peut cependant suggérer, et ce point est important, que le fait que nous puissions concevoir nous inscrire dans une relation de confiance vis-à-vis de l’IA en dit long sur la manière dont nous construisons notre relation avec l’IA. Bien sûr, on pourrait conclure en proposant de remplacer « confiance » par « fiabilité », en s’appuyant sur les analyses d’Annette Baier, et clore ici la discussion. Mais il me semble qu’il faut aller plus loin et s’interroger sur ce dont cette « confiance » est ici le nom : c’est la signification de cet appel à la confiance qui pose également problème.
22Ainsi que le souligne Louis Quéré (2011) en se référant aux analyses linguistiques d’Émile Benvéniste, fides, qui a donné le terme confiance, est lié à credere, et intègre une idée de crédit. On retrouve là une conception classique en sciences sociales (notamment inspirée de Simmel), selon laquelle la confiance possède une dimension sociale et réciproque, qui s’appuie sur la conception d’un partage de valeurs. Or – comme le soulignait également Baier – en faisant confiance, j’accepte aussi de me situer dans une position de vulnérabilité vis-à-vis de la personne en qui j’ai confiance. Quéré (2011, p. 383) cite Benvéniste :
celui qui détient la fides mise en lui par un homme tient cet homme à sa merci. […] Mettre sa fides en quelqu’un procurait en retour sa garantie et son appui. Mais cela souligne l’inégalité des conditions. C’est donc une autorité qui s’exerce en même temps qu’une protection sur celui qui s’y soumet, en échange et dans la mesure de sa soumission.
23En croyant nous installer dans une relation de confiance avec l’IA, nous nous installons donc dans une situation de vulnérabilité et donnons à l’IA un crédit, voire une reconnaissance, un pouvoir, qui ne sont pas sans poser question parce qu’ils reposent également sur le présupposé d’une confiance mutuelle, ainsi que le souligne Louis Quéré. Pourtant, les IA ne nous font pas confiance, pour autant que l’on puisse en juger, et elles sont probablement incapables de le faire, ainsi que j’y reviendrai tout à l’heure.
24Ce présupposé de réciprocité et de coopération que nous transférons dans notre relation avec les ordinateurs est un phénomène bien connu, qui a notamment été analysé par Byron Reeves et Clifford Nass (1996) dans leur livre intitulé The Media Equation. Ce qui est au cœur de la question de la relation de confiance avec l’IA, c’est, en vérité, notre capacité à suspendre, à mettre entre parenthèses, le fait que nous savons que la machine n’est qu’une machine, pour la traiter comme un humain. Nous opérons une suspension de notre connaissance de l’artifice, mais le problème de fond est que cette suspension est facilitée par le fait que ces machines font comme si elles étaient des humains et proposent ce que Alexis Elder (2018) compare à de la fausse monnaie, que Lamber Royakkers et Rinie Van Est (2016) appellent un simulacre et que Sherry Turkle appelle une performance de soin, d’amitié, d’amour, etc. C’est à cause de ce simulacre que nous pouvons croire que l’IA se soucie de nous, partage avec nous certaines valeurs, et que nous pouvons croire entrer dans une relation de confiance avec elle. Cet artifice, qui se fait passer pour autre chose, tend à nous pousser à confondre l’IA avec un partenaire avec lequel nous pourrions coopérer en des termes quasi sociaux, voire moraux et politiques. Une IA a été présentée aux élections dans une ville de la banlieue de Tokyo en 20182. Or, ce n’est probablement pas un hasard si l’argumentation de ses promoteurs reposait sur l’idée que cette IA serait, par nature, impartiale.
25Cette dimension normative de l’IA, doublée d’une personnification du numérique, est telle qu’il pourrait sembler aussi difficile d’en mettre en question les commandes qu’il est difficile psychologiquement de mettre en question les ordres donnés par une personne en blouse blanche. On passe donc ainsi de la fiabilité à la confiance et de la confiance à la foi – et l’on retrouve ici le garbage in, gospel out, avec lequel commençait la deuxième partie de cette réflexion.
26On comprend donc pourquoi le passage du neutre techno-scientifique au neutre éthico-politique est si aisé, même s’il est tout sauf anodin. On comprend aussi pourquoi il importe de ne pas utiliser le terme de « confiance » pour qualifier l’éthique de l’IA, mais plutôt de parler de « fiabilité », ainsi que le suggère Annette Baier. On comprend enfin pourquoi la promotion de ce terme de « confiance » en l’IA ne saurait être qualifiée de manière plus ou moins technique. Plus encore, il est sans aucun doute problématique parce qu’il engage un certain type de relation sociale, morale et politique avec l’IA.
27Maintenant que sont, au moins pour partie, levés les impensés drainés par la notion de confiance s’agissant de l’éthique de l’IA, je voudrais analyser quelques autres angles morts inhérents à l’éthique dans l’IA et à la programmation de ce que l’on qualifie indûment d’IA « morales ». Ce champ de recherche connaît aujourd’hui un essor très important, notamment dû au développement d’IA dites « autonomes », comme les véhicules autopilotés et les drones.
28Pour ce faire, je m’appuierai sur une analyse rapide des grandes tendances de développement de ce champ de recherche – sans nulle prétention à l’exhaustivité car dresser un état de l’art dépasse les ambitions de cette entrée. Je montrerai ensuite pourquoi ces conceptions d’une éthique dans l’IA sont incohérentes avec certaines caractéristiques essentielles de l’éthique, et notamment avec la question du raisonnable.
L’éthique descendante
29On peut dégager deux grandes tendances de l’éthique dans l’IA. L’une, que l’on peut qualifier de descendante, va des principes vers la pratique de l’IA ; l’autre, que l’on peut qualifier d’ascendante, qui cherche à extraire les principes de la pratique de l’IA – ce sont alors les machines qui dégagent des codes de conduite. Il existe également un certain nombre d’approches qualifiées d’hybrides, qui combinent ensemble ces deux directions.
30L’une des principales tendances de l’éthique dans l’IA cherche à dégager des grands principes, que ceux-ci soient en lien direct avec les trois principales théories éthiques ou qu’ils indiquent des principes généraux donnant les critères sine qua non d’une IA éthique. Il suffirait alors en quelque sorte de s’assurer que ces principes sont bien respectés et appliqués pour obtenir une IA éthique. Cette éthique descendante peut prendre diverses formes dont voici trois exemples.
31La première manière de caractériser ces éthiques descendantes consiste à les rapporter à deux théories morales classiques. Lorsque la focale est placée sur les conséquences, elle procède d’une démarche dite « conséquentialiste ». Les approches qui insistent sur la question des « impacts » de l’IA sont de cet ordre. Elles sont néanmoins difficiles à mettre en œuvre dans la mesure où les conséquences de l’IA restent encore, pour la plupart, mal connues.
32Lorsque la focale est placée sur les principes ou devoirs, l’éthique s’appuie sur une approche dite « déontologique ». Par exemple, on l’a vu, l’approche globalement défendue du côté du groupe d’experts mandatés par la Commission européenne propose de dégager les principes directeurs d’une IA « digne de confiance » comme étant l’explicabilité (au sens où l’on peut et doit rendre des comptes, donc justifier), la responsabilité et la transparence. L’explicabilité est ici pensée comme liée à l’interaction (avec les systèmes), la responsabilité à l’autonomie (des systèmes) et la transparence à l’adaptabilité (des systèmes). La notion de responsabilité est ici comprise comme étant à la fois la responsabilité pour et par le système : elle est inséparable de la notion d’intention ou de projet (purpose) que l’on peut et doit y programmer (Dignum, 2019, p. 55-56). De manière intéressante, ces principes sont parfois complétés par d’autres, qui sont (alors que la référence n’est guère mentionnée) directement issus de l’éthique biomédicale – la non-malfaisance, la bienfaisance, l’autonomie et la justice. Cette approche par les principes est donc inséparable d’une conception de l’éthique comme procédant de grands principes directeurs.
L’éthique ascendante : la morale venue de l’IA
33Le second type d’approche (ascendante) s’inscrit au sein de la convergence de l’IA avec la psychologie et la linguistique cognitives. Cette approche est ancrée méthodologiquement dans une conception descriptive (et non normative) de l’éthique. Elle cherche à examiner ce que les groupes d’individus sont susceptibles de trouver éthiquement acceptable – que ce soit à partir d’expériences conduites en psychologie cognitive, comme c’est le cas de la machine morale (moral machine) que j’ai analysée ailleurs (Nurock, 2019a), ou en traitement automatique du langage à partir d’un corpus de textes divers (œuvres littéraires ou religieuses de la Renaissance à nos jours, mais aussi articles de journaux ou de textes constitutionnels), ainsi que c’est le cas de la machine du choix moral (the moral choice machine) (Schramowski, 2020).
34Le but explicite de cette approche est la réalisation de « machines éthiques », de « machines autonomes », tels des véhicules sans chauffeur ou des machines militaires comme des drones de combat, mais aussi des machines algorithmiques. La dimension proprement descriptive de cette démarche la situe du côté d’une recherche du « socialement acceptable », et se démarque, répétons-le, d’une éthique normative, qui cherche à évaluer non ce que les individus/groupes d’individus sont prêts à accepter (ou peuvent être convaincus d’accepter), mais ce qu’ils devraient ou non accepter.
35La machine du choix moral repose sur un présupposé dont la formulation peut surprendre : puisque l’IA s’imprègne des biais « négatifs », elle peut aussi s’imprégner des bais « positifs », c’est-à-dire moraux. Pour éduquer une IA à juger moralement, il suffirait en quelque sorte de lui inculquer la cartographie de la morale au sens littéral, en se basant sur la proximité lexicale des concepts ainsi que de leurs usages. Cette cartographie est basée sur des techniques classiques de traitement automatique du langage naturel (TAL) qui explore les réseaux lexicaux en attribuant une valeur vectorielle aux phrases au sein d’un espace vectorisé prédéfini. Cette technique a été utilisée pour créer un ensemble de proscriptions et de prescriptions (do’s & dont’s) qui ont servi de base d’apprentissage pour la machine, un peu comme une « boussole » morale. C’est la machine, elle-même, qui catégorise et apprend à la fois.
Est-ce bien raisonnable ?
36Si les inventeurs de la machine du choix moral sont conscients d’un certain nombre de difficultés et apportent des nuances à l’utilisation de leur machine, ou à ce qu’elle permet de faire, il n’en demeure pas moins que la démarche, en elle-même, pose question à différents égards. Pour le dire autrement, les possibilités et conditions d’application sont certes problématiques, mais je voudrais montrer que la question ne doit pas être posée ici seulement en termes d’éthique pratique, mais doit l’être aussi, voire surtout, en termes méta-éthiques.
37Bien évidemment, on peut déjà s’étonner de l’idée selon laquelle la morale pourrait être considérée comme n’étant que des « biais positifs », comme le suggèrent les concepteurs de la machine du choix moral. Mais il me semble aussi que cette vision du monde est inséparable d’une incompréhension de ce qu’est l’éthique, qui est ramenée à l’output obtenu en sortie d’une base de données. Pourtant, la possibilité de générer la morale à partir d’une base de données (que l’on procède ensuite de manière ascendante, descendante ou hybride) est, contrairement à ce qui pourrait sembler à première vue, une possibilité qui a été largement analysée par la philosophie morale et politique. Parmi ces analyses, celle proposée par John Rawls est particulièrement intéressante pour l’objet qui nous occupe.
38Le but de John Rawls (1997) est d’obtenir une conception aussi complète que possible de notre développement moral en vertu de l’idée selon laquelle la théorie de la justice n’est possible que si elle est non seulement faisable mais aussi désirable, souhaitable. Même si cela n’a été que trop rarement relevé (à l’exception notoire de John Mikhail (2011), qui a analysé et développé cette hypothèse), Rawls suggère l’hypothèse d’une morale générative, systématisable mais non mécanisable, et analyse ce qu’il appelle le « sens de la justice » à partir des sciences cognitives en s’inspirant de la grammaire universelle, proposée par Noam Chomsky, qui vise à analyser les propriétés biologiques universelles de la nature humaine. Rawls propose d’étudier notre compétence morale qui ne peut se confondre avec les règles morales explicitées consciemment, tout comme Chomsky parle de « compétence » linguistique pour désigner notre capacité à apprendre du langage – à la différence de la « performance » qui est l’emploi effectif de la langue dans telle ou telle situation concrète. Plus précisément, il s’inspire de la grammaire générative, qui est « descriptivement adéquate » : elle permet de rendre compte des faits linguistiques en formulant des principes universels, mais aussi en expliquant les mécanismes d’engendrement qui nous permettent de formuler des cas particuliers.
39On pourrait croire à première vue que cette conception n’est pas si éloignée que cela des tentatives d’automatisation de la morale basées sur des processus d’engendrement mécanique. Mais l’une des originalités de Rawls consiste à combiner cette conception avec une approche du développement moral inspirée des théories psychologiques dominantes à son époque (Nurock, 2008). Le sens de la justice se développe, suggère-t-il, selon un processus graduel d’élargissement de la confiance et de l’empathie, des parents jusqu’aux institutions. Il est inséparable, pour Rawls, de ce qu’il appelle des « attitudes naturelles », parmi lesquelles la confiance joue un rôle fondamental. Ces attitudes naturelles ne sont pas des réactions physiologiques ; nous pouvons en donner raison, notamment en mobilisant des notions morales. C’est pourquoi le sens de la justice est un mélange de raison et d’émotion, il n’est ni purement rationnel ni purement émotionnel. Pour cette raison, le sens de la justice est à la fois motivant et justifiant : il permet non seulement de distinguer le juste de l’injuste, mais surtout d’être motivé·e à agir justement. Il est donc à la jonction du rationnel et du raisonnable, tout en se tenant plutôt du côté du raisonnable. Car pour être juste, selon Rawls, il faut non pas être capable d’appliquer la justice, comme une machine ferait tourner un programme, mais plutôt la comprendre afin d’être motivé·e à agir justement. Or, c’est précisément cette motivation qui est au cœur de la prise de décision et de l’action (Nurock, 2019a).
40C’est cette notion de « raisonnable » qui permet le mieux de saisir l’un des angles morts (même si ce n’est pas le seul) des tentatives d’automatisation de la morale qui sont actuellement à l’œuvre en IA. Le raisonnable se caractérise par sa dimension non instrumentale. C’est avant tout une qualité des personnes qui cherchent à agir justement en s’attendant à ce que, dans un système de coopération équitable, les autres agissent de même. C’est pourquoi Rawls considère même que le rationnel est en un sens subordonné au raisonnable, car le raisonnable constitue le fondement du libéralisme politique et de la coopération.
41On comprend mieux pourquoi un code moral artificiel, qui procéderait d’un « dictionnaire moral » génératif, ne peut être réellement qualifié de moral. S’il n’est pas appuyé sur la conjonction du rationnel et du raisonnable, ce code ne saurait se confondre avec nos intuitions morales : pour prendre la « bonne » décision, il faut se baser sur une dynamique qui ne serait pas seulement logique, ou rationnelle, mais aussi raisonnable. Si la machine du code moral était douée d’empathie, ou si elle se souciait d’autrui (ainsi que le laisse indûment penser la notion de confiance), alors la question se poserait différemment sans doute.
En guise de conclusion
42On comprend maintenant pourquoi les deux angles morts pointés par cette analyse sont solidaires, tout comme la logique de la confiance en l’IA et l’automatisation de l’éthique se soutiennent mutuellement. La confiance, tout comme le raisonnable, ne sont pas réductibles à une forme de contrat ou à un formalisme. Ils relèvent de quelque chose de plus fondamental, qui articule ensemble cognition, émotion et volition. Toutefois, cela ne signifie pas non plus que nous devrions nous enfermer dans une alternative entre confiance et méfiance, et nous méfier de l’IA.
43On peut suggérer, de plus, que la confiance tout comme le raisonnable ne ressortissent pas seulement de la justice ou de l’équité, mais intègrent également une dimension de souci et de soin, laquelle est intégrée dans la notion anglo-saxonne de care, qui pose problème à l’IA, ainsi que le montre bien Sherry Turkle (2015, p. 124). La question « l’IA peut-elle être éthique ? » reste donc posée, notamment à la philosophie morale. Pour y répondre, il faudra probablement emprunter d’autres voies que celles de la confiance et de la délégation de l’éthique à l’IA.
Bibliographie
Références
Am, T.G. (2011). « Trust in Nanotechnology ? On Trust as Analytical Tool in Social Research on Emerging Technologies », Nanoethics, 5.
Anderson, A., Petersen A. (2013). « Nanotechnologies and trust », Discourses of Trust. Palgrave Macmillan.
Baier, A. (1986). « Trust and Antitrust », Ethics, 96.
Buolamwini, J. (2016, 16 mai). « InCoding — In The Beginning Was The Coded Gaze ». MIT MediaLab.
Crawford, K. (2016, 26 juin). « Artificial Intelligence : A White Guy Problem », New York Times.
Dignum, V. (2019). Responsible Artificial Intelligence. Springer.
Elder, A. (2018). Friendship, robots and social media. Routledge.
Gendron, C. (2014). « Penser l’acceptabilité sociale : au-delà de l’intérêt, les valeurs », Communiquer, 11.
Katz, J., Aakhus, M. (2002). Perpetual Contact. Cambridge University Press.
Mikhail, J. (2011). Elements of Moral Cognition : Rawls’ Linguistic Analogy and the Cognitive Science of Moral and Legal Judgment. Cambridge University Press.
Nurock, V. (2008). Rawls, pour une démocratie juste ? Michalon.
Nurock, V. (2019a). « Généalogie de la morale automatisée », Robots et sociétés : enjeux éthiques et politiques. Les Presses de l’Université Laval.
Nurock, V. (2019b). « L’intelligence artificielle a-t-elle un genre ? », Cités, 80 (4).
Nurock, V., Panissal, N. (2016). « Teaching a ’care’ approach to nanotechnologies », Responsibility and Emerging Technologies : Experiences, Education and Beyond. AKA GmbH.
O’Neil, C. (2018). Algorithmes, la bombe à retardement (Weapons of Math Destruction). Les Arènes.
Quéré, L. (2011). « Confiance et reconnaissance », Social Science Information, 50 (3-4).
Rawls, J. (1997). Théorie de la justice. Le Seuil.
Reeves, B., Nass, C. (1996). The Media Equation : How People Treat Computers, Televisions and New Media like Real People and places. Cambridge University Press.
Rejeski, D. (2008, 20 avril). « Nanotechnology and the Trust Gap », Nanotechnology Now. www.nanotech-now.com/columns/?article=109
Royakkers, L., Van Est, R. (2016). Just Ordinary Robots, Automation from Love to War. CRC Press.
Schoenauer, M., Frias, R. (2020, 28 août). « TRUST-AI, un projet pour une intelligence artificielle de confiance », CNRS Info.
Schramowski, P., et al. (2020). « The Moral Choice Machine », Frontiers in Artificial Intelligence, 3.
Turkle, S. (2015). Seuls ensemble. De plus en plus de technologies de moins en moins de relations humaines. L’échappée.
Winner, L. (1988). The Whale and the Reactor - A Search for Limits in an Age of High Technology. University of Chicago Press.
Notes de bas de page
1 De manière intéressante, les arguments techniques évoqués pour justifier les errances du code sont parfois utilisés en référence explicite avec ceux qui avaient été mobilisés pour justifier que les photos ne saisissent pas bien les peaux noires. La continuité de ces regards n’est clairement pas seulement métaphorique.
2 La candidature de cette IA est financée par Tetsuo Matsumoto, vice-président de SoftBank et Norio Murakami, un ancien employé de Google. On peut voir le site web de la candidate en japonais via : www.ai-mayor.com.
Auteur
Professeure de philosophie à l’université Côte d’Azur, directrice adjointe du Centre de recherches en histoire des idées et titulaire de la chaire Unesco EVA d’Éthique du vivant et de l’artificiel. Son travail se situe à l’interface des questions éthiques, politiques et scientifiques, avec un intérêt particulier pour les questions de genre et d’éducation.
Le texte seul est utilisable sous licence Licence OpenEdition Books. Les autres éléments (illustrations, fichiers annexes importés) sont « Tous droits réservés », sauf mention contraire.
Le Sujet Digital
Claire Larsonneur, Arnauld Regnauld, Pierre Cassou-Noguès et al. (dir.) Stéphane Vanderhaeghe, Géraldine Bertres, Hélène Soldano et al. (trad.)
2015
Le Comportement des choses
Emanuele Quinz (dir.) Lise Thiollier, Gabriele Stera et Armelle Chrétien (trad.)
2021
Artistes-chercheur·es, chercheur·es-artistes
Performer les savoirs
Boudier Marion et Déchery Chloé (dir.)
2022
Architectures of memory
Jean-Marie Dallet et Bertrand Gervais (dir.) Armelle Chrétien et Joshua David Jordan (trad.)
2022
Angles morts du numérique ubiquitaire
Glossaire critique et amoureux
Yves Citton, Marie Lechner et Anthony Masure (dir.)
2023