Éthique by design
p. 154-169
Texte intégral
1L’IA est maintenant intégrée ou en voie de l’être dans de nombreux aspects de notre vie, professionnelle comme personnelle, publique ou intime5. Elle est, en ce sens, ubiquitaire. La présence des robots dans les usines et, plus récemment, les robots de compagnie, ou encore l’omniprésence des téléphones portables et des tablettes, illustrent l’interaction quotidienne entre les êtres humain·es et les machines. Nous avons pu d’ailleurs l’expérimenter socialement pendant les différentes vagues et confinements de la pandémie de Covid-19 avec la multiplication des solutions techniques numériques dans tous les domaines de la société – travail, commerces, éducation, santé, culture – et avec le développement d’applications de traçage spécifiques à la pandémie. Ces usages de l’IA induisent des transformations profondes de nos comportements sociaux, voire de notre cerveau et à ce titre, posent de nombreuses questions éthiques pratiques sur les choix technologiques, mais aussi des questions de métaéthique, c’est-à-dire sur ce qu’est l’éthique.
2Au tournant des années 2000, les politiques scientifiques des États-Unis ont financé la « convergence NBIC » favorisant les recherches communes entre les nanotechnologies, les sciences cognitives et les technologies de l’information. Les discours qui les ont accompagnées affirment la centralité du critère de la performance à travers la notion d’enhancement (amélioration) et la volonté de remplacer l’intelligence humaine par les méthodes de calcul de l’IA. Les pratiques économiques ont multiplié les perspectives de remplacements de l’être humain·e par la machine au nom des gains d’efficacité. Les innovations technologiques, qui sont le moteur de l’économie capitaliste, multiplient les expérimentations sociales poussant ainsi l’État et ses institutions (tribunaux, éducation, santé, armement, modèle d’affaires) à s’adapter coûte que coûte, ou à faire des choix.
3Des voix s’élèvent cependant de plus en plus pour souligner la nécessité d’introduire des critères éthiques afin de normer et de réguler ces innovations technologiques, afin de rendre l’IA intrinsèquement éthique ; on parle même d’ethics by design. Malheureusement, il reste difficile de trouver une définition claire de ce que signifie cette expression (Dignum et al., 2018), alors même qu’elle commence à se diffuser jusqu’aux plus hauts niveaux politiques, puisque Emmanuel Macron (2018) en a fait l’un des éléments de langage de son approche de l’IA, selon une « troisième voie » qu’il a notamment évoquée lors du Forum global sur l’humanité, tenu à Paris en octobre 2019, qui a lancé les bases d’un positionnement de la France sur le plan international, puis du GPAI (Global Partnership in Artificial Intelligence), qui regroupe vingt-cinq pays en 2022.
4Divers signaux montrent que nous sommes aujourd’hui à la croisée des chemins. Le grand public commence à prendre conscience de ce phénomène IA, à l’interroger, mais aussi à se demander non seulement en quoi il lui est bénéfique et ce qu’il lui coûte, mais aussi quelle société se prépare pour les générations futures, qui seront nées dans le numérique, sans le moindre recul ni le moindre vécu alternatif. Nous sommes donc aujourd’hui à un moment que nous proposons d’appeler une « ouverture normative ». C’est le moment où nous pouvons, et peut-être devons, discuter ensemble, de manière pluraliste, du sens que nous voulons donner à l’IA – et non au sens qu’elle nous donne. En cette période d’ouverture normative, l’IA pour l’humanité ne saurait être une IA sans les Humanités. Les chercheurs et chercheuses en sciences humaines et sociales, éthique en tête, doivent prendre leurs responsabilités et assumer leur part d’expertise.
5 Cette expression d’éthique by design étant, de plus, reprise à un haut niveau politique, il importe de l’interroger et de la préciser, avant qu’elle ne soit susceptible de s’imposer comme moyen pour neutraliser les enjeux éthiques cruciaux générés par l’ensemble de ces innovations technologiques, en particulier celles qui sont façonnées par l’IA en donnant à celle-ci le rôle d’un mot à la mode, voire d’un buzzword.
6Or, il nous semble que l’expression by design est si riche de signification et de perspective qu’elle peut contribuer à enrichir plutôt qu’appauvrir ou limiter les discussions sur les enjeux éthiques de l’IA, si l’on prend la peine de l’analyser avec les outils de l’éthique philosophique, qui sera ici notre perspective : nous proposerons donc une analyse ancrée dans l’éthique, et non le design. Pour le dire en quelques mots, il s’agira de prendre au sérieux l’éthique by design, afin d’en examiner à la fois les angles morts et les angles vifs.
7Cette entrée s’articulera en deux moments. Tout d’abord, nous resituerons cette expression d’éthique by design dans le contexte des NBIC pour en explorer les angles morts. Puis nous essaierons d’en construire les angles vifs, vivifiants, à l’aide de l’éthique et de la politique du care.
L’expression by design : entre familiarité et étrangeté
8Ethics by design est la petite dernière d’une famille nombreuse, qui inclut déjà safety by design et privacy by design – la notion de privacy by design étant d’ailleurs essentielle pour toutes les questions liées aux données personnelles. Nul doute que l’expression ethics by design soit implicitement conçue pour faire écho à cette filiation ; créer une familiarité, afin de l’intégrer plus facilement dans le paysage du discours accompagnant les technologies émergentes, mais aussi pour permettre, dans certains cas – on le verra lorsqu’il s’agira de certaines approches visant à l’articuler à privacy by design – de faciliter un glissement entre les différents concepts.
9Ainsi que le note Philip Brey (2017), le cas des technologies émergentes, et en particulier lorsqu’elles sont potentialisantes (c’est-à-dire lorsqu’elles peuvent se combiner avec d’autres technologies et/ou se développer dans des champs divers) est particulièrement concerné par la question de l’incertitude et des risques. Le problème d’une telle focalisation est que l’éthique se trouve parfois réduite à un simple calcul coûts/ bénéfices. L’une des manières d’élargir la question en recentrant la focale sur les questions éthiques serait alors de prendre au sérieux la dimension incertaine de l’IA et de considérer l’extension de son usage dans nos sociétés comme une expérimentation sociale à très large échelle. Par analogie, on peut dire que la pandémie de Covid-19 a multiplié et accéléré les usages du numérique de façon expérimentale et mondiale, suivant la tendance d’un techno-solutionnisme justifié, ou facilité, par l’urgence de la crise sanitaire.
10La question n’est pas seulement de savoir si la technologie en question est moralement acceptable – et sous quelles conditions – mais aussi de se demander s’il est acceptable moralement d’expérimenter cette technologie dans nos sociétés, ou à quelles conditions cela peut-être le cas.
Safety by design
11La safety by design s’articule à la question des risques, notamment dans le champ nanotechnologique, et également dans le champ nucléaire, entre autres. L’idée principale de la safety by design est de limiter les risques en général dès le processus de conception, afin de garder le contrôle sur le rapport risque/bénéfice.
12Dans le champ des nanotechnologies, la question est le plus souvent liée au risque toxicologique. Les nanotechnologies ont ceci de particulier qu’elles ne sont unifiées qu’au niveau de l’échelle nanométrique et que chaque nanoparticule ou nanomatériel ou nanofibre doit être évaluée individuellement à cause de la variabilité des propriétés à l’échelle nanométrique. C’est donc la méthode longue et laborieuse du « cas par cas » qui constitue la démarche de base pour évaluer scientifiquement les risques toxicologiques des nano-objets sur les êtres humain·es et l’environnement. On peut distinguer deux types d’approches.
13D’une part, une réduction du risque lui-même lié au nano-matériau utilisé, ce qui revient à utiliser des matériaux dont l’innocuité est connue et avec lesquels on peut raisonner par analogie. D’autre part, une réduction du risque liée au contrôle de sa diffusion pendant le cycle de vie des matériaux. Comme le montrent bien Kraegeloh et ses collègues (2018), cette dernière approche suppose de porter une attention sans faille à l’ensemble du processus ainsi qu’à l’ensemble des acteurs en présence. Pour cette raison, l’expression by design renvoie à une approche globale et non, contrairement à ce que l’on pourrait croire en confondant « design » et « dessein », à une conception a priori de l’éthique.
14Ainsi que le souligne Christopher Kelty (2009), qui retrace l’émergence de la notion dans le champ des nanotechnologies, cette démarche engage un renouvellement de la notion de sûreté, qui n’est plus tant une propriété des matériaux qu’un spectre de « risques », ici surtout toxicologiques, à appréhender. Elle engage également un renouvellement des habitudes de travail, qui transforme la hiérarchie habituelle de la recherche scientifique pour aller vers la voie d’une collaboration pluridisciplinaire.
15Pourtant, ainsi que le soulignent Hale et ses collègues (2007), la notion de design, pour intuitive qu’elle puisse paraître, n’éclaircit pas forcément la discussion autant qu’il pourrait sembler à première vue : où le design commence-t-il ? Dans l’intention ? La conception ? La prévention de mauvais usages non désirés (mais prévisibles) ? Plus encore, la question se pose de savoir quelle attention il faut prêter aux usages non souhaités et aux détournements à des finalités malfaisantes afin de rendre les dispositifs plus sûrs. Ce faisant, la notion de safety by design intègre en quelque sorte les discussions en philosophie morale autour de la notion de double effet, laquelle implique la différence entre des conséquences voulues et prévisibles d’un côté, et des conséquences non voulues mais prévisibles de l’autre – même si, comme le soulignent Hale et ses collègues (2007), tous les accidents ne peuvent pas être prévenus par design.
16Or, il peut être intéressant de souligner ici que traditionnellement, dans la philosophie morale, la notion de double-effet participe d’une interrogation sur la notion de responsabilité, et délimite la frontière entre une position déontologique (portant l’accent sur les intentions) d’un côté et une position conséquentialiste (portant l’accent sur les conséquences) de l’autre. Ainsi que le soulignent plusieurs auteurs (McCarthy & Kelty, 2010 ; Van de Poel & Robaey, 2017), la question centrale (mais parfois implicite) de la safety by design est celle de la responsabilité.
17Prenant en compte cet élément, Van de Poel et Robaey invitent à déplacer la focale de la démarche et proposent de passer au design for the responsibility for safety, que l’on peut traduire par « design responsable pour la sécurité ». Ce faisant, ils soulignent que supposer la possibilité d’une sécurité inhérente au processus ou au produit, c’est supposer l’élimination des risques – et de tous les risques, jusqu’à être idiot-proof. Une telle démarche n’étant ni possible, ni même souhaitable, peut-être alors faudrait-il plutôt proposer un design non pas responsable (au sens de l’innovation responsable), mais pour la responsabilité (for responsibility), qui garantisse notamment aux utilisateurs et utilisatrices un accès épistémique à la technologie, c’est-à-dire de pouvoir agir en connaissance de cause – et éventuellement d’accepter certains risques – donc un accès éthique. Mais cette approche conserve une certaine dose d’a priori : on pourrait se demander si la connaissance est suffisante pour permettre une approche éthique.
Privacy by design : une approche juridique pour la protection des données personnelles
18Le développement de l’approche privacy by design s’est effectué en concomitance avec la diversification des usages des objets numériques et de l’utilisation exponentielle des données numériques via Internet. La question de la protection des données personnelles est devenue un enjeu social de plus en plus pressant à mesure que les plateformes numériques et les médias sociaux se sont construits de manière à avoir accès aux activités et échanges relevant de la vie privée des personnes afin d’obtenir des données des utilisateur·rices ou des consommateur·rices. Ces données sont généralement utilisées à des fins commerciales de ciblages (publicité). Or la protection de la vie privée et des données personnelles a fait l’objet d’une longue tradition juridique. Le droit à la vie privée repose avant tout sur les Droits de l’Homme et il a été d’abord reconnu face à l’intrusion de l’État dans la vie personnelle des citoyen·nes. L’État revendique des limites à la vie privée au nom de la sécurité publique. Dans le domaine médical, l’accès au dossier médical et le partage des données médicales des patient·es entre les professionnel·les de la santé dans les hôpitaux, ont été l’objet de nombreuses législations et de réglementations très strictes dans la plupart des pays occidentaux.
19L’approche privacy by design s’est donc inspirée de ce cadre légal en l’adaptant aux innovations dans le domaine du numérique. La commissaire à l’information et à la vie privée de l’Ontario au Canada, Ann Cavoukian (2010), a développé cette approche du privacy by design à partir des années 2000 en proposant sept principes fondamentaux servant de bases au design des systèmes d’information numérique. Le point de départ est que, pour bénéficier des innovations numériques, il est fondamental de préserver la liberté de choix ainsi que le contrôle personnel sur les données produites. À la recherche de cet équilibre, Ann Cavoukian énonce que tout système numérique, ainsi que les pratiques commerciales qui l’accompagnent, doivent d’abord être construits à partir de la protection des données personnelles et de manière à minimiser au strict nécessaire l’accès aux informations. Un certain nombre de règles s’ensuivent dont la visibilité et la transparence qui imposent une reddition de compte, car la confiance doit être vérifiée, ainsi que le consentement de l’utilisateur·rice qui doit pouvoir vérifier le contenu des informations détenues. Mais plus encore, dès la conception et lors du design de la plateforme numérique, celle-ci doit inclure des mesures qui anticipent et préviennent les bris de confidentialité, ainsi que des mesures qui assurent le maximum de protection de la vie privée. L’approche du privacy by design vise donc à assurer dès le départ une protection de la vie privée sans diminuer la fonctionnalité du système puisqu’elle fait partie intrinsèquement de la démarche technique.
20Cette approche d’orientation juridique et contractualiste a pour but de rééquilibrer le contrat entre les utilisateur·rices/ consommateur·rices et les compagnies/plateformes qui extraient et utilisent les données personnelles. Actuellement, outre les pratiques opaques de la plupart des acteur·rices du numériques (des Gafam aux pratiques commerciales des entreprises), on assiste à une montée des bris de système de sécurité et du piratage des données personnelles qui érodent la confiance des consommateur·rices/utilisateur·rices. La violation de données à caractère personnel peut induire des dommages matériels (vol d’identité ou perte financière), un préjudice moral (discrimination, atteinte à la réputation).
21L’approche du privacy by design repose sur une forme d’égalité de la responsabilité des acteurs qui ne cadre pas avec les pratiques actuelles, par laquelle l’individu·e est démuni·e face au pouvoir des acteurs commerciaux et étatiques du numérique. Le rapport de force est asymétrique, voire abyssal. Une approche qui repose essentiellement sur la responsabilité de l’individu·e et sa capacité de choisir ou de consentir paraît à tout le moins inefficace et irréaliste si les États n’interviennent pas pour réguler et forcer de nouvelles pratiques de protection des citoyen·nes et des consommateur·rices. L’exemple de la loi européenne (RGPD) est un premier pas décisif en ce sens puisqu’elle introduit l’approche du privacy by design, ainsi que de nouveaux paramètres sur la protection de la vie privée comme le droit à l’oubli ou encore, le consentement de l’utilisateur·rice dans une perspective de choix actif – par exemple, celui d’installer une application ou des paramètres proposés (opting in) – et non de retrait d’une application ou de paramètres déjà installés (opting out).
Le cadre global de « l’innovation responsable »
22Les initiatives de safety by design et privacy by design participent d’un mouvement plus vaste qui juge insuffisante l’approche traditionnelle qui gère et contrôle les produits après leur entrée sur le marché de la consommation de masse.
23C’est dans ce contexte que plusieurs champs d’analyse et de réflexion ont convergé à la fin des années 2000 vers le concept « d’innovation responsable » dont les définitions, diverses, ont cependant comme point commun d’insister sur le concept de responsabilité et sur des formes d’interactions entre les parties prenantes, avec une insistance sur la participation publique ou citoyenne, de manière certes à anticiper le plus possible les risques, mais également à refléter des choix de société plus inclusifs face à une technologie donnée. Le concept de responsabilité va donc plus loin qu’une simple imputabilité (accountability) des fabricant·es et cherche à déterminer collectivement en amont les « bonnes » technologies et écarter les autres en évaluant leur pertinence sociale, éthique et environnementale.
24Il est possible de distinguer deux niveaux éthiques de l’innovation responsable.
- Le premier, explicitement ou implicitement, s’inscrit dans un processus d’économie capitaliste mondialisée et dans une rationalité moderne soucieuse des impacts des techniques sur les populations et l’environnement (Blok, 2015). Ce niveau éthique véhicule des valeurs et des normes en discussion.
- Le second, quant à lui, cherche à mettre en œuvre des procédures de discussion, à opérationnaliser des mécanismes de transparence ou des normes pratiques afin de guider la gouvernance des entreprises (Pavie & Carthy, 2015), ou encore à formaliser les objectifs inhérents à la démarche de l’innovation responsable (Pellé & Reber, 2015).
25À ces deux niveaux, plusieurs critiques se sont fait entendre pour dénoncer les angles morts de cette approche. Dans sa mise en œuvre, la transparence et la responsabilité, qui se trouvent au cœur du concept d’innovation responsable, restent malgré tout peu caractérisées (Davies & Horst, 2015). À un niveau plus global, le concept d’innovation responsable reste peu applicable dans les pays du Sud et relève d’un choix d’économie libérale peu intéressé au low tech (Hartley et al., 2019 ; Wong, 2016). Des critiques féministes, quant à elles, ont montré comment le concept d’innovation met en sourdine certaines préoccupations ou invisibilise certaines populations, faute de s’interroger sur ce qui nous importe dans la manière dont sont conçues ou développées ces technologies.
26En d’autres termes, nous devons aussi nous demander quels types de présents et de futurs s’ouvrent à nous et pour qui : la question n’est pas seulement celle des stakeholders ou des retombées économiques, du « progrès », mais aussi de déterminer à quel coût et pour qui (Kerr et al., 2017) : quelle est la face invisible de l’innovation responsable ou, en d’autres termes, ses angles morts ?
Le by design : au croisement de la philosophie, de l’ingénierie, et du design
27On comprend donc que cette approche de l’IA au nom d’une éthique by design est à la fois nouvelle et ancienne. Ancienne, parce qu’elle s’intègre dans la famille des by design et de l’innovation dite responsable. Nouvelle parce que, à la différence des approches classiques d’éthique de l’IA, elle porte l’accent sur le processus et pas seulement sur les intentions ou les conséquences.
28En effet, jusqu’à présent, les approches en éthique de l’IA ont surtout cherché à procéder à partir des intentions (comme les codes de conduite ou les principes) ou des conséquences, mais assez rarement en envisageant le processus dans son ensemble. C’est ce point qui nous semble intéressant, et que nous aimerions développer pour esquisser les grands traits de ce que devrait être une éthique by design de l’IA. Pour le dire en un mot, il nous semble que l’expression by design est intéressante parce qu’elle englobe les préoccupations philosophiques esquissées précédemment, mais aussi à la fois la vision de l’ingénieur et la vision du designer, dans sa dimension artistique et créative.
29Or, dans ce qui précède, c’est surtout la vision de l’ingénieur qui prédomine dans le by design. Nous voudrions essayer de proposer une vision philosophique ouvrant sur la possibilité d’explorer la dimension créatrice du by design.
30Ainsi que le souligne Anthony Masure (2019), le terme « design » est assez complexe, notamment en raison de sa circulation entre différentes langues. Si la langue française reprend le terme anglais design, sa signification est légèrement différente entre les deux langues, ce qui induit un brouillage de signification. En anglais, le terme connote un dessein souvent machiavélique – repris notamment, note Anthony Masure, par le théoricien du design Vilém Flusser – qui laisse supposer que tout se déroule selon un plan (moralement condamnable). La contagion prédominante de la langue anglaise peut, dès lors, conduire à occulter la dimension créative, voire subversive, que le terme peut avoir par ailleurs, dans la tradition italienne et française. C’est avec cette dimension créative et subversive du design qu’il importe de renouer, afin de « bifurquer » des schémas préconçus, en intégrant l’éthique au cœur du processus d’une part, et en nous appuyant sur une approche éthique féministe remettant en cause les cadres de pensée traditionnels de l’autre, à savoir l’éthique du care, qui nous semble fournir des angles vifs capables de remédier aux angles morts évoqués précédemment.
Une éthique du processus
31Pour revenir à la question philosophique ainsi qu’à la difficulté de gérer les risques et de prévoir les conséquences de l’IA, il nous semble que le problème qui se pose ici est un problème générique des nouvelles technologies. C’est pourquoi il pourrait être intéressant de s’inspirer de certaines analyses déjà proposées en éthique des nouvelles technologies, notamment des nanotechnologies.
32Ainsi que le souligne Ibo van de Poel (2017), le mode d’apprentissage nécessaire dans l’expérimentation de l’IA ne participe ni d’un apprentissage par anticipation (learning by anticipation), qui doit prendre place avant la mise en œuvre de la technologie, ni d’un apprentissage en faisant (learning by doing), qui prend place après la mise en œuvre de la technologie. L’apprentissage par expérimentation (learning by experimentation) est entre les deux : il prend place au tout début de la mise en œuvre de la technologie avec la conscience de nécessaires ajustements et permet une forme de négociation (trade-off) entre ce que nous pouvons apprendre et le coût de cet apprentissage (cost of learning).
33On peut ajouter à cette idée d’un apprentissage expérimental que l’éthique doit alors s’intégrer à toutes les étapes du processus : des débuts de la conception, à la création et à la mise en œuvre. Il s’agit donc d’une éthique qui ne se joue ni après-coup (éthique des impacts), ni avant (éthique anticipatrice), mais d’une éthique pendant et tout le temps. C’est pourquoi nous proposons d’appeler cette éthique « processuelle » (in the process). Inversement, ainsi que l’écrit très justement Peter-Paul Verbeek (2006), le design « matérialise » la morale. Cette matérialisation est, précise-t-il, implicite.
34Cette perspective permet de comprendre que, de la conception aux divers usages, les valeurs se modifient dans cette interaction continue entre la technique et les utilisateur·rices suivant une double dynamique, celle de l’expression des valeurs et celle de la définition des valeurs, l’une et l’autre pouvant se transformer.
Une éthique processuelle du care avec l’IA
35Notre hypothèse générale est que l’éthique ne peut se contenter de se positionner de manière descendante (top-down) des principes vers les pratiques, ni ascendante (bottom-up) des pratiques vers l’analyse normative. En un mot, lorsque l’on parle d’éthique de l’IA, le génitif (« de ») n’est ni seulement objectif ni seulement subjectif : l’IA n’est ni seulement l’objet ni seulement le sujet de l’éthique, mais les deux à la fois. C’est pourquoi il est ici nécessaire d’envisager une dynamique, inspirée du philosophe américain John Rawls (1971), celle d’un équilibre réfléchi proposant une interaction entre pratiques et principes, ou, en d’autres termes, d’une éthique qui ne soit ni top-down, c’est-à-dire pour l’IA (for), ni de l’IA (from ou bottom-up), mais avec l’IA, pour reprendre le vocabulaire proposé par Vanessa Nurock (2010) en éthique des nanotechnologies.
36À quoi ressemblerait une telle éthique « avec » l’IA ? Celle-ci reste encore à faire, mais une manière d’envisager ses angles vifs pourrait s’inspirer des approches proposées par les éthiques du care. Or, de manière intéressante, ce leitmotiv du care fait écho à une évolution du champ éthique qui s’est opérée depuis les années 1980, sous l’influence notamment de Carol Gilligan (1982) ainsi que de Joan Tronto (2013), et qui connaît des développements originaux notamment en France et au Canada. Ce courant propose d’élargir le champ éthique au-delà du bien et du mal, du juste et de l’injuste, aux questions liées au care, dans toutes ses dimensions : care about (se soucier de), care for (s’occuper de), care giving/ receiving understood as a process et care with (prendre soin des institutions qui nous relient) en dépassant les binarités.
37Une telle approche n’a pas encore été vraiment développée dans le champ de l’IA, même si elle a déjà été suggérée comme une piste pour penser l’innovation par Xavier Pavie, en tant qu’inno-vation-care en des termes proches de l’innovation responsable, qui rapproche l’éthique du care de l’impératif catégorique kantien (Pavie, 2014) enjoignant de ne jamais traiter autrui seulement comme un moyen mais aussi toujours comme une fin. Enfin, Pavie (2018) inscrit une hiérarchie entre care et innovation, par laquelle l’innovation est hiérarchiquement « supérieure » au care.
38Nous pensons que cette piste du care mérite d’être développée dans le champ de l’IA mais qu’elle mériterait toutefois de l’être en tenant compte des spécificités de l’éthique du care – laquelle ne peut être rabattue sur le déontologisme kantien qui se focalise sur les devoirs et propose une éthique a priori. L’éthique du care postule une dynamique qui ne s’inscrit pas dans un rapport de force hiérarchique et rejette les oppositions binaires. Pour le dire autrement, l’éthique du care n’est pas en tension avec l’innovation au sens où elle n’est pas contradictoire avec l’innovation. En effet, une bonne innovation, une innovation éthique doit être caring, si elle est innovante au sens où elle tend vers le progrès, entendu comme le progrès de tous, et en particulier des plus vulnérables.
39Plus encore, l’éthique du care nous semble d’autant plus pertinente pour penser une éthique by design de l’IA en raison du problème particulier qui se pose pour celles et ceux qui sont né·es ou vont naître avec l’IA – et que l’on pourrait appeler les AI natives, comme on parle de digital natives. Ainsi que l’a montré Christopher Groves (2014), l’éthique du care est particulièrement pertinente pour penser notre relation morale aux générations futures parce que la question n’est pas ici seulement celle de notre imputabilité mais celle de savoir ce que nous pouvons faire pour prendre soin avec vigilance du futur que nous préparons (take care of the future). Or, précisément parce que nous sommes au début du développement de l’IA, le problème n’est pas tant, comme le dilemme de Collindridge, que nous ne pouvons prévoir toutes les conséquences, mais plutôt que nous devons penser l’avenir et que nous sommes moralement responsables vis-à-vis des générations futures.
40Notre hypothèse méthodologique particulière est que l’éthique et la politique du care pourraient nous donner une idée directrice permettant d’élaborer des critères éthiques pour l’IA, et cela en posant les questions suivantes.
- What do we care about ? Qu’est-ce qui nous importe lorsque nous concevons l’IA ?
- What do we care for ? Avons-nous fait attention aux plus vulnérables ?
- Do we take care ? Avons-nous pris soin de préserver le choix des utilisateur·rices et d’intégrer leurs exigences de liberté au système ?
- Do we care with ? Comment gouverner démocratiquement l’IA et faire attention à la manière dont elle est susceptible de transformer nos institutions démocratiques et l’espace public ?
41En conclusion, il importe de rappeler que l’éthique by design fait pendant à une situation d’expérimentation sociale que nous devons assumer en posant, ainsi que nous le suggère Ibo Van de Poel, la question suivante : à quelles conditions une expérimentation sociale avec telle ou telle IA est-elle moralement acceptable ? L’éthique by design permet d’apporter des éléments de réponse à cette question, à deux conditions. La première est notre hypothèse générale, qui enjoint de sortir de la binarité ascendante/ descendante (top-down/bottom-up) pour assumer une éthique inscrite dans le processus. La seconde est une hypothèse particulière, qui nous enjoint d’assumer une éthique du care de manière à la fois théorique et concrète. L’éthique by design de l’IA pourra ainsi être caractérisée comme celle qui tout à la fois s’inscrit au sein de chaque étape du processus et qui assume ensemble toutes les facettes du care.
Bibliographie
Références
Beauchamp, T., Childress, J. (1979). Principles of Biomedical Ethics. Oxford University Press.
Beck, U. (2008). La société du risque. Sur la voie d’une autre modernité. Flammarion.
Bernelin, M. (2019). « Intelligence artificielle en santé : la ruée vers les données personnelles », Cités, 80.
Blok, V., Lemmens, P. (2015). « The Emerging Concept of Responsible Innovation. Three Reasons Why It Is Questionable and Calls for a Radical Transformation of the Concept of Innovation », Responsible Innovation 2. Concepts, Approaches and Applications. Springer
Brey, P. (2017). « Ethics of Emerging Technologies », The Ethics of Technology : Methods and Approaches. Rowman & Littlefield International.
Cavoukian, A. (2010). The 7 Foundational Principles. Implementation and Mapping the Fair Information Practices. Information and Privacy Commissioner of Ontario. www.privacybydesign.ca
Collingridge, D. (1981). The Social control of Technology. Palgrave Macmillan.
Eubanks, V. (2018). Automating Inequality. How high-tech tools profile, police and punish the poor. St. Martin’s Press.
European Commission. (2011). Horizon 2020 – The Framework programme for Resesarch and Innovation.
Davies, S., Horst, M. (2015). « Responsable Innovation in the Us, UK and Denmark : Governance Landscapes », Responsible Innovation 2. Concepts, Approches and Applications. Springer.
Dignum, V. (2019). Responsible Artificial Intelligence. Springer.
Genus, A., Stirling, A. (2018). « Collingridge and the dilemma of control : Toward responsible and accountable innovation », Research Policy, 47.
Gilligan, C. (1982). In a Different Voice. Harvard University Press.
Groves, C. (2014). Care, Uncertainty and Intergenerational Ethics. Palgrave MacMillan.
Hale, A.R., Kirwanb, B., Kjellén, U. (2007). « Safe by design : where are we now ? », Safety Science, 45.
Jobin, A., Ienca, M., Vayena, E. (2019). « The global landscape of AI ethics guidelines », Nature Machine Intelligence, 1.
Jonas, H. (2013). Le principe responsabilité. Flammarion.
Hartley, S., et al. (2019). « A retrospective analysis of responsible innovation for low-technology innovation in the Global South », Journal of Responsible Innovation, 69 (2).
Hoffmann, A.L. (2019). « Where fairness fails : data, algorithms, and the limits of antidiscrimination discourse », Information, Communication and Society, 22 (7).
Kelty, C. (2009). « Beyond Implications and Applications : the Story of ’Safety by Design’ », NanoEthics, 3 (2).
Kerr, A., Hill, R., Till, C. (2017). « The limits of responsible innovation : Exploring care, vulnerability and precision medicine », Technology in Society, 1-8.
Koops, B.-J., et al. (2015). Responsible Innovation 2. Concepts, Approches and Applications. Springer.
Kraegeloh, A., et al. (2018). « Implementation of Safe-by-Design for Nanomaterial Development and Safe Innovation : Why We Need a Comprehensive Approach », Nanomaterials, 239 (8).
Lubberink, R., et al. (2017). « Lessons for Responsible Innovation in the Business Context : A Systematic Literature Review of Responsible, Sociale and Sustainable Innovation Practices », Sustainability, 9 (721).
Macron, E. (2018, 29 mars). Discours du Président de la République sur l’intelligence artificielle. Collège de France. https://www.elysee.fr/emmanuel-macron/2018/03/29/discours-du-president-de-la-republique-sur-lintelligence-artificielle
Masure, A. (2019). Design du vivant et bioéthique : vers un intelligent design ? Université de Technologie de Compiègne. www.anthonymasure.com/conferences/2019-06-design-vivant-bioethique-utc-compiegne
McCarthy, E., Kelty, C. (2010). « Responsibility and nanotechnology », Social Studies of Science, 40 (3).
Nurock, V. (2010). « Nanoethics : Ethics For, From, or With Nanotechnologies ? », Hylé, 1 (16).
Nurock, V. (2019). « Généalogie de la morale mécanisée », Robots et sociétés : enjeux éthiques et politiques. Les Presses de l’Université Laval.
Nurock, V., Chatila, R., Parizeau, M.-H. (2021). « What Does “Ethical by Design” Mean ? », Reflections on Artificial Intelligence for Humanity.
Nozick, R. (1974). Anarchie, État et Utopie. Presses universitaires de France.
O’Neil, C. (2018). Algorithmes, la bombe à retardement. Les Arènes.
Owen, R., et al. (2013). « A Framework for Responsible Innovation », Responsible Innovation : Managing the responsible Emergence of Science and Innovation in Society. Wiley-Blackwell.
Pavie, X. (2014). « The importance of Responsible Innovation and the Necessity of ’Innovation-Care’ », Philosophy of management, 13 (1).
Pavie, X. (2018). L’innovation à l’épreuve de la philosophie. Presses universitaires de France.
Pavie, X., Carthy, D. (2015). « Leveraging uncertainty : a practical approach to the integration of responsible innovation through design thinking », Procedia-Social and Behavioral Sciences, 213.
Pellé, S., Reber, B. (2015). « Responsible Innovation in the Light of Moral Responsibility », Journal on Chain and Network Science, 15 (2).
Rawls, J. (1971). A Theory of Justice. Belknap Press.
Thomas, P.S., et al. (2019). « Preventing undesirable behavior of intelligent machines » Science, 366 (6 468).
Tronto, J. (2013). Caring Democracy. NYU Press.
Turner, C. (2013). Science, on coupe ! Boréal.
Van de Poel, I. (2016). « An Ethical Framework for Evaluating Experimental Technology », Sci Eng Ethics, 22.
Van de Poel, I. (2017). « Society as a laboratory to experiment with new technologies », Embedding new Technologies into Society : A Regulatory, Ethical and Societal Perspective. Pan Stanford Publishing.
Van de Poel, I., Robaey, Z. (2017). « Safe-by-Design : from Safety to Responsibility », Nanoethics, 11.
Van de Poel, I. (2018, juin). « Design for value change », Ethics and Information Technology.
Verbeek, P.-P. (2006). « Materializing Morality ». Science, technology and Human values, 31 (3).
Verbeek, P.-P. (2019). « Values that Matter : Mediation theory and Design Values », conférence « Research Perspectives in the area of transformations ». Academy for design Innovation management of London.
Von Schombert, R. (2011). « A vision of responsible innovation », Responsible Innovation. Wiley.
Wong, P.-H. (2016). « Responsible innovation for decent nonliberal peoples : a dilemma ? », Journal of Responsible Innovation, 3 (2).
Zou, J., Schiebinger, L. (2018). « Design AI so that it’s fair », Nature, 559.
Notes de bas de page
5 Cette entrée reprend, en les articulant à certaines discussions qui ont eu lieu pendant le colloque de Cerisy, les grandes lignes développées dans (Nurock et al., 2021).
Auteurs
Professeure de philosophie à l’université Côte d’Azur, directrice adjointe du Centre de recherches en histoire des idées et titulaire de la chaire Unesco EVA d’Éthique du vivant et de l’artificiel. Son travail se situe à l’interface des questions éthiques, politiques et scientifiques, avec un intérêt particulier pour les questions de genre et d’éducation.
Professeur titulaire à la faculté de philosophie de l’université Laval à Québec où elle enseigne dans les champs de la bioéthique, l’éthique de l’environnement et la philosophie de la technique. Elle a été présidente de la Comest (Commission mondiale pour l’éthique des connaissances scientifiques et des technologies) de l’Unesco de 2015 à 2019.
Le texte seul est utilisable sous licence Licence OpenEdition Books. Les autres éléments (illustrations, fichiers annexes importés) sont « Tous droits réservés », sauf mention contraire.
Le Sujet Digital
Claire Larsonneur, Arnauld Regnauld, Pierre Cassou-Noguès et al. (dir.) Stéphane Vanderhaeghe, Géraldine Bertres, Hélène Soldano et al. (trad.)
2015
Le Comportement des choses
Emanuele Quinz (dir.) Lise Thiollier, Gabriele Stera et Armelle Chrétien (trad.)
2021
Artistes-chercheur·es, chercheur·es-artistes
Performer les savoirs
Boudier Marion et Déchery Chloé (dir.)
2022
Architectures of memory
Jean-Marie Dallet et Bertrand Gervais (dir.) Armelle Chrétien et Joshua David Jordan (trad.)
2022
Angles morts du numérique ubiquitaire
Glossaire critique et amoureux
Yves Citton, Marie Lechner et Anthony Masure (dir.)
2023