La régulation juridique de l’intelligence artificielle par l’entreprise : le recours immanquable à la soft law
p. 179-195
Texte intégral
1Le fantasme de l’entreprise créatrice d’une intelligence artificielle (IA) destructrice – Skynet : tel est le nom d’une intelligence artificielle créée par la compagnie Cyberdyne Systems, récupérée par l’US Air Force pour gérer la défense nucléaire des États-Unis. Parvenant à infiltrer le réseau internet, Skynet déclenche un cataclysme nucléaire – le « Jugement dernier » – conduisant à la destruction d’une grande partie de l’espèce humaine. S’en suit toute une batterie de robots androïdes meurtriers (avec des versions T- de plus en plus perfectionnées) et de voyages temporels destinés à tuer dans l’œuf la rébellion humaine à venir. Il n’en fallait pas moins que ça pour que le film de James Cameron se hisse au rang de film culte des années 1980, illustrant toute la potentialité dévastatrice de l’IA et dont l’issue est inéluctablement la domination des machines sur l’Homme. Les représentations cinématographiques des décennies ultérieures ne démentent point ce mythe d’une IA devenue consciente, émancipée de l’autorité humaine et, de ce fait, hautement dangereuse. De Matrix à la série Devs, le super bond technologique fascine parce qu’il échapperait in fine à l’emprise humaine, laissant cours à ce que pourrait être le déclin de notre espèce. À la source de cette technologie fulgurante se trouvent souvent des entreprises privées toutes puissantes aux desseins bien obscurs. Bien qu’aujourd’hui de telles visions ne soient que pure science-fiction, l’amorce d’une régulation de l’IA par l’Union européenne (UE) ou par des entités étatiques permet l’appréhension de ses enjeux juridiques – y compris éthiques – tout en marquant, à notre sens, l’intention des pouvoirs publics d’en conserver la maîtrise face aux grandes entreprises du secteur de l’économie numérique. Celles-ci, qualifiées de « cruciales »1 et rassemblées sous l’acronyme de GAFAM2, sont loin d’être absentes du paysage. Leurs actions, qu’elles soient projetées ou réalisées, exprimées ou latentes, ont vocation à produire des effets régulatoires puissants. À l’instar du cyberespace, c’est une « régulation multiforme » ou « multirégulation » dont il est question3. Alliant acteurs publics et entreprises privées, soft law et hard law, la régulation juridique de l’IA revêt un caractère hybride, tant au regard des pôles créateurs que des normes employées.
2L’hybridité de la régulation juridique de l’IA : le modèle du cyberespace – Concernant les réseaux numériques et dès le début du XXIe s., la voie d’une régulation « multiforme », « plurielle » (qualifiée même parfois d’« interrégulation »4), est à la fois constatée et préconisée5. Celle-ci s’expliquerait par le fait que l’« Internet ne doit pas être traité comme un monde à part, mais constitue plutôt le prolongement numérique des diverses activités humaines, qu’il s’agisse de communication, de divertissement, de commerce, etc., on ne peut que se féliciter de voir les différentes instances chargées d’appliquer le droit s’y impliquer »6. Cette régulation repose dans ce contexte sur une coordination mondiale, communautaire et nationale, à travers la coopération des instances de régulation7. Pour autant, la régulation publique n’est pas la seule à se voir incomber des « responsabilités partagées ». Les grandes entreprises sont également impliquées dans ce processus au regard de multiples démarches d’autorégulation menées et fondées sur les usages, les contrats, les codes de bonne conduite, les labels et autres pratiques8. À notre sens, le cyberespace offre un modèle de régulation semblable à celui qui pourrait être employé pour l’IA9. Les enjeux des réseaux numériques et de l’IA présent des similarités. Ils sont ceux, sans exhaustivité, de la confiance, de la responsabilité, de la transparence, de la concurrence, de la protection des droits fondamentaux en général (non-discrimination et vie privée en particulier) et de la sauvegarde de la propriété intellectuelle10. Dans l’optique de réguler l’IA, l’espace numérique constitue sans aucun doute un laboratoire d’essai (parmi d’autres11) systématisant les acteurs qui y participent ainsi que les types de normes susceptibles de s’appliquer. Précisément, durant les dernières décennies écoulées certains objets émergents – que ce soit les activités des plateformes numériques ou l’éthique des affaires – ont été « saisis » par le droit12 de deux façons différentes. Face à la nouveauté, le système juridique peut privilégier l’adaptation de corps de règles existantes13 pour ne créer de régime particulier qu’à la marge14. Toutefois, remarquons pour ce qui nous concerne que ces modes de confection de la norme coexistent en réalité de façon un peu plus équilibrée. Cyberespace et IA sont à même de générer des normes ad hoc, spécifiques au secteur15 et non plus seulement des règles juridiques ajustées16. Parmi le maillage normatif relatif à l’IA, l’on observe un usage tous azimuts de la soft law.
3L’usage tous azimuts de la soft law – À propos de la soft law – ou « droit souple » pour les francophones – Madame I. Hachez s’interroge : « qui trop embrasse mal étreint ? »17. Bienheureux celui qui parviendrait à définir ce concept en toute brièveté tant il est hétérogène, que ce soit au niveau des instruments, des acteurs, des destinataires18 ou même des conceptions circulant au sein de la théorie générale des sources du droit19. Puisant son origine première dans le droit international public20, la soft law s’entend de façon générale des formes souples de régulation sociale21. Ceci regroupe synthétiquement un droit souple d’origine publique et privée : documents à caractère programmatoire, recommandations, résolutions, déclarations et codes de bonne conduite. Propice dans l’ordre international et européen22, la soft law irrigue aujourd’hui les différents droits nationaux et, dans notre système juridique, de nombreuses branches du droit.
4En matière d’IA, son usage est maximal et est, en partie, orienté vers l’éthique de l’IA23. Ainsi, en droit international, l’UNESCO24 et l’OCDE25 se sont dotés de documents préparatoires et recommandatoires. Au niveau du Conseil de l’Europe, un comité ad hoc sur l’intelligence artificielle (CAHAI) a été mis en place, dans le prolongement d’une série de normes mondiales et d’instruments juridiques26. En juin 2021, une résolution sur la liberté d’expression et les technologies numériques a été adopté par les ministres spécialisés des États membres27. Au niveau des espaces de communication publics et des médias, ils s’engagent notamment « à créer, si nécessaire, les conditions réglementaires indispensables pour garantir l’utilisation totalement respectueuse de la liberté d’expression des processus automatisés de création et de diffusion d’informations ». Concernant les acteurs du secteur, ils sont invités à évaluer les « éventuelles incidences négatives sur les droits fondamentaux et la sécurité des utilisateurs » et prendre des mesures appropriées de prévention et d’atténuation des risques28. L’Union européenne, quant à elle, tient un rôle de premier plan en proposant l’une des premières législations en la matière. Au-delà de ce droit que l’on pourrait qualifier de hard law, une part belle est faite à la soft law, notamment à travers son livre blanc29, ses lignes directrices30 et autres communications. Enfin, les États eux-mêmes recourent particulièrement au droit souple lorsqu’il s’agit d’offrir à l’IA un cadre juridique embryonnaire31.
5Que ces documents demeurent dans l’infra-droit ou constituent l’antichambre d’un droit dur32, ils n’en sont pas moins une source d’inspiration, voire d’influence vis-à-vis des entreprises privées33 lesquelles adoptent déjà de façon spontanée34 des principes en la matière. Mis en évidence par le Conseil d’État comme faisant partie du droit35, le droit souple souffre toutefois toujours d’un déficit de juridicité lorsqu’il émane des grandes entreprises. Ceci paraît bien moins exact lors son adoption est imposée ou recommandée par les pouvoirs publics : c’est le cas par exemple des codes anti-corruption, codes de conduite RGPD et maintenant des codes pour l’éthique de l’IA nouvellement prescrits par l’UE36.
6En tout état de cause, que la soft law soit d’origine publique, purement privée ou le produit de la corégulation37, elle est pour l’entreprise un procédé attractif.
7L’attractivité de la soft law en matière d’IA – La régulation juridique de l’IA par la soft law présente plusieurs niveaux d’intérêts pour l’entreprise.
- À l’échelle des relations existantes entre l’entreprise et ses parties prenantes : les normes de soft law externes en matière d’IA, en particulier celles créées par l’Union européenne, sont susceptibles d’exercer sur l’entreprise une sorte de pression normative. Dans ce contexte, celle-ci a alors vocation à recourir à des instruments de droit souple soit pour imiter l’organisation, soit pour se conformer à ses prescriptions ou recommandations.
- À une plus petite échelle, celle de l’entreprise et de son périmètre : les normes de soft law en matière d’IA créées par l’entreprise produisent des effets liés à ses raisons d’être, sa structure, ses responsabilités.
8Ces deux niveaux traduisent plus précisément le rôle que l’entreprise peut occuper dans la régulation juridique de l’IA. Au regard de la nature privée de l’entité, la soft law ainsi élaborée intervient au soutien d’une IA éthique (I) laquelle participe de l’identité même de l’entreprise (II).
I. Une soft law d’entreprise au soutien d’une IA éthique
9Le pouvoir et l’exercice du pouvoir se conçoivent dans des espaces délimités. Celui de l’intelligence artificielle est résolument intangible, indéfini. Celui dans lequel la grande entreprise exerce ses activités est déterritorialisé, insaisissable. Selon toute vraisemblance, la contrainte juridique ne trouve pas facilement dans cette alliance une terre d’élection. Si les normes qui en émergent sont douces, les pouvoirs à l’œuvre peuvent l’être tout autant. À notre sens, soft law et soft power traduisent tous deux les forces motrices d’une IA éthique (A) matérialisée par des codes de conduite en voie d’élaboration (B).
A. Les forces motrices d’une IA éthique : de la soft law au soft power
10Le soft power propice dans l’ordre juridique international – Dans un contexte de mondialisation de l’économie et du droit38, les entreprises multinationales (EMN) sont devenues des acteurs à part entière de la scène internationale39, des concurrents directs de l’ordre juridique étatique. Qualifiées par G. Farjat de « pouvoirs privés économiques »40, les EMN disposeraient en cette qualité « d’un pouvoir de décision unilatérale analogue sur le plan matériel à celui de la puissance publique »41. L’on assisterait à une « dilution des espaces nationaux », à la création de « nouvelles différenciations spatiales reposant sur l’émergence de nouveaux territoires »42. L’entreprise comme figure d’un législateur privé43 s’illustre tout particulièrement en matière d’éthique des affaires, par l’édiction de codes de conduite régissant le comportement de l’entreprise et de ses partenaires commerciaux sur le marché et dans un espace transnational. Instruments premiers de la responsabilité sociale de l’entreprise (RSE)44, les codes et autres chartes constituent des normes de soft law emblématiques de la catégorie. Dans le cadre de la régulation juridique de l’IA, nous l’avons observé, les normes de droit souple – fondées sur l’adhésion des destinataires45 – sont légion. Cette soft law se doublerait alors d’un soft power. Développée par le professeur américain J. Nye et traduisible en français par la « manière douce » ou le « pouvoir de convaincre », cette expression est utilisée dans le domaine des relations internationales. Elle traduit la force de persuasion, d’influence des EMN qui se matérialise dès lors par des normes nécessairement non contraignantes et orientées « selon le bon vouloir des sociétés et dans la direction qu’elles estiment idéales »46. Les interactions entre l’État et l’entreprise peuvent se concevoir à l’aune de ce soft power. L’entreprise en est à la fois détentrice et l’objet de la part des autorités publiques.
11L’influence réciproque de l’État et de l’entreprise – D’un côté, l’adoption par l’entreprise de normes de droit souple induit une certaine pression vis-à-vis des acteurs étatiques. Dans un monde globalisé, la compétition normative entre structures publiques et privées y est à son comble et l’État ne peut échapper à une logique concurrentielle, libérale et internationaliste47. Pour l’Union européenne, « l’action s’impose » pour donner naissance à une véritables règles harmonisées en matière d’IA. De ce point de vue, les États sont donc incités à agir au regard de l’autorégulation menée par l’entreprise. Pour autant, la pression exercée par les acteurs transnationaux sous l’effet de la mondialisation obligerait l’État à réduire la contrainte dans ses règles. Ainsi, en matière d’IA, l’on s’interroge : « Les principes et les chartes éthiques adoptés comme guides de référence pour l’intelligence artificielle et le big data n’ont-ils pas eu pour conséquence jusqu’à présent de dissuader les autorités de légiférer alors que le marché de la transformation numérique est encore un marché naissant ? »48. Relevons, peut-être de façon plus mesurée, que si le cadre juridique établi par l’Union européenne est « solide », il est aussi « souple », c’est-à-dire qui repose sur un système réglementaire proportionné. Ce dernier « ne crée pas de restrictions commerciales injustifiées » et s’applique aux situations concrètes dans lesquelles des préoccupations légitimes existent ou sont prévisibles à court terme49. À l’instar de la RSE, ce serait peut-être le modèle « réflexif-procédural » qui serait le plus approprié pour rendre compte de l’articulation des espaces de pouvoir. L’État est régulateur, ne se substitue pas aux agents économiques mais leur impose certaines règles du jeu. Il devient un garant de l’ordre et de la cohésion50.
12D’un autre côté, si l’entreprise est indubitablement un moteur de la régulation de l’IA, de son propre chef – et par ricochet – vis-à-vis des acteurs étatiques, elle l’est également au regard de la pression que cette fois-ci les autorités publiques exercent sur elle. Une forme de régulation est aussi « proposée » par l’État à l’EMN51. La réglementation instaurée en matière de lutte anti-corruption et en faveur de la protection des données personnelles nous offre des modèles de pratiques pertinents. La loi Sapin II du 12 décembre 2016 introduit l’obligation pour certaines entreprises de se doter d’un code de conduite définissant et illustrant les différents types de comportements à proscrire comme étant susceptibles de caractériser des faits de corruption ou de trafic d’influence52. Quant au RGPD, il y a moins d’obligation ici qu’une invitation à adopter un code pour préciser les modalités d’application du règlement53. En matière d’IA, la méthode retenue par l’Union européenne nous apparaît similaire. Dans l’article 69 de la proposition de règlement établissant des règles harmonisées, la Commission et les États membres doivent encourager et faciliter l’élaboration de codes de conduite destinés à favoriser l’application volontaire aux systèmes d’IA d’un certain nombre d’exigences.
13L’incitation à la création de tels instruments n’est pas neutre. Le code de conduite – ou charte éthique – est, sinon une véritable source du droit54, du moins un outil de compliance55 véhiculant aujourd’hui les grands objectifs idéaux auxquels l’intelligence artificielle devra demain répondre.
B. La matérialisation d’une IA éthique : l’élaboration de codes de conduite
14Le lien entre intelligence artificielle et éthique – Nul doute que la régulation de l’IA s’amorce à travers le caractère éthique qu’elle devrait revêtir. Plusieurs motifs semblent présider à l’élection d’une telle relation. D’une part, si l’on distingue éthique et droit, la première possèderait des avantages vis-à-vis du second : « souplesse normative, horizontalité de la règle, adhésion des acteurs et donc forte effectivité, transnationalité... »56. D’autre part, la corrélation entre éthique et IA ne relève pas du hasard lorsqu’on observe leur nature respective. L’éthique touche aux valeurs et aux principes moraux57. Se concevant comme une source spécifique de la morale, elle se caractérise par référence au bon et au mauvais et se rapporte à un individu ou un groupe58. Ainsi, l’on s’interroge : « Qu’est-ce qu’une bonne action ? », « Quelle est la valeur d’une vie humaine ? »59. Justement, l’IA renouvelle ses questions au regard du fait qu’elle enchevêtre « sciences et techniques (mêlant informatique, mathématiques, statistiques et probabilités), dont le mode de fonctionnement est parfois impossible à rendre compréhensible et dont les implications sont potentiellement majeures sur notre société et les droits fondamentaux »60. Plus précisément, la pratique des algorithmes laisserait apparaître des biais pouvant conduire à une atteinte aux libertés, à l’égalité comme à la dignité de la personne humaine61. Face à ses finalités désirables, l’éthique d’entreprise ouvrirait la voie à une IA « digne de confiance ». Elle est pour la CNIL « une éclaireuse du droit » permettant d’aménager un espace de réflexion collective sur un pacte social susceptible d’être fragilisé par l’évolution technologique62.
15Les initiatives privées – Les initiatives de grandes entreprises se développent en la matière, promouvant par là-même des principes susceptibles de devenir – avec les normes publiques63 – une forme de tronc commun composant le cadre juridique de l’IA. À ce titre, Microsoft a élaboré six « Principes de l’IA » consistant à ce que les systèmes d’IA doivent traiter les personnes avec équité mais aussi être sûrs, fiables, sécurisés, compréhensibles ; respecter la confidentialité ; impliquer tout le monde et intéresser les individus lesquels ont une part de responsabilité dans les systèmes d’IA64. De la même manière, Google a établi plusieurs objectifs pour les applications d’IA : être socialement bénéfique, éviter de créer des ou de renforcer des préjugés injustes, être construit et testé pour la sécurité, être responsable envers les individus (« nos technologies d’IA seront soumises à une direction et à un contrôle humains appropriés »), incorporer le principe de confidentialité, maintenir des normes élevées d’excellence scientifique. En outre, des abstentions sont prévues : ne pas concevoir ou déployer dans l’avenir des technologies qui causent ou sont susceptibles un préjudice global, des blessures aux personnes, qui collectent ou utilisent des informations pour la surveillance en violation des normes internationales et plus largement qui portent atteinte au droit international et aux droits de l’homme65. D’autres entreprises ont adopté des principes similaires mais davantage formalisés, notamment par des codes, comme par exemple BMW66 ou MAIF67. À noter que les principes dégagés pour une IA éthique ne relèvent pas exclusivement de démarches individuelles. À cet égard, Partnership on AI est une organisation à but non lucratif formée par les principaux acteurs de l’intelligence artificielle (Facebook, Google, IBM, Microsoft) à laquelle se sont ralliées de nombreuses entreprises mais aussi des personnalités du monde académique et économique en vue d’assurer l’éthique de l’IA. Des valeurs centrales émergent de l’ensemble de ces documents. Elles sont celles de la sécurité, la confidentialité, la responsabilité (accountability), la transparence et la non-discrimination.
16Bien qu’il existe de multiples objections formulées à l’encontre des normes éthiques privées68, celles-ci se trouvent assorties d’un suivi de leur application et d’un ensemble de mesures destinées à les intégrer aux structures de l’entreprise. Son organisation s’en trouve adaptée. De façon continue, au gré des phénomènes qui interrogent sa raison d’être, c’est l’identité de l’entreprise vient à être refaçonnée.
II. Une IA éthique participant de l’identité de l’entreprise
17Face aux risques générés par les multiples applications de l’intelligence artificielle, l’organisation de l’entreprise et sa gouvernance s’adaptent pour permettre leur identification et subséquemment, leur prévention. Une telle réponse de l’entreprise n’est pas inédite. Pour la RSE, il est fait référence à une « révolution du paradigme de l’entreprise »69. Avec l’IA c’est son rôle sociétal qui se trouve une nouvelle fois questionné70. L’éthique de l’IA repose sur un mécanisme de régulation éprouvé en matière d’éthique des affaires (A) et pour lequel la faveur est donnée à une logique de compliance en plein essor (B).
A. Un mécanisme de régulation éprouvé en matière d’éthique des affaires
18La jonction de l’IA et de l’éthique des affaires – L’éthique des affaires constitue à notre sens un précédent sans pareil pour la compréhension des effets que l’éthique de l’IA peut produire. Le pouvoir normatif de l’entreprise, la prise en compte de ses parties prenantes, l’effectivité promue de ses normes, la défense et la prévention mais aussi l’intention, la volonté et la conscience sont autant de balises possibles jalonnant sa responsabilité « sociale », « sociétale ». L’« arrimage » de l’IA à la RSE est même évoqué. Dans ce cadre, la compatibilité entre les deux est à approfondir tant l’IA semble à la fois « prometteuse et porteuses de potentiels effets négatifs ». En outre, l’intégration de l’IA dans le champ de la RSE pourrait consister à la considérer en soi comme l’un de ses objets ou bien comme un nouveau champ explicite de l’éthique des affaires71. Quoi qu’il en soit, dans ce domaine, éthique et profits se combinent, autour d’un « intérêt bien compris »72 de l’entreprise.
19Une IA éthique guidée par des stratégies d’évitement et de bénéfice – Les stratégies que pourraient mener l’entreprise dans un contexte de régulation de l’IA sont susceptibles de répondre, de notre point de vue, aux enjeux que présente la soft law d’entreprise en matière d’éthique des affaires. En premier lieu, par l’édiction de codes de conduite, les entreprises échapperaient à plusieurs maux. Éviter l’émergence de législations contraignantes à leur égard est l’un des premiers objectifs poursuivis73. Il s’agit de réguler par soi et pour soi avant que les acteurs étatiques ne le fassent. En matière d’IA, ce motif est quelque peu atténué en raison d’une corégulation manifeste, comme nous l’avons observé précédemment. Pour autant, l’État et l’entreprise (et dont l’influence est mutuelle) sont tous deux détenteurs d’un soft power, ce qui pourrait aboutir à réguler avec une contrainte moindre. De plus, les codes de conduite seraient garantis « par des mécanismes répressifs redoutables » tels que l’exclusion exercée par les autres membres du groupe74. En effet, ce serait à un « club » auquel les entreprises responsables appartiendraient. Par analogie, adopter des normes en faveur d’une IA éthique relève de « “ce qu’il faut faire”, ce qu’il est convenable d’afficher au regard de ses partenaires, de ses concurrents et plus généralement de toutes les personnes avec lesquelles l’entreprise est en relation »75. Dans ce contexte, il serait préférable de ne pas susciter la réprobation des autres entreprises vertueuses en matière d’éthique de l’IA. En second lieu, une démarche de conformité peut être recherchée dans une optique de gains, notamment financiers. De ce point de vue, la réputation d’une entreprise constitue un actif important en tant que facteur de compétitivité76. Or, l’existence de pratiques liées à une IA qui ne connaît aucune ou peu de restrictions de quelque sorte pourrait sans aucun doute affecter la réputation de l’entité. Par ailleurs, grâce à l’établissement de codes de conduite, l’entreprise se conçoit comme un acteur économique pionnier, susceptible de ce fait de profiter d’un certain « avantage concurrentiel » sur le marché de l’éthique de l’IA. L’entreprise qui agit de façon proactive, qui anticipe la régulation à venir devient leader, chef de file77.
20La régulation juridique de l’IA devrait s’inscrire dans le sillon creusé au cours des dernières décennies par les phénomènes de RSE et de droit souple. Ceci nous paraît d’autant plus plausible que les méthodes et techniques de compliance en voie de développement apparaissent ici favorisées par les entités publiques et privées.
B. La faveur donnée à une logique de compliance en plein essor
21Une compliance omniprésente – Il semble quasiment d’usage de ne plus présenter la notion de compliance tant elle est conçue comme la logique de régulation moderne, constituant un véritable droit en soi78 ou, a minima, un ensemble de techniques et de procédures79. Cependant, il paraît peu aisé de transposer cette notion anglo-saxonne dans notre système juridique fondé sur la légalité et la coercition étatique. Visiblement, l’ex post laisse place à l’ex ante, la relation verticale existante entre la loi et l’entreprise côtoie un « milieu horizontal » au sein même de celle-ci pour faire diminuer le risque d’infraction aux règles80. Ainsi, afin de garantir la conformité « des comportements de l’entreprise, de ses dirigeants, de salariés aux normes juridiques et éthiques qui leur sont applicables »81, une myriade d’obligations de type procédural sont édictées par le législateur, laissant aux entreprises le soin d’instaurer en leur sein les dispositifs adaptés. De la lutte contre la corruption à la protection des données personnelles, elles consistent – sans exhaustivité – en la mise en place de codes de conduite, de procédures d’identification des risques, d’évaluation des fournisseurs, d’alerte éthique, de rapports annuels, d’actions de formation des personnels, sans omettre le contrôle interne de ces mêmes mesures, la labellisation et certification. Ces pratiques gagnent dès lors leurs lettres de noblesses là où auparavant, lorsqu’elles avaient cours dans l’entreprise, elles ne formaient qu’une masse confuse de techniques de gestion dont le juriste n’avait cure. Que la compliance soit à plébisciter pour son efficacité sur la mise en œuvre du droit82 ou à honnir pour son indétermination chronique, la régulation juridique de l’intelligence artificielle ne semble pas pouvoir y échapper.
22La compliance d’une IA éthique – L’éthique de l’IA relève sans aucun doute d’une logique de « compliance active »83. Les propositions en faveur d’un cadre réglementaire de l’IA placent la gestion des risques en leur cœur. Celle du Parlement et du Conseil établissant des règles harmonisées en témoigne particulièrement, instituant à l’égard des systèmes d’IA à haut risque des exigences singulières, telles que des obligations strictes de prévention, d’évaluation, de transparence, de contrôle (art. 9). De la même façon, le Conseil de l’Europe recommande aux développeurs, fabricants et prestataires de services en IA d’instaurer une politique de gestion des risques consistant à « évaluer et répertorier les éventuelles conséquences négatives des applications d’IA sur les droits de l’homme et les libertés fondamentales et adopter des mesures appropriées de prévention et de réduction des risques dès la conception (approche centrée sur les droits de l’homme dès la conception) et pendant toute leur durée de vie »84. Matériellement, les outils de la compliance devraient jouer à plein. Des « cadres pour la gouvernance » devront être définies par les organisations afin de garantir « la responsabilité à l’égard des dimensions éthiques des décisions associées à la mise au point, au déploiement et à l’utilisation de l’IA ». Cela impliquerait par exemple la nomination d’une personne chargée des questions d’éthique en lien avec l’IA, ou d’un groupe ou conseil interne/externe traitant de ces questions – à l’instar des comités d’éthique déployés en matière de RSE85. Quant aux codes de conduite, les entreprises pourraient édicter des codes spécialement conçus pour l’usage de l’IA ou intégrer des dispositions en ce sens au sein de codes déjà existants – comme le suggère le Groupe d’experts indépendants de haut niveau sur l’intelligence artificielle constitué par la Commission européenne en 201886. Dans cette lignée, la formation des acteurs de l’IA (programmeurs, ingénieurs, développeurs, techniciens) pour penser l’éthique dès la conception apparaît essentielle87. Concernant la mise en œuvre de ces mesures, ainsi que le contrôle de celle-ci, l’entreprise devrait en assurer la charge, dans la continuité des procédures d’autocontrôles menées en matière d’éthique des affaires88. De la sorte, Microsoft entend rendre opérationnelle l’IA responsable, soit faire respecter ses principes dans les groupes d’ingénierie, grâce à des entités spécifiques (Comité AETHER, Bureau de l’IA responsable et RAISE).
23Les modes de régulation juridique de l’IA révèlent une entreprise motrice au niveau de son élaboration, actrice vis-à-vis de l’application de ses normes. Voici une identité en voie d’être affirmée, renforcée, potentiellement pérennisée. Puissent dès lors les pouvoirs se conjuguer et être placés, conformément au souhait de la Commission, « au service du progrès de l’humain »89.
Notes de bas de page
1 M.-A. Frison-Roche, « Les entreprises “cruciales” et leur régulation », in L’entreprise dans un monde sans frontières, Perspectives économiques et juridiques, A. Supiot (dir.), Dalloz, coll. Les sens du droit, 2015, p. 253 ; Du même auteur, « Réguler les “entreprises cruciales”», D. 2014, p. 1556.
2 Acronyme de Google, Apple, Facebook, Amazon et Microsoft, auquel s’adjoint désormais celui de NATU (Netflix, Airbnb, Tesla et Uber).
3 M. Vivant (dir.) et al., Le Lamy Droit du numérique, Wolters Kluwer, 2021, n° 2055 et s.
4 M.-A. Frison-Roche, Internet, espace d’interrégulation, Dalloz, coll. Thèmes et commentaires, 2016.
5 C. Paul, Du droit et des libertés sur l’internet, La corégulation, contribution française pour une régulation mondiale, Rapport au Premier ministre, La Documentation française, 2000, p. 69.
6 Ibid.
7 Les instances nationales visées sont l’ART, le CSA, la CNIL, la COB, le BVP.
8 Ibid., p. 47 et s.
9 J. Nocetti, Intelligence artificielle et politique internationale, Les impacts d’une rupture technologique, IFRI, Nov. 2019, p. 32.
10 Commission européenne, Proposition de règlement du Parlement européen et du Conseil établissant des règles harmonisées concernant l’intelligence artificielle, COM(2021) 206 final, 21 avr. 2021 ; Commission européenne, Livre blanc intelligence artificielle, Une approche européenne fondée sur l’excellence et la confiance, COM(2020) 65 final, 19 févr. 2020.
11 V. infra à propos de l’éthique des affaires.
12 Parmi une abondante littérature sur le phénomène de la RSE et sa réception par le système juridique v. notamment R. De Quenaudon, K. Martin-Chenut (dir.), La RSE saisie par le droit, Perspectives interne et internationale, Pedone, 2016 ; M.-C. Caillet, Le droit à l’épreuve de la responsabilité sociétale des entreprises : étude à partir des entreprises transnationales, Université de Bordeaux, 2014.
13 Concernant la régulation des plateformes numériques, v. Puissance publique et plateformes numériques : accompagner l’“ubérisation”, Étude annuelle du Conseil d’État, La Documentation française, 2017, p. 8 : « Le premier enseignement de cette étude est que si les plateformes numériques tendent à développer leurs activités dans les failles des systèmes juridiques existants, il n’est pas pour autant nécessaire de créer de toutes pièces un droit nouveau pour réguler leur fonctionnement. Des adaptations suffisent ; mais elles sont indispensables ».
14 Toutefois ce constat est à relativiser par exemple pour les plateformes numériques surtout au niveau européen, v. notamment les projets de règlements Digital Services Act et Digital Markets Act du 15 déc. 2020 ainsi que le Règlement (UE) 2019/1150 du Parlement européen et du Conseil du 20 juin 2019 promouvant l’équité et la transparence pour les entreprises utilisatrices de services d’intermédiation en ligne.
15 Commission européenne, Proposition de règlement du Parlement européen et du Conseil établissant des règles harmonisées concernant l’intelligence artificielle, préc.
16 Le 20 octobre 2020, deux résolutions sont adoptées par le Parlement européen, l’une à propos d’un régime de responsabilité civile pour l’intelligence artificielle, l’autre relative aux droits de propriété intellectuelle pour le développement des technologies liées à l’intelligence artificielle. Le 20 janvier 2021, le Parlement européen a adopté une résolution sur l’intelligence artificielle et les « questions relatives à l’interprétation et à l’application du droit international dans la mesure où l’Union est concernée dans les domaines des utilisations civiles et militaires ainsi qu’à l’autorité de l’État en dehors du champ d’application de la justice pénale ». Le 19 mai 2021, il s’agit d’une résolution concernant les domaines de l’éducation, de la culture et de l’audiovisuel.
17 I. Hachez, « Le soft law : qui trop embrasse mal étreint ? », in Les sources du droit revisitées, vol. 4, Théorie des sources du droit, I. Hachez et al. (dir), Anthémis, Université Saint-Louis Bruxelles, 2013, p. 539.
18 Ibid., spéc. p. 541.
19 V. notamment I. Hachez, « Balises conceptuelles autour des notions de “source du droit”, “force normative” et “soft law” », RIEJ 2010, 65, p. 1 ; M. Larouer, Les codes de conduite, sources du droit, Dalloz, Nouvelle Bibliothèque de Thèses, 2018, p. 229 et s.
20 J. Salmon, Dictionnaire de droit international public, Bruylant, coll. Universités francophones, 2000, v° « soft law », p. 1039 : « règles dont la valeur normative est limitée soit parce que les instruments qui les contiennent ne seraient pas juridiquement obligatoires, soit parce que les dispositions en cause, bien que figurant dans un instrument contraignant, ne créeraient pas d’obligations de droit positif, ou ne créeraient que des obligations peu contraignantes ».
21 I. Hachez, « Balises conceptuelles autour des notions de “source du droit”, “force normative” et “soft law” », préc., p. 39.
22 V. dossier « La soft law en droit de l’Union européenne », Rev. UE 2014, n° 575, p. 72 et s.
23 Commission européenne, GEHN IA, Lignes directrices en matière d’éthique pour une IA digne de confiance, 8 avr. 2019, pt. 152 : L’IA éthique « désigne la mise au point, le déploiement et l’utilisation d’une IA qui garantit une conformité avec les normes éthiques, y compris les droits fondamentaux en tant que droits moraux spéciaux, les principes éthiques et les valeurs essentielles qui s’y rapportent ».
24 UNESCO, Avant-projet de recommandation sur l’éthique de l’intelligence artificielle, 7 sept. 2020.
25 OCDE, Recommandation du Conseil sur l’intelligence artificielle, OECD/LEGAL/0449, 22 mai 2019.
26 COE, Vers une régulation des systèmes d’IA, Perspectives internationales sur l’élaboration d’un cadre juridique fondé sur les normes du Conseil de l’Europe dans le domaine des droits de l’homme, de la démocratie et de l’État de droit, déc. 2020, p. 5 ; V. notamment COE, CEPEJ, Charte éthique européenne d’utilisation de l’intelligence artificielle dans leur système judiciaire et leur environnement, févr. 2019.
27 COE, Conférence des Ministres responsables des Médias et de la Société de l’Information, Intelligence artificielle – Une politique intelligente Défis et opportunités pour les médias et la démocratie, 10-11 juin 2021.
28 Ibid., p. 9.
29 Commission européenne, Livre blanc intelligence artificielle, Une approche européenne fondée sur l’excellence et la confiance, préc.
30 Commission européenne, GEHN IA, Lignes directrices en matière d’éthique pour une IA digne de confiance, préc.
31 Par exemple, en 2019, le gouvernement américain a lancé l’« American IA Initiative » dont l’un des piliers concerne la gouvernance et consistant à confier à un certain nombre de groupements l’élaboration d’un guide pour assurer l’usage éthique et sécurisé de l’IA. Au Japon, en 2019 ont été publiés les « Principes sociaux de l’intelligence artificielle centrés sur l’humain ». En outre de nombreuses stratégies nationales sont à l’œuvre, comme c’est le cas en la France, en Allemagne, au Canada, en Corée du Sud, en Chine ou en Australie.
32 Le droit souple, Étude annuelle du Conseil d’État, La Documentation française, 2013, p. 91.
33 V. infra.
34 C’est-à-dire par elles et pour elles.
35 Le droit souple, Étude annuelle du Conseil d’État, préc., 56.
36 V. infra.
37 K. Benyekhlef, Une possible histoire de la norme, Les normativités émergentes de la mondialisation, Thémis, 2008, p. 769 : « La corégulation est une association spécifique de régulation étatique et non étatique. Ce concept permettrait de combiner réglementation étatique et régulation privée et de les rendre complémentaire. ».
38 E. Loquin, C. Kessedjian (dir.), La mondialisation du droit, Litec, coll. Travaux du CREDIMI, vol. 19, 2000.
39 J. Chevallier, L’État post-moderne, LGDJ, coll. Droit et société, vol. 35, 2003, p. 40.
40 G. Farjat, « Les pouvoirs privés économiques », in Souveraineté étatique et marchés internationaux à la fin du 20e siècle, À propos de 30 ans de recherche du CREDIMI, Mélanges en l’honneur de Philippe KAHN, Litec, coll. Travaux du CREDIMI, 2000, p. 613, spéc. p. 622.
41 Ibid., p. 613.
42 CH.-A. Michalet, « Les métamorphoses de la mondialisation, une approche économique », in La mondialisation du droit, préc., p. 11, spéc. p. 42.
43 P. Deumier, « Les codes de conduite des entreprises et l’effectivité des droits de l’homme », in Droit économique et droits de l’homme, L. Boy, J.-B. Racine, F. Siiriainen (dir.), Larcier, coll. Droit/Économie international, 2009, p. 671, spéc. p. 693.
44 V. parmi une abondante littérature, ; I. Desbarats, G. Jazottes, « La responsabilité sociale des entreprises : quel risque juridique ? », JCP S 2012, 1293.
45 Le droit souple, Étude annuelle du Conseil d’État, préc., p. 61.
46 A. Kairouani, « Le pouvoir normatif des entreprises multinationales en droit international », RIDE 2020/3 t. XXXIV, p. 253, spéc. p. 288.
47 R. Raffray, « La multinationale et la création du droit », in Les nouveaux pouvoirs, Approche pluraliste des foyers de création du droit, A.-B. Caire (ss. coord.), Bruylant, 2017, p. 73, spéc. p. 76.
48 B. Deffains, « Concurrence des normativités : un point de vue économique », RIDE 2018/3, t. XXXII, p. 269, spéc. p. 278.
49 Commission européenne, Proposition de règlement du Parlement européen et du Conseil établissant des règles harmonisées concernant l’intelligence artificielle, préc.
50 A.-J. Arnaud, « Introduction », in Les transformations de la régulation juridique, J. Clam, G. Martin (dir.), LGDJ, coll. Droit et société, Recherches et travaux, 1998, p. 75, spéc. p. 82.
51 R. Raffray, « La multinationale et la création du droit », préc., p. 79.
52 Article 17, II. de la loi n° 2016-1691 du 9 décembre 2016 relative à la transparence, à la lutte contre la corruption et à la modernisation de la vie économique, JORF n° 0287 du 10 déc. 2016.
53 Article 40, Règlement (UE) 2016/679 du Parlement européen et du Conseil du 27 avril 2016 relatif à la protection des personnes physiques à l’égard du traitement des données à caractère personnel et à la libre circulation de ces données.
54 M. Larouer, Les codes de conduite, sources du droit, Nouvelle Bibliothèque de Thèses, Dalloz, 2018.
55 V. infra.
56 A. Bensamoun, « Stratégie européenne sur l’intelligence artificielle : toujours à la mode éthique... », D. 2018, p. 1022.
57 Commission de l’éthique en science et en technologie, sous l’onglet « éthique » : http://www.ethique.gouv.qc.ca/fr/ethique/quest-ce-que-lethique/lethique-et-la-morale-de-quoi-on-parle.html.
58 M. Mekki, « Considérations sociologiques sur les liens entre droit et morale », in Droit et morale, Aspects contemporains, D. Bureau, F. Drummond, D. Fenouillet (dir.), Dalloz. coll. Thèmes et commentaires, 2011, p. 27, spéc. n° 6, p. 30. L’objet de la morale est de faire la part du bien et du mal et est relatif à une pensée universelle.
59 Commission européenne, GEHN IA, Lignes directrices en matière d’éthique pour une IA digne de confiance, préc., pt. 150.
60 Y. Meneceur, L’intelligence artificielle en procès, Plaidoyer pour une règlementation internationale et européenne, Bruylant, 2020, p. 36.
61 I. Bufflier, « IA et éthique d’entreprise », Cah. drt. ent., n° 3, mai-juin 2020.
62 CNIL, Comment permettre à l’homme de garder la main ? Les enjeux éthiques des algorithmes et de l’intelligence artificielle, déc. 2017, p. 24. V. encore, F. Buy, J. Théron, « L’éthique de l’entreprise », JCP E 2013, 1359, p. 24.
63 Notamment les lignes directrices établies par le GEHN IA en 2018 et la résolution du Parlement européen du 20 octobre 2020 contenant des recommandations à la Commission concernant un cadre pour les aspects éthiques de l’intelligence artificielle, de la robotique et des technologies connexes (2020/2012(INL).
64 Disponibles sur : https://www.microsoft.com/fr-fr/ai/responsible-ai?activetab=pivot1:primaryr6.
65 Disponibles sur : https://www.blog.google/technology/ai/ai-principles/.
66 BMW, Code of ethics for artificial intelligence, 12 oct. 2020.
67 MAIF, Pour un monde numérique résolument humain et éthique.
68 Telles qu’une juridicité incertaine, un risque de privatisation de la norme et de désengagement des autorités, A. Bensamoun, « Stratégie européenne sur l’intelligence artificielle : toujours à la mode éthique... », préc. V. encore, S. Merabet, Vers un droit de l’intelligence artificielle, Dalloz, Nouvelle Bibliothèque de Thèses, 2020, p. 305 et s.
69 R. Raffray, « La multinationale et la création du droit », préc., p. 79.
70 G. Jazottes, M.-P. Blin, « Le défi d’une IA inclusive et responsable », Dr. soc. 2021, p. 100.
71 Ibid.
72 B. Frydman, « Stratégies de responsabilisation des entreprises à l’ère de la mondialisation », in Responsabilités des entreprises et corégulation, T. Berns, P.-F. Docquir, B. Frydman, L. Hennebel, G. Lewkowicz, Bruylant Bruxelles, coll. Penser le droit, 2007, p. 1, spéc. p. 18.
73 Ph. Aonzo, « Point de vue sur l’éthique de l’entreprise », LPA, 14 sept. 2001, n° 184, p. 4.
74 D. De Béchillon, Qu’est-ce qu’une règle de droit ?, Éditions Odile Jacob, 1997, p. 68.
75 B. Frydman, « Stratégies de responsabilisation des entreprises à l’ère de la mondialisation », in Responsabilités des entreprises et corégulation, préc., spéc. p. 26.
76 Commission européenne, Livre vert, Promouvoir un cadre européen pour la responsabilité sociale des entreprises, COM(2001) 366 final, 18 juill. 2001, pt. n° 43.
77 C. Gendron, A. Lapointe, M.-F. Turcotte, « Responsabilité sociale et régulation de l’entreprise mondialisée », Relations industrielles/Industrial Relations, 2004, vol. 59, n° 1, p. 73, spéc. p. 78.
78 M.-A. Frison-Roche, « Le droit de la compliance », D. 2016, 1871.
79 A. Gaudemet, « Qu’est-ce que la compliance ?», Commentaire, 2019/1, n° 165, p. 109.
80 Ibid., p. 110.
81 Ancienne définition retenue par Le Cercle de la Compliance.
82 M.-A Frison-Roche, « L’aventure de la compliance », D. 2020, p. 1805.
83 M.-P. Blin, G. Jazottes, « Le défi d’une IA inclusive et responsable », préc.
84 COE, Vers une régulation des systèmes d’IA, Perspectives internationales sur l’élaboration d’un cadre juridique fondé sur les normes du Conseil de l’Europe dans le domaine des droits de l’homme, de la démocratie et de l’État de droit, préc., p. 72.
85 Commission européenne, GEHN IA, Lignes directrices en matière d’éthique pour une IA digne de confiance, préc., §108. V. sur ce point, M.-P. Blin, G. Jazottes, « Le défi d’une IA inclusive et responsable », préc.
86 Ibid., §105.
87 C. Villani, Donner un sens à l’intelligence artificielle, Pour une stratégie nationale et européenne, 2018, p. 146. Sur ce point, v. I. Bufflier, « IA et éthique d’entreprise », préc., p. 47.
88 M. Larouer, Les codes de conduite, sources du droit, préc., §240 et s.
89 Communication de la Commission au Parlement européen, au Conseil européen, au Conseil, au Comité économique et social européen et au Comité des régions, L’intelligence artificielle pour l’Europe, COM(2018)237, 26 juin 2018, p. 22.
Le texte seul est utilisable sous licence Licence OpenEdition Books. Les autres éléments (illustrations, fichiers annexes importés) sont « Tous droits réservés », sauf mention contraire.
Qu’en est-il du code du commerce 200 ans après ?
États des lieux et projections
Corinne Saint-Alary-Houin (dir.)
2008
Qu'en est-il de la simplification du droit ?
Frédérique Rueda et Jacqueline Pousson-Petit (dir.)
2010
La réorientation européenne de la TVA à la suite du renoncement au régime définitif
Francis Querol (dir.)
2014
Regards critiques sur quelques (r)évolutions récentes du droit
Tome 1 : Bilans et Tome 2 : Réformes-Révolutions
Maryvonne Hecquard-Théron et Jacques Krynen (dir.)
2005