Une vision française de la gouvernance internationale de l’intelligence artificielle (IA)1
p. 33-50
Texte intégral
Les propos et analyses n’engagent que l’auteur et ne sauraient traduire en aucune manière les vues ou positions officielles de quelque nature que ce soit.
1En guise de préambule, rappelons que de toutes les technologies, l’IA est celle qui a tout à la fois le plus grand potentiel pour encapaciter le genre humain et le déstabiliser. Ainsi, les technologies IA ont joué une partition importante durant la pandémie : éducation en ligne, détection de virus et cas contacts, diagnostics, suivi de guérison, tandis que les synergies se sont sensiblement renforcées entre entreprises, organisations non-gouvernementales et gouvernements.
2Aussi, pour nous, individus, l’esprit est notre outil le plus puissant. Il n’y a rien qu’il ne puisse faire. Selon de nombreuses études, il génère activement de nouvelles idées même lorsque nous nous reposons ou ne faisons rien. Tout comme notre état physique dépend de ce que nous donnons à notre corps, notre état mental dépend de la qualité des informations que nous donnons à notre cerveau. Si nous l’alimentons avec des données de la vie réelle qui lui permettent de résoudre des problèmes fondamentaux, il traitera ces données en arrière-plan et trouvera des solutions inattendues.
3Or, dans les sociétés les plus connectés, nombre d’entre nous préfèrent nourrir leur esprit non pas avec des faits réels qui peuvent permettre de changer des situations données, mais avec des séries ou des vidéos « plus ou moins aléatoires ». Puisqu’à un niveau profond notre cerveau ne peut pas distinguer la fiction de la réalité, souvenons-nous que l’abondance de divertissements numériques maintient notre subconscient occupé à produire des solutions à des problèmes qui n’existent pas. Pour être créatifs et productifs, nous devons d’abord débarrasser notre esprit de la glue poisseuse des contenus non pertinents dont les recommandations algorithmiques l’inondent quotidiennement.
I. Constats
4Au fil des dix dernières années, les préoccupations publiques autour des technologies numériques s’étaient concentrées sur l’abus potentiel des données personnelles. Elles ont conduit à l’adoption de mesures en Europe et aux États-Unis garantissant aux internautes un certain niveau de contrôle sur leurs données personnelles, notamment à l’aide du Règlement Général sur la Protection des Données (RGPD) en 2018. Bien entendu, ces mesures n’ont pas mis fin au débat sur l’utilisation de ces données par les entreprises ou même gouvernements, scandé au rythme des avantages et inconvénients revendiqués par tel ou tel, selon ses convictions ou agenda.
5La discussion évolue. Si les affaires Cambridge Analytica (2018) et Clearview AI (2020) ont maintenu pour le grand public la nécessité d’actions pour encadrer l’utilisation qui est faite des données personnelles, de nombreuses organisations intègrent chaque jour davantage l’intelligence artificielle dans leurs produits, services, processus et prise de décision. L’attention se porte encore un peu plus sur la façon (et les nécessaires transparence et co-construction autour d’elle) dont les données sont utilisées par le logiciel, en particulier par des algorithmes complexes et évolutifs qui aident à disséminer les contenus (à visée informative ou non), diagnostiquer un cancer, conduire une voiture ou approuver un prêt.
6En systémique, l’équilibre risques-bénéfices (économique, social) est difficile notamment pour répondre à l’impact de l’IA en matière de sécurité publique, d’éthique, d’emploi, de protection de la vie privée, de pouvoir de marché et concurrence, de développements de gouvernements numériques et de villes intelligentes. Les risques existent de voir des acteurs dominants croiser davantage l’identité sociale et l’activité transactionnelle des individus, d’augmenter les données valorisables à disposition, permettant de mieux nourrir les modèles d’intelligence artificielle. Ils posent des questions auxquelles les décideurs politiques doivent s’efforcer de répondre au mieux : substitutions de gouvernementalité, d’allégeance des individus, structures étatiques ou banques centrales au profit d’acteurs privés, modélisations sous forme algorithmique de la société et des lois qui la gouvernent.
A. Les voies chinoises et américaines
7La Chine a été la première à lancer une stratégie globale en matière d’IA en 2017 avec le « plan de développement de l’intelligence artificielle de nouvelle génération », suivi du « plan d’action triennal pour la promotion du développement d’une industrie de l’intelligence artificielle de nouvelle génération (2017) » ciblé sur l’industrie, dans le but de devenir la nation leader mondiale en matière d’IA d’ici 2030, via l’établissement de normes internationales en termes d’interopérabilité mais aussi de sécurité et éthique. Le livre blanc sur les standards IA de l’administration de standardisation (SAC) prône pour la Chine le rôle de leader dans la gouvernance internationale sur la sécurité et l’éthique de l’IA, proposant la construction d’un « modèle de participation pluraliste et de gouvernance collaborative » citant comme parties prenantes l’ONU, le G20, l’OCDE, les industries, entreprises et le public.
8Cela s’est traduit concrètement et très schématiquement d’un côté par des investissements de recherche et développement (R&D) massifs auquel s’est ajouté un accès facile et peu réglementé à toutes sortes d’informations personnelles mis à disposition des grandes entreprises technologiques, de l’autre, par des efforts d’influence importants dans des structures telles que l’Union Internationale des Télécommunications (UIT).
9Les États-Unis ont suivi avec une stratégie nationale pour l’IA, l’American AI Initiative (2019), qui identifie la R&D comme une priorité absolue pour maintenir le leadership mondial en matière d’IA. Il en a résulté une méthodologie originale pour le développement et la diffusion de l’IA, s’appuyant sur le privé, l’ajustement empirique du marché, une bureaucratie souple et une innovation dynamique grâce à la concurrence entre entreprises et entre laboratoires, pilotée et financée par les agences fédérales. Un programme ambitieux d’influence par la gouvernance et la coopération réglementaire internationale2 s’ajoute au dispositif.
10Le rapport de la NSCAI (National Security Commission on Artificial Intelligence) publié en mars 2021, qui fournit des recommandations sur la politique de l’IA au Congrès et au président, poursuit et renforce de manière très opérationnelle les actions gouvernementales menées depuis 2019 et préfigure l’invitation graduelle des pays partenaires à choisir le « camp démocratique face aux régimes autoritaires » dans cette nouvelle lutte technologique3.
B. Inspirations méthodologiques qui en découlent
11La stratégie américaine, probablement plus proche des besoins européens en termes de réplicabilité et d’inspiration possibles met l’accent sur l’importance du marché, l’adéquation aux besoins et la commercialisation des innovations, davantage que dans les stratégies IA qui prévalent au sein de l’Union européenne. L’État accompagne les start-ups pour les aider à trouver des investisseurs et des clients, en plus de la recherche fondamentale, et finance la création de clusters. Par ailleurs, de nombreux partenariats public-privé sont mis en place avec des entreprises et des universités, ainsi que des commandes publiques (aux niveaux fédéral et fédéré) en intelligence artificielle afin de faire profiter l’État de l’expertise de ces institutions. L’administration centrale peut ainsi se concentrer sur la coordination et le financement de l’effort national en IA et endosser un rôle de stratège.
12La formation continue joue un rôle pivot dans l’approche américaine, avec une volonté établie de sensibiliser et former décideurs et agents publics aux enjeux de l’IA et de recruter des spécialistes en provenance du privé ou de la sphère académique4. Pour ce faire, l’État doit et veut retrouver une attractivité par rapport aux GAFAMI5 en augmentant les salaires et en créant des postes stimulants pour les chercheurs et les ingénieurs. Autre différenciant de la stratégie française ou même européenne, les États-Unis ne veulent pas seulement former les experts en IA, mais aussi les utilisateurs finals, dans les entreprises et parmi la population, ainsi que les dirigeants politiques, afin d’accélérer l’adoption de l’IA au sein de l’ensemble de l’économie et de préparer le monde du travail à cette révolution. Il ne s’agit donc pas seulement de soutenir la recherche, mais aussi d’encourager une utilisation optimisée des technologies émergentes afin d’en tirer un maximum de bénéfices collectifs.
13En conclusion, la méthode américaine est davantage itérative qu’en Europe : elle fonctionne par petits pas, avec des corrections tout au long du processus afin de coller le plus possible au rythme des innovations qui se succèdent (telles le « privacy preserving machine learning » promis à un bel avenir, marketing a minima) et des changements politiques. Les États-Unis sont capables de multiplier les agences sans avoir recours à une bureaucratie trop lourde, grâce à une décentralisation des tâches auprès d’organismes spécialisés, combinée à une stratégie fédérale guidée par le pouvoir central. Il en résulte une forte productivité, un « time to market » ajusté au mieux et une flexibilité dans la recherche et l’innovation, qui constituent une des forces reconnues de l’environnement technologique américain.
C. Un impératif
14Pour reformuler, l’intelligence artificielle est l’une des technologies les plus structurantes de notre avenir industriel, économique et social. Elle génère un flot d’innovations déjà conséquent, et vise à permettre tout à la fois de résoudre certains des problèmes les plus urgents de notre époque et renforcer notre compétitivité.
15L’Union Européenne, qui montre après le RGPD à nouveau la voie en termes réglementaires au travers de son livre blanc de 2020 « On Artificial Intelligence – A European Approach to Excellence and Trust » et sa proposition de 2021 pour un cadre juridique pour l’IA, considère que la régulation est essentielle au développement des outils d’IA, qu’elle doit être « future-proof », que les consommateurs peuvent avoir confiance et, en miroir, que cette confiance est par ailleurs absolument nécessaire pour le développement de la technologie.
16Cependant, imposer des obligations disproportionnées pourrait gravement entraver les méthodes d’innovation agiles sur le marché européen et les possibilités d’affiner les produits et services d’IA par itérations successives avec le marché, comme c’est souvent la norme pour les produits et services numériques. Les positions françaises viseront la mise en place d’un cadre d’obligations proportionné tant pour les acteurs économiques qui doivent mettre en œuvre des ressources et des moyens pour s’y conformer, que pour les autorités nationales/sectorielles qui ont pour mission d’assurer le contrôle et la surveillance du marché des produits soumis à cette réglementation. L’articulation entre certaines dispositions contradictoires du RGPD et du règlement régissant l’IA méritera d’être clarifiée, afin de mieux s’assurer qu’elle n’entrave pas le développement de certains usages de l’IA. Le cas échéant, des textes d’application au niveau européen et/ou national (comme le permet le RGPD) devraient être publiés.
17Au-delà de l’implication naturelle attendue au niveau des États-Membres, le nombre de répondants à la consultation publique lancée par la Commission européenne sur sa proposition6 montre un vif intérêt des parties prenantes non gouvernementales pour le projet de règlement, d’un côté (Huawei, IBM, Google, Facebook...) exprimant des craintes d’une réglementation qui laisserait trop de place à l’interprétation, à l’incertitude juridique et gagnerait donc à être plus précise, de l’autre (Amnesty, Access Now, EDRI...) un texte manquant d’ambition dans les interdictions qui doivent être mises en place.
18Il peut être retenu que le projet de réglementation européen, quand bien même des ajustements et une recherche d’un meilleur équilibre sont à apporter, est absolument nécessaire dans la structuration progressive d’un cadre global, résilient, dans une situation où se contenter d’un statu quo n’est plus envisageable pour les citoyens, les administrations et les entreprises européennes. La France se mobilisera donc activement pour obtenir une orientation partielle à l’issue de sa présidence de l’Union européenne l’été prochain.
D. Un champ particulièrement ouvert et mouvant
19En effet, le développement rapide de cette technologie et de ses applications n’est pas sans soulever de nombreuses questions : risques de dérives, d’abus ou d’erreurs, usages malveillants ou contraires aux droits de l’homme et aux libertés fondamentales7, emplois militaires dérégulés et risquant d’exacerber les conflits, et bien entendu, risque de « décrochage » des puissances qui ne réussiraient pas ces virages économiques, sociétaux et technologiques.
20Par ailleurs, les questions posées par l’IA sont étroitement adhérentes à d’autres enjeux numériques : politique de circulation des données, protection de la vie privée, soutien à l’économie numérique, fiscalité du numérique, utilisation pour la bonne gouvernance des territoires8 ou propriété intellectuelle, par exemple.
E. Une appropriation à la mesure des enjeux
21Face à ces défis, la France doit se doter d’une vision, d’un souffle, d’une stratégie, et ne pas se contenter de défendre des lignes rouges ou se laisser enfermer dans des débats sectoriels. Notre pays bénéficie d’une recherche de haut niveau international, d’un système éducatif qui a formé les directeurs des recherches sur l’IA de la plupart des géants de la technologie américains et de scale-ups particulièrement prometteuses (Shift Technology, CybelAngel, Cardiologs…) aux côtés de nos entreprises phares plus « classiques ».
22Simultanément et de manière coordonnée, les enjeux sont compris et accompagnés au plus niveau de l’État : la présidence de la République est à l’origine du rapport Villani, et décidé d’un plan national ambitieux, du Partenariat mondial sur l’intelligence artificielle (PMIA), et de positions fortes et remarquées sur la gouvernance du numérique comme l’Appel de Paris.
II. Le paysage des questions de gouvernance posées par l’IA

III. Éléments possibles d’un « narratif français »
A. La France croit aux bénéfices de la révolution numérique
23Par conséquent, elle soutient et encourage la recherche et le partage de ses résultats. En particulier, elle veille à ce que la révolution numérique soit un facteur de liberté et de capacité d’action pour les individus comme pour les peuples. La France soutient donc le développement d’un espace numérique libre, ouvert, sûr et partagé. Dans l’ensemble des questions liées à la gouvernance du numérique, elle agit en puissance d’équilibre, refusant aussi bien :
- (i) le modèle monopolistique dans lequel les États sont mis à l’écart par des géants de la technologie qui prétendent s’autoréguler ;
- (ii) le modèle dans lequel les États contrôlent excessivement les activités numériques à l’intérieur de leurs frontières.
24Ces deux modèles menacent l’exercice des droits de l’homme et des droits civiques. Ils menacent aussi l’innovation et le progrès, en favorisant ou bien les rentes de situation ou bien le contrôle bureaucratique.
25Afin d’éviter ces modèles porteurs de menace, la France soutient un modèle de gouvernance ouverte, multilatérale et multi acteurs. Avec le PMIA, elle porte au niveau international le projet d’un forum de dialogue entre la recherche, les décideurs publics et la société civile, capable d’aborder les questions émergentes, sur le modèle de ce que le GIEC est au climat.
B. Les développements de l’IA posent de nombreuses questions éthiques
26Nombre d’entre elles proviennent des risques de biais potentiellement discriminatoires, d’erreurs ou de mésusage, qui peuvent être encadrés par des normes professionnelles et techniques. D’autres reposent sur la délégation même à la machine de décisions jusque-là réservées aux humains (décisions emportant des conséquences juridiques, sélection à l’université, aide au diagnostic médical, etc.). D’autres questions portent sur le régime de responsabilité applicable quand un dispositif d’IA est impliqué dans la survenue d’un dommage, sur la transparence des processus décisionnels des dispositifs d’IA. Enfin, d’importantes questions découlent des capacités de prédiction de l’IA, qui peuvent dévoiler des risques que les individus eux-mêmes ignorent.
27Tout cela appelle des débats éclairés et pluralistes, comme l’exige notamment la bioéthique, afin de trouver l’équilibre entre une régulation excessive, frein à l’innovation, ou trop permissive. La protection des droits des personnes et de leurs données, ainsi que celle des libertés fondamentales demeurent ainsi une préoccupation majeure pour la France, et le développement de l’IA ne saurait se faire au détriment d’une certaine transparence et de la confiance indispensable du citoyen en ces technologies innovantes.
28Dans le cas de technologies aussi transformatrices que celles de l’IA, cet impératif éthique est aussi la condition de poursuite des développements de l’IA. L’exemple des OGM montre que le développement des technologies doit être mené en concertation avec les citoyens, toutes générations confondues9, faute de quoi ils peuvent les rejeter ou exiger que leurs gouvernements les freinent.
29La France réclame donc la transparence des usages de l’intelligence artificielle. À ce titre, elle a ouvert la voie avec la « Loi pour une République numérique » qui exige que chaque administration utilisant l’IA (et de façon générale un traitement algorithmique pour prendre une décision individuelle) en avertisse l’usager et soit capable de lui expliquer le fonctionnement de ce traitement.
C. Une « coopétition » globale
1) Œuvrer à l’équilibre
30D’autres enjeux proviennent du déséquilibre de la maîtrise des capacités en IA et du quasi-monopole que certaines entreprises et certains États sont en voie d’acquérir.
31De ce fait, la France n’entend pas rester en dehors de cette compétition et investit massivement en profitant de ses atouts : école mathématique, qualité du système éducatif, niveau de sa recherche publique (notamment INRIA), qualité de son écosystème d’innovation. Elle met en place dans ce cadre une politique d’attraction des talents et de formations.
32Elle prône une approche règlementaire prudente en proposant de cibler les applications à haut risque et la mise en place de bacs à sable règlementaires pour encourager l’investissement et renforcer nos capacités stratégiques.
33Elle sera attentive à contrer l’émergence de monopoles susceptibles de freiner l’innovation ou d’abuser de leur position dominante.
34Elle œuvre par ailleurs pour le plus grand partage des capacités de recherche (incluant ouverture de données et de logiciels).
35La France œuvre enfin à ce que l’IA soit déployée de manière à répondre non seulement à nos préoccupations, mais aussi à celles de la communauté mondiale.
36En effet, l’impact des technologies diffère selon le contexte, qu’il soit historique ou géographique et il importe que l’IA soutienne le développement de l’ensemble des économies et pas seulement de celle des pays technologiquement les plus avancés. La francophonie pourra jouer un rôle important à cet égard.
2) La nécessité d’une approche parangonnée et coopérative
37Toutefois, si notre pays doit peser internationalement sur l’évolution de l’IA pour contribuer à la canaliser, réguler, accompagner, il doit aussi, l’un n’allant pas sans l’autre, adopter une posture pragmatique, modelée d’observation et d’analyse pour détecter ailleurs des solutions à certaines de nos faiblesses.
38À l’instar d’autres domaines de l’innovation de rupture, la France subit sur l’IA une concurrence intense, globale, dans un contexte d’accélération du rythme d’émergence des nouvelles technologies, et qui vont au-delà des seuls États-Unis et Chine, puissances les plus fréquemment citées.
39De nombreuses économies innovantes comptent aujourd’hui dans le domaine, parmi lesquelles le Canada, le Royaume-Uni, la Scandinavie (Suède, Finlande, Danemark), l’Allemagne et les Pays-Bas, mais aussi Israël, la Corée, le Japon, Singapour ou l’Australie. L’Inde jouera également à l’avenir un rôle important.
40La taille du marché intérieur français, comme c’est le cas pour les autres puissances précitées (hors diptyque sino-américain), devrait forcer la France à faire des choix d’excellence sélective, comparatifs et logiques, et à s’appuyer sur une approche européenne commune, concertée, pour figurer aussi bien que voulu dans la course technologique.
3) Quelques illustrations chiffrées d’une place à parfaire
41Selon l’étude de juin 2021 de la Banque européenne d’investissement, l’UE ne représente à ce jour que 7 % des investissements mondiaux en technologies IA (et blockchain) contre 20 % du PIB mondial10, tandis qu’une autre étude conduite en novembre 2020 par la Commission européenne11 relevait que :
- (i) États-Unis et Chine représentent ensemble un peu plus de la moitié de toutes les start-ups d’IA, l’UE (pré-Brexit) représentant 19 % des entreprises actives dans l’IA au niveau mondial, suivie de l’Inde, du Canada, de la Corée du Sud et du Japon ;
- (ii) l’écart de l’UE en matière d’innovation en IA par rapport aux États-Unis et à la Chine peut également être observé en termes de nombre d’entreprises actives dans le dépôt de brevets en IA dans chaque région. En effet, les entreprises chinoises d’IA représentent près de 60 % des demandeurs de brevets de toutes les entreprises d’IA. En comparaison, elles sont 14 % aux États-Unis, mais seulement 7 % dans l’UE28 entre 2009 et 2018.
- (iii) si l’UE se classe toujours parmi les leaders mondiaux de la production scientifique en IA, le poids de ses publications est en baisse depuis 2003. Entre 2013 et 2017, l’UE a représenté 22 % des publications mondiales en IA, contre 27 % sur la période 1999-2003. À titre de comparaison, ce chiffre est de 26 % pour la Chine (contre 11 % seulement), et de 18 % pour les États-Unis (contre 25 %).
4) Des lignes stratégiques claires
42Pour atteindre l’ambition fixée par le Président de la République sur la base du rapport Villani et s’ancrer durablement dans le peloton de tête des puissances en IA au rang mondial, la France devrait donc :
- (i) stimuler une politique proactive de suivi diplomatique et d’intelligence économique lui permettant de détecter les meilleures pratiques au plan mondial dans les différentes composantes des stratégies nationales et des disciplines de l’IA ;
- (ii) nouer des coopérations et partenariats ciblés, équilibrés et mutuellement bénéficiaires avec certaines des économies les plus innovantes dans une logique de complémentarité et d’atténuation de nos points faibles ;
- (iii) poursuivre ses efforts visant à promouvoir une approche scientifique et industrielle européenne à hauteur des enjeux pour tout ce qui touche à l’IA.
43Ces trois axes sont nécessaires pour demeurer à la frontière scientifique et technologique, et pour contribuer à la transformation numérique de notre base économique, tant par l’émergence d’acteurs privés français de rang international dans le domaine de l’IA que pour la parfaite infusion de l’IA et ses applications parmi nos fleurons industriels et serviciels afin de renforcer leur compétitivité.
IV. Position de la France dans les enceintes internationales
44Pour promouvoir ce narratif, la France portera plusieurs principes sur la scène internationale en matière d’IA, particulièrement active et protéiforme. Fort heureusement, par le mécanisme des mandats des différentes organisations internationales, si beaucoup de préoccupations sont communes, les angles de traitement sont différents, et la complémentarité réelle. Nul doute que se voit esquissée par le biais des différents mécanismes qui se mettent progressivement en place une gouvernance internationale de l’IA pragmatique et cohérente.
A. Susciter le dialogue multi-acteurs
45La gouvernance de l’IA fait l’objet d’un dialogue avec toutes les parties prenantes : le PMIA et le Forum de Paris pour la Paix sont les deux piliers de cette stratégie.
46Face aux écueils potentiels que représentent les modèles chinois et américains, la France pourra :
- (i) défendre une gouvernance ouverte de l’IA, définie dans un cadre multilatéral, associant à la fois les États, les organisations internationales, les acteurs privés et la société civile ;
- (ii) soutenir les enceintes qui rendent possible ce dialogue, notamment le Partenariat mondial pour l’intelligence artificielle (PMIA), en tant que producteur d’expertise (« GIEC » de l’IA), et le Forum de Paris pour la paix (FPP), comme incubateur de solutions.
B. La convergence réglementaire sur la protection des données personnelles prévaut sur le « Data Free Flow with Trust »
47La convergence réglementaire sur la protection des données personnelles prime sur l’ouverture des flux de données et l’interopérabilité des systèmes (« Data Free Flow with Trust »).
48Avec le RGPD, d’application extraterritoriale, l’Union européenne (UE) a défini un cadre garantissant un haut niveau de protection des données personnelles des citoyens européens, tout en constituant un modèle international attractif (repris par la Californie ou le Japon).
49Dans le cadre de la gouvernance de l’IA, l’enjeu est de promouvoir ce modèle, en s’assurant que la convergence réglementaire sur ce socle minimal de protection des données reste un prérequis à toute négociation relative à l’ouverture des flux de données entre États et à l’interopérabilité des infrastructures de données.
50Dans le contexte actuel d’asymétrie des flux entre l’Europe et les États-Unis (les grandes entreprises du numérique américaines disposant de larges volumes de données personnelles des Européens), l’UE doit rester vigilante aux modalités d’opérationnalisation de la notion de « Data Free Flow with Trust » élaborée par le G2012.
C. Le développement d’un modèle d’IA « human-centric »
51Il constitue un socle commun pour l’opérationnalisation : un niveau de régulation et de transparence équilibré, comportant un niveau d’obligation minimal sans freiner l’essor de l’innovation, et des concepteurs de systèmes IA tenus responsables du respect des droits humains et des libertés individuelles.
52En conformité avec les principes européens sur l’éthique de l’IA (« EU’s Guidelines on Ethics in AI ») et de sa loi pour une République numérique qui exige que chaque administration utilisant l’IA, et de façon générale un traitement algorithmique pour prendre une décision individuelle, en avertisse l’usager et soit capable de lui expliquer le fonctionnement de cette IA, la France pourra défendre la vision d’une IA centrée sur l’humain (« human-centric AI13 »), qui suppose un niveau de régulation minimal (au-delà des « principes de haut niveau »).
53Il s’agit notamment d’assurer une pleine responsabilité des concepteurs et des entreprises quant à l’impact des technologies IA utilisées, en matière de protection des données personnelles, de non-discrimination, de transparence des algorithmes (et de lisibilité des critères à la décision automatique) et de contrôle. Ces valeurs (respect de l’état de de droit, des droits de l’homme et principes démocratiques) forment également le cœur des principes du G20 sur l’IA, adoptés en 201914, qui doivent désormais être opérationnalisés.
D. Une cohérence à trouver en termes « écologiques »
54Le développement d’une vision de l’IA peut être maintenu en cohérence avec nos objectifs climatiques et les Objectifs de Développement Durable (ODD)
55Alors que le développement de l’IA exige des puissances de calcul toujours plus importantes, l’impact écologique du numérique représente aujourd’hui un défi majeur15.
56La France pourra défendre, avec ses partenaires européens, une vision d’une IA cohérente avec nos objectifs climatiques, en recommandant :
- (i) le développement d’une IA « nativement écologique »16 (Villani, 2018) ;
- (ii) l’utilisation des technologies de l’IA pour accompagner la transition écologique (domotique, efficacité énergétique, etc.) et
- (iii) les efforts de recherche sur les technologies économes en énergie (technologies neuromorphiques17, ordinateur quantique…) et le verdissement des infrastructures de cloud. Encore peu présentes au niveau international, malgré de premiers travaux au sein du PMIA sur l’utilisation de l’IA au service de la réalisation des ODD, ces réflexions constituent un enjeu important pour les années à venir.
E. Promouvoir le libre partage des données, avec pour corollaire la convergence réglementaire autour du modèle « human-centric »
57La France pourra promouvoir la constitution de « communs de la donnée » mis en avant par le rapport Villani (2018).
58L’enjeu est de favoriser le partage et la mutualisation des données entre acteurs économiques, y compris en imposant l’ouverture des données d’intérêt général (obligations de portabilité et d’interopérabilité par exemple) ou la mise à disposition de certaines données publiques (open data), y compris dans l’objectif de réduire la fracture Nord/Sud comme préconisé par le plan d’action numérique des Nations-Unies (biens publics numériques).
59Cette politique d’ouverture des données, qui pourrait être déclinée sous la forme de différents partenariats entre l’UE et le reste du monde, et notamment avec le continent africain, doit avoir pour corollaire :
- (i) la convergence réglementaire, notamment en matière de protection des données, mais également dans les autres dimensions éthiques et politiques de l’IA responsable18 ;
- (ii) le renforcement de la souveraineté européenne en matière de données (position ferme en matière de transfert de données hors UE, maitrise des infrastructures numériques, renforcement de la cyber sécurité…). Elle devrait également s’appuyer sur un discours renforcé sur la nécessité de soutenir les outils libres (« open source »), permettant une appropriation par tous des technologies nécessaires à l’intégration de l’IA.
F. Défendre ses lignes rouges dans les applications de l’IA qui nécessitent un strict « encadrement »
60Enfin, la France pourra défendre certaines lignes rouges quant aux applications de l’IA, en particulier dans l’objectif d’éviter les dérives graves, en matière de sécurité ou de libertés fondamentales, telles que la notation civique19.
61S’agissant des applications militaires de l’IA et plus particulièrement des défis posés par le développement et l’usage de potentiels « systèmes d’armes létaux autonomes » (SALA)20, la France continuera à œuvrer pour que cette question continue d’être traitée exclusivement dans le cadre du groupe d’experts gouvernementaux (GGE) créé en 2016 au sein de la Convention sur certaines armes classiques (CCAC)21.
62D’une manière générale, la France pourra rappeler qu’elle demeure très attentive dans les débats en cours au niveau de l’Union européenne dans le cadre des négociations du Artificial Intelligence Act et dans l’enceinte du CAHAI (Comité Ad Hoc sur l’intelligence artificielle) du Conseil de l’Europe. Il pourra être rappelé le cas échéant la primauté du droit de l’Union au sein des États Membres et la nécessité d’assurer la compatibilité et la cohérence des règles édictées dans les différentes enceintes internationales.
Notes de bas de page
1 Reposant principalement sur : (i) des techniques d’apprentissage automatique (« deep learning » ; « machine learning ») utilisées pour analyser de grands volumes de données ; (ii) l’usage de la robotique dans la conception, la fabrication et le fonctionnement de machines programmables ; et (iii) des algorithmes capables de prendre des décisions autonomes (« automated decision-making system », ADMS).
2 Memorandum for the heads of Executive Department and Agencies Agencies: “Guidance for Regulation of Artificial Intelligence Applications”: https://www.whitehouse.gov/wp-content/uploads/2020/11/M-21-06.pdf.
3 Lancement du Conseil du commerce et des technologies (CCT) UE-États-Unis lors du sommet UE-États-Unis le 15 juin 2021 https://ec.europa.eu/commission/presscorner/detail/fr/IP_21_2990.
4 Intervention du secrétaire d’État Anthony Blinken au Global Emerging Technologies Summit, 13 juillet 2021 : « We’ll build more expertise among our workforce in science, in technology, in innovation. And here’s a request: Help us spread the word. We’re looking for outstanding people, for talent who want to make the leap to government, spend some time in government. Now is a great time to put those skills to use, leveraging tech for the good of our country and for the good of the world ».
5 Acronyme désignant les principaux géants tech américains Google, Apple, Facebook, Amazon, Microsoft, IBM.
6 Nettement supérieur à ceux enregistrés lors de consultations sur des propositions « tech » similaires, cf. https://ec.europa.eu/info/law/better-regulation/have-your-say/initiatives/12527-Artificial-intelligence-ethical-and-legal-requirements_en.
7 La mécanique des droits de l’Homme, telle qu’elle est traitée et définie actuellement, fonctionne plutôt bien pour protéger les droits individuels. Ainsi, en Europe, il existe un mécanisme juridique sophistiqué, la Convention européenne des droits de l’homme, sans doute le plus abouti au monde, avec une juridiction engageant 47 états. Elle protège en revanche très mal la dimension plus collective/ démocratique, n’étant pas faite pour cela.
8 Les modèles prédictifs permis par l’IA vont avoir un effet majeur sur la manière dont les préfets et gouverneurs territoriaux à l’international vont gérer des problèmes collectifs.
9 Étude conjointe du Goethe-Institut et du Weizenbaum-Institut sur l’usage de l’IA menée sur 3 000 jeunes adultes âgés de 18 à 30 ans en Allemagne, en France, en Grèce, en Italie, en Pologne et en Suède, août 2021 : https://www.weizenbaum-institut.de/en/projects/living-in-a-datafied-world-experiences-attitudes-of-young-europeans/.
10 https://www.eib.org/en/press/all/2021-181-new-eib-report-eur10-billion-investment-gap-in-artificial-intelligence-and-blockchain-technologies-is-holding-back-the-european-union
11 https://ec.europa.eu/info/publications/ai-research-and-innovation-europe-paving-its-own-way_en
12 Les États-Unis cherchant à faire primer la « circulation » sur la « protection » des données.
13 Pour un ministère comme celui de l’Intérieur, les technologies IA sont une opportunité de lutte plus efficace contre la criminalité, pour autant, elles ne seraient être mises en œuvre sans un parfait équilibre entre préservation des libertés fondamentales et sécurité des citoyens.
14 https://www.meti.go.jp/press/2019/06/20190610010/20190610010-1.pdf (annexe, page 11).
15 L’empreinte énergétique directe du numérique augmente de 9 % par an et représente 3,8 % des émissions de CO2 mondiales en 2019, soit plus de 4 fois les émissions françaises.
16 Il s’agit de systèmes d’intelligence artificielle conçus de manière écologique (« ecology by design » - systèmes moins consommateurs d’énergie, etc.).
17 Technologies dont le fonctionnement s’inspire du cerveau humain.
18 Travaux en cours du PMIA : https://gpai.ai/fr/projets/ia-responsable/.
19 Si elle est évidemment à proscrire s’agissant du comportement social des citoyens, il est à remarquer que la France le pratique en ce qui concerne le permis de conduire à points, utilisation ciblée, limitée et proportionnée à l’objectif poursuivi.
20 A titre national, la France a annoncé que des systèmes d’armes capables de recourir à la force de façon totalement autonome seraient fondamentalement contraires à ses principes, et qu’elle n’entendait pas en développer, alors que certaines puissances (Russie notamment) tenteraient d’imposer des visions concurrentes (Discours de Florence Parly, 5 avril 2019) (https://www.defense.gouv.fr/salle-de-presse/discours/discours-de-florence-parly/discours-de-florence-parly-ministre-des-armees_intelligence-artificielle-et-defense).
21 En 2019, le GGE s’est accordé sur onze « principes directeurs », qui ont vocation à être clarifiés par un « cadre normatif et opérationnel » d’ici la 6ème conférence d’examen de la Convention prévue en décembre 2021, sous présidence française.
Auteur
Bureau de l’Ambassadeur pour le numérique,
Ministère de l’Europe et des Affaires étrangères
Le texte seul est utilisable sous licence Licence OpenEdition Books. Les autres éléments (illustrations, fichiers annexes importés) sont « Tous droits réservés », sauf mention contraire.
Qu’en est-il du code du commerce 200 ans après ?
États des lieux et projections
Corinne Saint-Alary-Houin (dir.)
2008
Qu'en est-il de la simplification du droit ?
Frédérique Rueda et Jacqueline Pousson-Petit (dir.)
2010
La réorientation européenne de la TVA à la suite du renoncement au régime définitif
Francis Querol (dir.)
2014
Regards critiques sur quelques (r)évolutions récentes du droit
Tome 1 : Bilans et Tome 2 : Réformes-Révolutions
Maryvonne Hecquard-Théron et Jacques Krynen (dir.)
2005