Desktop versionMobile version

Les robots

 | 
Julie Grangeon
, 
Marylou Françoise

Troisième partie – Robots et droit européen et international

Robots et droit international humanitaire

Caroline Brandao

Full text

1La dernière décennie a vu s’inscrire dans le paysage militaire des nouvelles armes fondées sur les apports d’une technologie toujours plus avancée : le robot, dont les déclinaisons à l’échelle tactique et opérative sont de plus en plus nombreuses. Du robot-démineur au robot autonome de demain, ces nouvelles technologies ne cessent de progresser.

2La robotique militaire constitue une nouvelle arme et méthode de combat disposant d’un atout opérationnel considérable. Le robot peut remplacer le combattant sur les théâtres d’opérations. Ce n’est plus une force de combat humain qui est déployée, mais un robot que l’on va diriger à distance. Sur ce nouveau champ de bataille, les défis du combat de demain sont nombreux.

3Le premier défi est juridique. Le droit international humanitaire, également appelé « droit de la guerre » et « droit des conflits armés » est un ensemble de règles qui vise à limiter les effets des conflits armés. Il protège en particulier les individus qui ne participent pas ou qui ne participent plus aux combats. Il limite le choix des moyens et méthodes de guerre.

4La première Convention de Genève fut signée par seize pays en 1864. C’est le prélude à un processus de création d’un corpus de droit, qui évolue encore aujourd’hui. Pendant un siècle et demi, le corpus du droit international humanitaire s’étoffa. La Convention de Genève fut étendue, en 1906 et 1929, de façon à améliorer les conditions des soldats malades et blessés sur le terrain et à définir de nouvelles règles sur la protection des prisonniers de guerre. En 1899 et 1907, les Conventions de La Haye, visant principalement à réglementer la conduite de la guerre, et, en août 1949, les quatre Conventions de Genève furent adoptées1. Les Protocoles furent ajoutés aux Conventions de Genève en 1977 et 2005 et divers autres conventions internationales et protocoles, couvrant des domaines spécifiques comme les armes classiques, les armes chimiques, les mines terrestres, les armes à laser, les armes à sous-munitions et la protection des enfants en situation de conflit armé, élargirent le champ d’application du droit international humanitaire.

  • 2 Le droit international humanitaire coutumier est recensé dans une vaste étude réalisée par le CICR (...)

5La base du droit international humanitaire est toujours constituée par les Conventions de Genève de949 et leurs Protocoles additionnels de 1977, qui contiennent des obligations juridiques et consacrent des principes humanitaires fondamentaux. Il existe, par ailleurs, un ensemble considérable de règles coutumières qui lient tous les États et toutes les parties à un conflit armé2. Cependant, ni les Conventions de Genève ni leurs Protocoles additionnels ne mentionnent les robots dans les conflits armés.

  • 3 P.W. Singer, Wired for War, New York, The Penguin Press, 2009, p. 192-194.

6Le terme « robot est susceptible de recouvrir un ensemble de machines ou de systèmes de machines très divers par leurs capacités, leurs fonctions, leurs degrés d’autonomie. Le champ de la réflexion est donc largement ouvert, mais la recherche pâtit du fait qu’il n’existe pas de définition conventionnelle des robots. Chaque étude est ainsi amenée à produire son propre cadre conceptuel. Ainsi, pour l’essayiste américain Peter W. Singer3, un robot est défini par quatre critères il est une machine construite par l’homme, il possède des senseurs pour appréhender son environnement, des programmes lui permettent de définir une réponse et il peut la mettre en œuvre. Cette définition permet d’inclure des systèmes fixes, alors que d’autres définitions les excluent en considérant la mobilité comme un critère définissant un robot. De manière générale, un robot militaire est le plus souvent défini comme un système

  • 4 Commandant suprême allié de l’Europe représentant l’OTAN, lors du colloque international du 9 au 1 (...)

7Il n’existe pas non plus de typologie universellement acceptée. Une analyse met en évidence une pluralité de classifications de nature différente classifications techniques (par poids des plates-formes robotiques), fonctionnelles ou opérationnelles (par missions ou tâches des robots). Ainsi pour le Général Michel Yakovleff4, il existe trois familles de robots le robot-capteur, le robot-serviteur (qui porte des charges) et le robot-agresseur ou -tueur. Au-delà de la définition du robot, ce qui va caractériser le « libre arbitre du robot, ce sont deux des dimensions fondamentales de la robotisation du champ de bataille le degré d’autonomie du robot et la perspective plus ou moins proche de voir les robots agir en groupe, que ce groupe soit conçu en vue de détruire éventuellement certaines machines ou en complémentarité avec des opérations supposant une combinaison de plusieurs machines. Il conviendra donc d’envisager le robot comme une machine autonome ou comme un système de machines autonomes. On préféra utiliser la notion de système d’armes autonome ou semi-autonome.

8Le comportement de ce nouveau système d’armes plus ou moins autonome sera déterminé par un ensemble de règles comportementales. Un responsable sera en charge de la doctrine et de l’emploi de l’arme, de la formulation des règles comportementales, de l’architecture des processus de décision et de la marge d’autonomie concédée.

9Ces nouvelles technologies peuvent se révéler dangereuses pour les non-combattants, mais également pour les combattants, notamment au regard des difficultés liées au respect des principes applicables à la conduite des hostilités. De manière générale, est-ce que les Conventions de Genève et les Protocoles additionnels ont la capacité de réglementer ces nouveaux moyens et méthodes de guerre Il n’existe pas de disposition du droit international humanitaire interdisant explicitement l’utilisation des robots. Il s’agit donc de définir et de comprendre ce que l’on veut mettre derrière le contrôle humain (I), tout en rappelant la pertinence de maintenir et d’adapter le droit international humanitaire (II).

I. Définir et comprendre le contrôle humain du système d’armes autonome

  • 5 Le Mouvement comprend le Comité international de la Croix-Rouge, la Fédération internationale des (...)
  • 6 « Armes autonomes : les États doivent déterminer ce qu’ils entendent concrètement par “contrôle hu (...)

10Il existe un risque que les humains soient bientôt supplantés par des senseurs et des logiciels dans la prise de décisions de vie et de mort. Dans ce contexte, le Mouvement international de la Croix-Rouge et du Croissant-Rouge5 appelle les États à fixer des limites strictes, concrètes et durables à l’autonomie des systèmes d’armes6. L’examen de la manière dont un contrôle humain peut être exercé sur les systèmes d’armes autonomes pourrait se fonder sur les critères suivants

  • la prédictibilité
  • la supervision et la capacité d’intervention d’un humain
  • les restrictions opérationnelles pesant sur les tâches
  • les types de cibles
  • l’environnement opérationnel imposant des limites dans le temps et dans l’espace.
  • 7 « Dans l’étude, la mise au point, l’acquisition ou l’adoption d’une nouvelle arme, de nouveaux moy (...)
  • 8 Sur la question de la licéité des systèmes d’armes autonomes, v. Les Cahiers de la Revue Défense N (...)

11Cela signifie que pour maintenir un certain degré de contrôle humain, il y aura des limites aux niveaux de la licéité de l’autonomie conférée aux systèmes d’armes. Il est important de rappeler que le contrôle de la licéité d’une nouvelle arme avant sa mise en service est un principe que l’on retrouve dans l’article 36 du Protocole additionnelI (PA I)7. En effet, les Hautes Parties contractantes s’engagent à déterminer l’illégalité éventuelle d’une nouvelle arme, aussi bien au regard des dispositions du Protocole que de toute autre règle du droit international applicable, sur la base de l’usage normal qui en est escompté au moment de l’évaluation8

12Les discussions actuelles sur les nouveaux systèmes d’armes robotisés révèlent que des efforts considérables doivent être entrepris pour décloisonner la réflexion sur le sujet et favoriser une perspective plus opérationnelle. Ainsi, la nécessité d’un contrôle humain fait apparaître un certain nombre de questions relatives à des aspects techniques – susceptibles d’être sources d’imprédictibilité – dès la conception des systèmes d’armes. Par exemple, le fait d’introduire dans le processus de ciblage des algorithmes d’apprentissage automatique issus de l’intelligence artificielle soulèverait des préoccupations majeures d’ordre juridique, dans la mesure où le fonctionnement et les effets des systèmes d’armes seraient alors intrinsèquement imprédictibles.

13Lors de la réunion annuelle des États Parties à la Convention sur certaines armes classiques, à Genève du 1er au novembre 2018, le Comité international de la Croix-Rouge a demandé instamment que le nouveau mandat du Groupe d’experts gouvernementaux consiste avant tout à déterminer le type et le degré de contrôle humain devant être exercé pour assurer la conformité au droit international humanitaire et répondre aux préoccupations éthiques9

14Les États ont fait valoir à l’occasion de cette conférence, que le concept de contrôle humain significatif devait être un des éléments sur lequel les débats devaient avoir lieu. Néanmoins, il n’y a pas d’accord sur le sens du contrôle humain. Bien souvent les discussions des États vont s’éloigner du contexte opérationnel. Plus précisément, il s’agit de répondre à deux questions

  1. Quel est le degré de supervision humain requis lors de l’utilisation d’une arme à même de sélectionner et d’attaquer des cibles de manière autonome ?
  2. Quel est le niveau nécessaire de prédictibilité et de fiabilité de l’arme, compte tenu des tâches assignées à l’arme et à l’environnement dans lequel elle serait utilisée ?

15Le contrôle humain significatif est-il la seule ou la meilleure approche permettant de caractériser le rôle humain et d’évaluer les effets de l’autonomie d’une arme sur les pratiques de ciblage militaire

  • 10 Chercheuse à l’université Vrije d’Amsterdam et au Centre de politique du droit transnational. Ses (...)
  • 11 M. Ekelhof, « Armes autonomes. Rendre opérationnel le concept de contrôle humain significatif », 1 (...)

16L’auteure Merel Ekelhof10 relève les différentes conceptions clés du contrôle humain significatif et note que les débats sémantiques et conceptuels portent finalement sur des questions assez marginales11

17Sa principale critique est intéressante et repose sur l’hypothèse que les opérateurs humains ont déjà un contrôle significatif sur les armes et qu’il s’agit de le maintenir avec les armes autonomes. Les recherches de Merel Ekelhof sur la prise de décision et le processus de ciblage ont montré que le contrôle de l’opérateur sur l’arme utilisée est souvent réduit à la décision d’appuyer ou non sur la détente. Dans la pratique, les conditions de l’opération, comme la visibilité réduite, par exemple, entraînent souvent l’opérateur à se référer aux données de l’ordinateur embarqué et aux informations données au préalable par la hiérarchie, plus qu’à son jugement. L’auteure souligne une approche simplificatrice sur les questions du contrôle humain des armes autonomes, qui se focalise essentiellement sur la phase d’activation de l’arme. Elle préconise que l’usage des armes soit compris comme un élément d’un processus plus large et qu’ainsi, le « contrôle humain significatif soit élargi au contrôle réparti qu’ont des individus dans les différentes étapes du cycle de ciblage (la formulation d’objectifs, l’approbation des cibles, les estimations des dommages collatéraux, les analyses de proportionnalité, etc.).

18Le point essentiel soulevé est qu’une situation dans une opération militaire peut nécessiter différentes formes de contrôle humain. Le contrôle humain est alors distribué. Par conséquent, l’utilisation des armes doit être comprise comme une partie seulement d’un cycle. Le contrôle humain significatif pourrait être mieux décrit comme un contrôle réparti sur un éventail d’individus, et parfois de technologies, intervenant à différentes étapes du cycle de ciblage.

19Alors que le contrôle humain significatif suppose théoriquement l’existence d’une décision ultime (par exemple, le moment décisif), la pratique militaire montre que la prise de décision est généralement répartie. De plus, alors qu’un contrôle humain significatif concerne généralement la relation entre les armes et leurs opérateurs, la pratique militaire montre une division du travail où les décisions critiques sont prises par plusieurs individus à plusieurs moments du processus de ciblage et elles doivent avoir un lien de causalité direct avec l’utilisation de l’arme (par exemple, lorsque des cibles sont développées et approuvées au niveau opérationnel, l’arme, les moyens ou la méthode appropriés ne sont pas encore pris en compte).

20La dernière réunion des États, en 2019, n’a pas permis de faire avancer le débat sur les armes autonomes de manière significative. Cela s’est produit malgré les appels croissants lancés pendant la réunion pour une approche plus ambitieuse. Le prochain groupe d’experts se réunira en 2020, pour examiner un cadre normatif et opérationnel.

21Pour conclure cette première partie, chacun des défis donne une illustration des tendances et des enjeux à relever pour les prochaines années. Choisir de remplacer le combattant par des nouvelles technologies permettrait de diminuer les effectifs sur le champ de bataille et libérerait ainsi les soldats de certaines tâches, les autorisant à se focaliser sur des missions considérées comme plus importantes.

  • 12 R. Hoeft, J. Kochan, F. Jentsch, « Automated team members in the cockpit: Myth or reality », in A. (...)

22L’une de ces conséquences pourrait être notamment, dans un premier temps, la création d’unités mixtes robots autonomes et combattants humains. Cette solution impliquerait très certainement un remplacement de certains combattants par des systèmes. Cette évolution aurait de nombreuses conséquences notamment liées à la transmission des valeurs, des savoir-être et de la culture militaire. On peut se demander d’ailleurs si les robots seront en capacité de prendre à leur charge cette fonction. Aussi la communication entre les robots, indispensable à la coordination de leurs actions sera très différente de notre propre mode de communication. Cette forme de communicationavec les membres automatisés risque d’imposer des restrictions qui pourront interférer avec la nature spontanée et libre de la communication d’humain à humain12. Le développement de robots capables d’entretenir des interactions sociales avec les combattants pourrait être perçu comme une solution à certains de ces problèmes.

II. La pertinence de maintenir et d’adapter le droit international humanitaire

23Même s’il est important de rappeler qu’il n’y a pas de vide juridique, nous sommes face à un certain nombre de points d’interrogation quant à la manière dont le cadre juridique du droit international humanitaire s’appliquera dans la pratique.

24Tout d’abord, au regard du droit international humanitaire, il est urgent et important de rappeler constamment que les robots ne pourront pas échapper aux règles applicables à la conduite des hostilités, c’est-à-dire les règles qui réglementent et limitent les méthodes et moyens de guerre que les parties à un conflit armé peuvent utiliser. Elles ont pour but d’établir un équilibre entre une action militaire légitime et l’objectif humanitaire consistant à atténuer les souffrances humaines, en particulier parmi la population civile.

25Les dispositions juridiques relatives au choix des armes constituent une part importante du droit régissant la conduite des hostilités. Ce choix n’est pas illimité, en effet. Les systèmes d’armes autonomes ne sont pas interdits, alors que certaines difficultés apparaissent au regard de leur autonomie, mais aussi dans une conduite à distance qui ne reflète pas toujours les contraintes du terrain. Il est nécessaire de mettre en évidence dans la conduite des hostilités les difficultés relevant de l’application de ces principes avec l’usage de la robotique militaire tout en garantissant la protection des personnes dans le conflit armé. Pour cela, nous allons mettre en évidence l’analyse du principe de distinction et de proportionnalité.

  • 13 Article 48 du PA I de 1977 : « En vue d’assurer le respect et la protection de la population civil (...)
  • 14 « 3. Lorsque le choix est possible entre plusieurs objectifs militaires pour obtenir un avantage m (...)
  • 15 PA I, art. 51(5)(b) : « b) les attaques dont on peut attendre qu’elles causent incidemment des per (...)
  • 16 Article 35 du PA I de 1977 : « 1. Dans tout conflit armé, le droit des parties au conflit de chois (...)

26Le principe de distinction13 entre les civils et les combattants, comme entre les biens de caractère civil et les objectifs militaires, est au cœur de l’ensemble des dispositions relatives à la conduite des hostilités. Toute opération militaire conduite sans discrimination est interdite, et les parties au conflit doivent, en tout temps, faire une distinction entre les objectifs militaires légitimes, d’une part, et la population civile et les biens de caractère civil, d’autre part. On retrouve également les principes de nécessité14, en tant que limite à l’action militaire, codifié à l’article 7 (3) du PA I, de proportionnalité15, et l’interdiction de causer des maux superflus16

  • 17 La définition des civils comme personnes qui ne sont pas membres des forces armées est formulée à (...)
  • 18 Art. 51, § 3 du Protocole additionnel I et art. 13, § 3 du Protocole additionnel II.
  • 19 Protocole additionnel I (1977), art. 50, § 1 (adopté par consensus).

27La distinction entre civil et combattant n’est pas toujours évidente et, ajouter à cette problématique la spécification d’un civil à la programmation du robot relève d’un véritable défi au regard des complications que cela entraîne. Même si nous pouvons donner au robot la règle suivante« Si civil, ne tirez pas, cela implique un cahier des charges précis pour faire comprendre la définition du civil au robot. Or une définition claire et précise n’existe pas dans les Conventions de Genève. Le civil est défini d’une manière négative17, c’est toute personne qui n’est pas un combattant. Lorsque des civils participent directement aux combats, ils perdent leur protection contre les attaques18. De plus, en cas de doute sur le statut d’une personne, celle-ci doit être considérée comme étant un civil19. Tout ce dont dispose un robot se résume à des capteurs comme des caméras, des caméras infrarouges, des sonars, des lasers, des capteurs de température et des radars… Bien que ces capteurs apportent un certain nombre de renseignements permettant de faire la distinction entre l’homme et l’animal, il apparaît difficile de distinguer entre l’homme combattant et le non-combattant. Même s’il existe des systèmes permettant d’identifier des visages, des expressions du visage, ceci n’est pas utile pour déterminer si nous sommes face à un combattant.

  • 20 Le principe de la proportionnalité dans l’attaque est formulé à l’article 51, § 5 b) du Protocole (...)

28En ce qui concerne le principe de proportionnalité20, qui « interdit de lancer des attaques dont on peut attendre qu’elles causent incidemment des pertes en vies humaines dans la population civile, des blessures aux personnes civiles, des dommages aux biens de caractère civil, ou une combinaison de ces pertes et dommages, qui seraient excessifs par rapport à l’avantage militaire concret et direct attendu, il apparaît difficile pour un robot de faire cette analyse subjective qui relève du jugement humain. Il n’existe pas de méthode, ni de calcul pour prendre une décision dans le respect de ce principe. On peut craindre qu’une attaque cause des dommages civils collatéraux excessifs par rapport à l’avantage militaire concret et direct attendu et que cette attaque ne soit pas annulée ou interrompue par le robot.

29Dans le cadre de son projet de recherche, Ronald Arkin a été amené à examiner les capacités de performance des robots. Par exemple, des robots pourraient-ils être plus précis que des êtres humains dans une attaque afin d’éviter des dommages collatéraux Des robots plus forts, plus rapides et plus habiles, pourraient-ils potentiellement se comporter de manière plus humaine que des humains Il apparaît également que, techniquement, des robots pourraient rapporter des informations sur le comportement éthique ou non des soldats sur le champ de bataille, ce qui pourrait avoir un effet positif général sur l’attitude des soldats. Selon Ronald Arkin, des robots autonomes pourraient mieux se conduire sur un champ de bataille que des êtres humains, s’ils sont correctement programmés. En effet, ils sont, par exemple, capables d’agir avec retenue, ou d’attendre véritablement le moment où l’intention hostile est déclarée avant d’engager la force. En outre, la colère et la frustration sont des caractéristiques propres aux humains qui sont absentes de ces systèmes. Ainsi, il apparaît qu’un système autonome pourrait avoir un effet positif sur la conduite des hostilités et le respect du droit international humanitaire.

  • 21 La logique modale est un type de logique qui permet de formaliser des éléments modaux. Chaque logi (...)

30Ronald Arkin travaille sur la transformation, par l’intermédiaire de la logique modale21, des règles du droit international humanitaire en suite logicielle utilisable par des machines, capables d’opérer des raisonnements en temps réel dans la limite des règles modales préétablies. Il met au point des mécanismes de conception garantissant des comportements intelligents incapables de générer des réponses qui ne s’inscrivent pas dans le cadre des limites éthiques préalablement définies. Il élabore des algorithmes, capables d’une discrimination des objectifs et de leur statut, en particulier pour ce qui relève de l’alternative combattant et non-combattant. Il crée des techniques permettant de mettre au point un ensemble adapté de normes éthiques et de paramètres sous-jacents de contrôle comportemental, au cas où surviendraient une violation du droit international humanitaire. Ainsi, R. Arkin élabore des moyens de rendre le processus d’attribution de responsabilités clair pour l’ensemble des parties concernées, dès lors que l’on envisage de déployer une machine dotée pour sa mission d’un potentiel létal (fig.).

  • 22 R.C. Arkin a publié, en 2007, une étude sur le comportement mortel des robots et notamment sur l’é (...)

Fig.. Architecture éthique, par R. Arkin22

Fig.. Architecture éthique, par R. Arkin22
  • 23 R.C. Arkin, Governing Lethal Behavior in Autonomous Robots, Boca Raton, Chapman & Hall/CRC, 2009, (...)
  • 24 R.C. Arkin, P. Ulam et B. Duncan ont publié en 2009 un rapport portant sur le gouvernail éthique p (...)
  • 25 Ibidem.

31R. Arkin pense donc pouvoir concevoir un robot respectueux du droit de la guerre. Cependant, cette branche du droit n’est pas un ensemble de règles univoques. On ne peut pas aisément traduire en suites de et de des règles et principes du droit international humanitaire. Toutefois, son travail demeure particulièrement intéressant puisqu’il présente différentes possibilités architecturales pouvant potentiellement intégrer une faculté morale du robot. L’une des composantes est le « régulateur éthique. Il s’agit d’un transformateur de système généré par une action létale. Ce système est introduit dans l’architecture du robot, pour proposer un deuxième avis, afin que celui-ci adopte ou non une réponse comportementale mortelle. Ce régulateur est donc susceptible de restreindre l’action létale d’un système autonome d’une manière compatible avec les lois de la guerre et les règles de l’engagement23. R. Arkin ne mentionne pas explicitement ce comportement moral comme un objectif à travers ces articles24 et entretient une confusion entre les lois de la guerre, les règles d’engagement et les règles morales. R. Arkin précise également que le régulateur est conçu pour fonctionner de manière autonome, sans supervision humaine« Les robots militaires sont désormais une réalité. Actuellement, l’homme reste dans la boucle de la décision concernant le déploiement de la force létale, mais la tendance est claire que les décisions de ciblage vont se déplacer vers un système autonome. Ainsi, il est temps d’affronter maintenant les questions difficiles liées à l’utilisation de ces systèmes25

32Techniquement, le régulateur éthique est un système piloté par des contraintes qui, sur la base de calculs, va évaluer une action. Dans une étape qui précède ce calcul, le robot dispose de sous-systèmes de raisonnements tactiques lui permettant de répondre à divers ensembles de contraintes. Chaque contrainte est une structure de données qui correspond à une action, par exemple, « l’interdiction, une origine, comme « les lois de la guerre, et une caractéristique, « la cible de discrimination située à proximité d’un bien culturel

  • 26 Ibid.

33Parmi les autres objectifs, le régulateur éthique est censé garantir l’application du principe de proportionnalité à une riposte militaire. Le niveau « acceptable des dommages collatéraux est d’ailleurs défini uniquement en fonction de la nécessité d’une action militaire26

34L’algorithme sélectionne le système d’arme et s’assure que l’utilisation de l’arme n’est pas contraire aux règles. L’algorithme calcule ensuite les dommages résultant de la combinaison du système d’arme et la position de celle-ci par rapport à la cible. Si les dommages sont disproportionnés, un autre calcul permet de sélectionner une autre arme afin de respecter le principe de proportionnalité.

35Le régulateur éthique est un outil bénéfique, mais il met en évidence de nombreux dysfonctionnements. Tout d’abord, le régulateur éthique n’est pas véritablement un système répondant à une certaine éthique, mais seulement un instrument permettant de se conformer aux Conventions de Genève, de La Haye et aux règles d’engagement, à condition que ces règles n’interfèrent pas avec les objectifs militaires du robot. Les règles d’engagement sont d’ailleurs émises par l’armée elle-même et ne peuvent être considérées comme des « règles morales, comme le mentionne R. Arkin. Ces « règles morales traduites en calcul par R. Arkin sont souvent interprétées, de manière extensive, « comme des lignes directrices pour une « action morale. Le régulateur éthique est, en principe, capable de traiter le conflit armé de manière éthique en se fondant sur des règles, mais il lui manque certains mécanismes comme l’intuition, la compréhension des préférences de l’homme, la valeur des conséquences de son acte. Cette éthique n’est pas suffisante au regard des problèmes moraux soulevés sur le champ de bataille. La guerre implique parfois des options contradictoires. Malgré ces limites, qui ne sont d’ailleurs pas mentionnées dans le débat public, le régulateur éthique est encouragé par les roboticiens comme une étape vers l’autonomie des machines. Par conséquent, il est de plus en plus admis que les humains seront en dehors de la boucle en soulignant, à tort, que le comportement moral ne pourra être mis en œuvre que par le robot lui-même. Cela conduit à une acceptation du déploiement accru de robots autonomes capables d’agir moralement. Or les capacités et les objectifs du régulateur éthique sont trompeurs et dangereux puisqu’ils cherchent à évincer l’homme des situations où son contrôle et sa décision sont impératifs.

  • 27 Conformément à l’article 36 du Protocole additionnel I sur l’étude, la mise au point ou l’adoption (...)

36En conclusion, il ne fait aucun doute que le droit international humanitaire s’applique aux armes nouvelles et à l’emploi d’innovations technologiques dans la guerre, comme reconnu notamment par l’article 6 du Protocole additionnel I27. Cela étant, l’application de règles juridiques préexistantes à une technologie nouvelle met en évidence des règles qui ne sont pas suffisamment claires au vu des caractéristiques spécifiques de cette technologie et aussi eu égard à son impact probable sur le plan humanitaire. Au cours de ces dernières années, tout un arsenal de nouvelles technologies ont fait leur apparition sur le champ de bataille moderne.

37Parmi les défis posés à une utilisation responsable de ces systèmes, on relève la capacité limitée des opérateurs à traiter d’importantes quantités de données, notamment des données pouvant parfois être contradictoires avec des surcharges d’informations. Le contrôle de plus d’un système de ce type à la fois conduit à s’interroger sur la capacité de l’opérateur à respecter pleinement les règles applicables du droit international humanitaire dans ces situations.

38Le système d’armement autonome, lui, peut analyser ou adapter son fonctionnement aux changements qui se produisent dans l’environnement où il est déployé. Un système véritablement autonome serait doté d’une intelligence artificielle capable de mettre en œuvre le droit international humanitaire. Bien que ces systèmes suscitent un grand intérêt dans les milieux spécialisés et que la recherche dans ce domaine soit largement financée, ils n’ont pas encore été adaptés aux armements. Leur déploiement représenterait une véritable révolution conceptuelle et un changement qualitatif majeur dans la conduite des hostilités. Il soulèverait aussi tout un ensemble de problèmes fondamentaux du point de vue juridique et éthique, qui doivent être pris en compte avant que ces systèmes ne soient développés ou déployés. La mise au point d’un système d’armement véritablement autonome, capable de mettre en œuvre le droit international humanitaire, représente un défi monumental en termes de programmation, qui pourrait s’avérer impossible à relever. Développer la capacité de ces systèmes à faire la distinction entre un civil et un combattant, entre un combattant actif et un combattant blessé ou hors de combat, est une tâche éminemment ardue. Il est tout aussi difficile d’imaginer comment des systèmes autonomes pourraient évaluer des avantages militaires ou prendre des décisions en matière de proportionnalité ou de précaution dans l’attaque dans des environnements en constante évolution.

39Enfin, il va falloir de toute évidence un certain temps avant que des réponses définitives puissent être apportées aux nombreuses questions juridiques que suscitent les progrès technologiques. Il convient de souligner que la question fondamentale n’est pas tant de savoir si les nouvelles technologies sont bonnes ou mauvaises en soi, mais plutôt de savoir dans quelles circonstances elles sont employées. De même, les nouvelles technologies ne changent pas le droit existant, mais doivent plutôt s’y conformer, en tenant compte du fait que les normes actuelles ne réglementent pas suffisamment certains défis posés par ces technologies, et qu’il est nécessaire d’en élaborer de nouvelles. Il est aussi essentiel d’attirer l’attention sur la nécessité d’évaluer l’impact humanitaire potentiel. Les implications en droit international humanitaire des technologies nouvelles sont en voie de développement, et l’on doit faire en sorte qu’elles ne soient pas employées prématurément dans des conditions ne permettant pas de garantir le respect du droit international humanitaire.

Notes

1 V. la base de données des traités [https://ihl-databases.icrc.org/applic/ihl/dih.nsf/vwTreaties1949.xsp].

2 Le droit international humanitaire coutumier est recensé dans une vaste étude réalisée par le CICR, publiée par Cambridge University Press. Fondée sur la pratique des États, l’étude présente une analyse complète des règles coutumières du droit international humanitaire applicables aux conflits armés [https://ihl-databases.icrc.org/customary-ihl/eng/docs/home?_ga=2.247737796.2125557638.1572512693-436137669.1542814563].

3 P.W. Singer, Wired for War, New York, The Penguin Press, 2009, p. 192-194.

4 Commandant suprême allié de l’Europe représentant l’OTAN, lors du colloque international du 9 au 10 novembre 2011 sur la robotisation du champ de bataille aux Écoles de Saint-Cyr Coëtquidan.

5 Le Mouvement comprend le Comité international de la Croix-Rouge, la Fédération internationale des Sociétés de la Croix-Rouge et du Croissant-Rouge et les cent quatre-vingt-onze Sociétés nationales de la Croix-Rouge et du Croissant-Rouge.

6 « Armes autonomes : les États doivent déterminer ce qu’ils entendent concrètement par “contrôle humain” », Communiqué de presse du CICR, 20 novembre 2018 [https://www.icrc.org/fr/document/armes-autonomes-les-etats-doivent-determiner-ce-quils-entendent-concretement-par-controle].

7 « Dans l’étude, la mise au point, l’acquisition ou l’adoption d’une nouvelle arme, de nouveaux moyens ou d’une nouvelle méthode de guerre, une Haute Partie contractante a l’obligation de déterminer si l’emploi en serait interdit, dans certaines circonstances ou en toutes circonstances, par les dispositions du présent Protocole ou par toute autre règle du droit international applicable à cette Haute Partie contractante ».

8 Sur la question de la licéité des systèmes d’armes autonomes, v. Les Cahiers de la Revue Défense Nationale, n° 108, Autonomie et létalité en robotique militaire, décembre 2018. Synthèse en ligne [http://www.defnat.com/e-RDN/sommaire_cahier.php?cidcahier=1166].

9 Déclaration du CICR, Towards limits on autonomy in weapon systems [https://www.icrc.org/en/document/towards-limits-autonomous-weapons].

10 Chercheuse à l’université Vrije d’Amsterdam et au Centre de politique du droit transnational. Ses recherches – commandées par les ministères de la Défense et des Affaires étrangères des Pays-Bas – examinent les effets des technologies autonomes sur la prise de décision militaire.

11 M. Ekelhof, « Armes autonomes. Rendre opérationnel le concept de contrôle humain significatif », 15 août 2018 [https://blogs.icrc.org/law-and-policy/2018/08/15/autonomous-weapons-operationalizing-meaningful-human-control/].

12 R. Hoeft, J. Kochan, F. Jentsch, « Automated team members in the cockpit: Myth or reality », in A. Schulz, L. Parker (eds), Series: Advances in Human Performance and Cognitive Engineering Research, Elsevier, 2006, p. 252.

13 Article 48 du PA I de 1977 : « En vue d’assurer le respect et la protection de la population civile et des biens de caractère civil, les parties au conflit doivent en tout temps faire la distinction entre la population civile et les combattants ainsi qu’entre les biens de caractère civil et les objectifs militaires et, par conséquent, ne diriger leurs opérations que contre des objectifs militaires ».

14 « 3. Lorsque le choix est possible entre plusieurs objectifs militaires pour obtenir un avantage militaire équivalent, ce choix doit porter sur l’objectif dont on peut penser que l’attaque présente le moins de danger pour les personnes civiles ou pour les biens de caractère civil ».

15 PA I, art. 51(5)(b) : « b) les attaques dont on peut attendre qu’elles causent incidemment des pertes en vies humaines dans la population civile, des blessures aux personnes civiles, des dommages aux biens de caractère civil, ou une combinaison de ces pertes et dommages, qui seraient excessifs par rapport à l’avantage militaire concret et direct attendu » et étude du CICR, Règle 14.

16 Article 35 du PA I de 1977 : « 1. Dans tout conflit armé, le droit des parties au conflit de choisir des méthodes ou moyens de guerre n’est pas illimité. 2. Il est interdit d’employer des armes, des projectiles et des matières ainsi que des méthodes de guerre de nature à causer des maux superflus. 3. Il est interdit d’utiliser des méthodes ou moyens de guerre qui sont conçus pour causer, ou dont on peut attendre qu’ils causeront, des dommages étendus, durables et graves à l’environnement naturel ».

17 La définition des civils comme personnes qui ne sont pas membres des forces armées est formulée à l’article 50 du Protocole additionnel I, pour lequel aucune réserve n’a été formulée. Elle figure aussi dans un nombre considérable de manuels militaires. Dans son jugement rendu dans l’affaire Blaškić en 2000, le Tribunal pénal international pour l’ex-Yougoslavie a défini les civils comme « des personnes qui n’appartiennent pas, ou plus, aux forces armées » (TPIY, Le Procureur c/ Tihomir Blaškić).

18 Art. 51, § 3 du Protocole additionnel I et art. 13, § 3 du Protocole additionnel II.

19 Protocole additionnel I (1977), art. 50, § 1 (adopté par consensus).

20 Le principe de la proportionnalité dans l’attaque est formulé à l’article 51, § 5 b) du Protocole additionnel I et repris à l’article 57 (1). Le Protocole additionnel II ne mentionne pas explicitement le principe de la proportionnalité dans l’attaque, mais l’on a fait valoir qu’il était inhérent au principe d’humanité, lui-même explicitement défini comme applicable au Protocole dans le préambule ; de ce fait, le principe de proportionnalité ne peut être négligé dans l’application du Protocole (M. Bothe, K.J. Partsch, W.A. Solf (eds), New Rules for Victims of Armed Conflicts, La Haye, Martinus Nijhoff, 1982, p. 678). Le principe a été inclus dans un traité plus récent applicable dans les conflits armés non internationaux, à savoir le Protocole II à la Convention sur les armes classiques, tel qu’il a été modifié [Protocole II à la Convention sur les armes classiques, tel qu’il a été modifié (1996), art. 3, § 8, c].

21 La logique modale est un type de logique qui permet de formaliser des éléments modaux. Chaque logique modale est munie d’une série d’axiomes qui définissent le fonctionnement des modalités. Une logique modale est dite normale ou de Kripke, si et seulement si elle admet RN [ou (N) ou (NEC)], la règle d’inférence de nécessitation : si A est un théorème, alors □A aussi. (K) l’axiome de distribution de Kripke : □(AB) → (□A→□B).

22 R.C. Arkin a publié, en 2007, une étude sur le comportement mortel des robots et notamment sur l’éthique des robots. Le rapport technique est disponible sous la référence GIT-GVU-07-11, auprès du Laboratoire de recherche des robots mobiles, du College of Computing, de l’Institut de Technologie de Géorgie.

23 R.C. Arkin, Governing Lethal Behavior in Autonomous Robots, Boca Raton, Chapman & Hall/CRC, 2009, 256 p.

24 R.C. Arkin, P. Ulam et B. Duncan ont publié en 2009 un rapport portant sur le gouvernail éthique permettant de contraindre une action létale d’un système de robot autonome. L’information est disponible dans un rapport technique sous la référence GIT-GVU-09-02, auprès du Centre de l’Institut de Technologie de Géorgie [https://www.cc.gatech.edu/ai/robot-lab/online-publications/GIT-GVU-09-02.pdf]. Robot Colonies aux éditions Broché du 5 décembre 2010 par R.C. Arkin.

25 Ibidem.

26 Ibid.

27 Conformément à l’article 36 du Protocole additionnel I sur l’étude, la mise au point ou l’adoption d’une nouvelle arme ou d’une nouvelle méthode de guerre, les États Parties ont l’obligation de déterminer si l’emploi en serait interdit, dans certaines circonstances ou en toutes circonstances, par les dispositions du Protocole ou par toute autre règle du droit international applicable.

List of illustrations

Title Fig.. Architecture éthique, par R. Arkin22
URL http://books.openedition.org/puam/docannexe/image/4378/img-1.png
File image/png, 588k

Author

Responsable du Pôle Droit international humanitaire – Croix-Rouge française

The text and other elements (illustrations, imported files) may be used under OpenEdition Books License, unless otherwise stated.

Search OpenEdition Search

You will be redirected to OpenEdition Search