Version classiqueVersion mobile

Guerre, armées et communication

 | 
Éric Letonturier

Le « Killer Robot » est-il l’avenir de l’« Homo Militaris » ?

Didier Danet

Texte intégral

1En juillet 2015, l’attention des médias du monde entier se trouve soudainement sollicitée par une lettre ouverte dénonçant les dangers que ferait courir à l’humanité une catégorie d’engins militaires à venir : les « robots tueurs » (Victor, 2015). Les signataires prestigieux de cette lettre ouverte (N. Chomsky, S. Hawking, S. Wozniak…) déclarent se mobiliser pour obtenir l’interdiction des recherches portant sur les applications militaires de l’intelligence artificielle. Mais, l’hypothétique mise au point de robots militaires autonomes n’est pas le seul facteur de transformation de la guerre contemporaine. Nombre d’auteurs tiennent par exemple pour certaine l’imminence d’un cataclysme dans l’espace de bataille numérique – un « cyber Pearl Harbor ». De même, les recherches menées au croisement de la médecine, des bio ou nanotechnologies et des sciences cognitives ouvrent des perspectives inédites en matière d’augmentation des capacités physiques ou intellectuelles de l’homme au combat. Face aux mutations en cours et à venir des conditions de la conflictualité, la question se pose de la place respective de l’homme et de la machine dans les guerres futures.

2Ce type de questionnement n’a rien de véritablement nouveau. Toute avancée significative des sciences et des techniques de l’armement provoque les mêmes débats. De l’arbalète à la bombe atomique, les systèmes d’armes susceptibles de rompre les équilibres existants ont toujours fait redouter l’abaissement incontrôlé du seuil de déclenchement des conflits, la montée inéluctable aux extrêmes ou l’augmentation insupportable des pertes humaines. Ces craintes sont particulièrement vives aujourd’hui, à un moment de l’histoire des sciences et des techniques où le rythme des découvertes et de l’innovation s’accélère. Mais, sommes-nous véritablement engagés dans une révolution technicienne qui nous conduirait sans retour possible à un système de coercition entièrement géré par des machines ayant conquis le pouvoir de décider seules des conditions, voire du principe, de la paix et de la guerre ?

La production de force et la « révolution RVA »

3Au service du gouvernement pour produire la force nécessaire afin de briser la volonté de l’ennemi et le contraindre à accepter le projet politique qu’il combattait jusque-là, l’institution militaire doit à la Nation de rechercher l’efficacité maximale dans son action collective en vue de produire l’effet coercitif attendu. Il lui appartient de combiner au mieux les moyens qui lui sont alloués afin d’obtenir le plus grand effet possible ou, sous une autre forme, de minimiser les ressources consommées pour obtenir un effet coercitif donné.

4Dans le cas de l’institution militaire, les avantages conférés par la possession de systèmes innovants, supérieurs à ceux des ennemis potentiels, ont provoqué le renforcement tendanciel du poids des équipements dans la combinaison productive. Le caractère spectaculaire de certaines ruptures technologiques a même parfois amené les spécialistes à prédire l’élimination pure et simple du « maillon faible » que l’homme avait vocation à devenir dans les systèmes d’armes évolués.

5Andrew Herr rapporte ainsi que, dans les années 1960, la Marine et l’armée de l’Air des États-Unis voyaient dans la combinaison du radar et du missile air-air la clé ultime de la supériorité dans le combat aérien, le pilote ayant désormais vocation à s’asseoir sur un strapontin dans le fond du cockpit (Herr, 2015). Devant les résultats décevants obtenus au Vietnam, l’armée de l’Air choisissait de privilégier la voie de la sophistication technique tandis que la Marine donnait la priorité à une formation des pilotes plus proche de la réalité du combat aérien. Les résultats furent très positifs pour la Marine tandis que ceux de l’armée de l’Air n’évoluèrent pas. On se gardera évidemment d’en tirer la conclusion que l’innovation technologique ne saurait avoir d’effet positif sur la performance des armées. Mais, il serait tout aussi ridicule de postuler qu’elle est la seule à pouvoir produire un tel effet.

6Qu’en sera-t-il en 2025 ou 2030, date à laquelle sont supposés se produire la « singularité technologique » et le début d’une ère transhumaniste dans laquelle les robots autonomes prendront le pouvoir (Kurzweil, 2005), y compris et avant tout peut-être, dans le domaine de la Sécurité et de la Défense ?

7Chacun peut constater que nous vivons depuis un quart de siècle au rythme d’innovations permanentes et qui sont à l’origine de trois grandes transformations sur le champ de bataille.

  • La robotisation est sans doute la plus ancienne. Sur terre, en mer ou dans l’espace, les forces armées disposent aujourd’hui de systèmes pilotés à distance – télé-opérés – grâce auxquels elles peuvent éviter d’user la ressource humaine dans des opérations lassantes et monotones, excessivement dangereuses ou conduites dans des environnements contaminés1.
  • La deuxième transformation est la virtualisation croissante des conflits. L’espace numérique est devenu un terrain d’affrontement où se déploient des manœuvres de propagande, d’espionnage ou de sabotage2.
  • La troisième, l’augmentation humaine (« Human Enhancement »), résulte de la convergence rapide de la médecine, des bio et nanotechnologies, des sciences cognitives et de l’intelligence artificielle ; elle vise à ralentir la consommation du potentiel physique et intellectuel des combattants, à le reconstituer si nécessaire, voire à l’enrichir par l’adjonction de capacités que l’homme ne possède pas naturellement3.

8Appliquée à la sphère militaire, cette « révolution RVA » laisse imaginer un monde dans lequel des systèmes d’information de plus en plus puissants (numérisation) et dont de nombreuses fonctions opérationnelles auront été automatisées (robotisation) apporteront une aide inédite à la prise de décision du chef militaire ou du combattant, la sollicitation accrue de leurs capacités physiques (vitesse de décision et d’action amplifiée) ou intellectuelles (maîtrise d’une complexité croissante, capacité d’attention) étant contrebalancée par des techniques d’augmentation sophistiquées qui n’auraient plus rien à voir avec des pratiques anciennes, comme la prise d’amphétamines en vue de lutter contre la fatigue.

9Le prochain quart de siècle connaîtra donc sans doute des modifications substantielles dans la manière dont les forces armées combinent les ressources humaines et techniques au sein de la fonction de production de la coercition.

L’optimisation de la production de force au service d’un objectif politico-stratégique

10Faut-il pour autant redouter les progrès des sciences et des techniques et s’inquiéter, par exemple, de l’avènement d’intelligences artificielles susceptibles de prendre le pouvoir ? Dans le domaine plus particulier de la Sécurité et de la Défense, faut-il craindre avec Roberto J. González que la combinaison de toutes ces techniques n’aboutisse un jour lointain à un système général de gestion automatisée de la coercition dans lequel un algorithme livré à lui-même serait chargé d’identifier individus et groupes potentiellement dangereux, de les traquer et de les arrêter ou de les éliminer sans autre forme d’intervention humaine ? (González, 2015) Si l’on considère la question de la robotisation du champ de bataille, qui concentre actuellement les débats les plus nourris, il est permis d’en douter pour trois raisons au moins.

Des prédictions fondées sur des extrapolations hasardeuses

11En premier lieu, comme le disait Winston Churchill, « It is always wise to look ahead, but difficult to look further than you can see. » De fait, les prédictions relatives aux « robots tueurs » se construisent sur des extrapolations hasardeuses ou des « lois » rudimentaires que les multiples rebondissements jalonnant l’histoire des sciences devraient inciter à considérer avec un minimum de recul. Il faut avoir la foi d’un charbonnier transhumaniste pour croire que le sentier d’expansion technologique de Ray Kurzweil nous amènera bien en 2025 à l’ère de la singularité. À ceux qui en voient la confirmation dans la victoire d’Alphago sur le champion du monde du jeu de go (Alexandre, 2016), il est possible de rappeler que l’intelligence artificielle d’Alphago, pour spectaculaire qu’elle soit, ne constitue que l’embryon d’un début de commencement des réponses nécessaires pour qu’apparaisse sur le champ de bataille le robot militaire dont les ONG dénoncent l’arrivée future. Le robot de Google se déploie en effet dans un espace connu et figé de 19 lignes par 19 colonnes, où des adversaires à égalité jouent selon des règles définies, intangibles, et sous la supervision constante d’arbitres intransigeants. Or, s’il est une leçon permanente et universelle de l’histoire militaire, c’est bien que la guerre ne se déroule jamais dans un tel cadre et qu’Alphago aurait sans doute les plus grandes difficultés si son adversaire ajoutait subrepticement des lignes ou des colonnes à l’espace de la confrontation, posait trois ou quatre pions en même temps, ou renversait le plateau en cas de difficulté. Le champ de bataille est avant tout le terrain privilégié de la surprise stratégique, du brouillard et des frictions. Dès lors que le robot se trouve confronté à des aléas de ce type, les systèmes d’intelligence artificielle les plus sophistiqués sont très vite dépassés et mis à mal.

12C’est ce que montre, par exemple, l’échec brutal et rapide de Tay. Ce robot, conçu par les équipes de Microsoft et disposant des processus de « deep learning » les plus avancés, devait simuler la conversation d’une adolescente un peu superficielle sur Twitter. L’ambition était donc pour le moins modeste. Pourtant, en moins de quinze heures, des internautes mal intentionnés avaient fait jouer les mécanismes d’apprentissage de telle sorte que Tay s’était transformé en harpie extrémiste si violemment misogyne, négationniste et conspirationniste que l’expérience a dû être arrêtée en toute urgence (Hunt, 2016). De manière encore plus banale, les frictions pourtant limitées d’une salle de restaurant ont conduit deux établissements de Canton à mettre au rebut les robots serveurs dont l’introduction leur avait assuré une publicité certaine. Ces robots étaient, en effet, incapables de prendre des commandes ou d’apporter une assiette de soupe sans en renverser une bonne partie sur les genoux de la clientèle (Gévaudan, 2016).

13La crainte de voir apparaître dans un futur indéterminé des robots militaires présentant les caractéristiques décrites par les signataires de la pétition du Future of Life Institute s’ancre donc dans des extrapolations discutables et des prophéties amphigouriques, auxquelles il est possible d’opposer le simple constat des progrès qui resteraient encore à accomplir pour qu’une machine affranchie de tout contrôle humain soit en état de maîtriser les conditions élémentaires d’un affrontement sur le champ de bataille.

Un déterminisme technologique contraire à la logique politique et stratégique

14L’annonce alarmiste d’un avènement inéluctable des « robots tueurs » sur le champ de bataille procède d’un déterminisme technologique radical. Son postulat central est que le progrès technologique ne pouvant être endigué, toute innovation s’incorpore ipso facto dans les systèmes d’armes sans considération pour le contexte ou la logique politique et stratégique dans lesquels elle intervient. Selon ce raisonnement, Alphago est le précurseur inéluctable des hordes de « Killer robots » sauf interdiction immédiate et absolue des applications militaires de l’intelligence artificielle. Si l’on accorde malgré tout quelque place aux considérations d’ordre politique et stratégique, une question immédiate se pose : de quelle utilité seraient des systèmes d’armes répondant aux caractéristiques des « robots tueurs » ? La réponse est simple : aucune.

15Toute la logique contemporaine des interventions militaires réside dans ce que la doctrine française appelle « l’action globale » des forces armées (CDEF, 2007). Gagner la bataille n’est pas une finalité en soi. La victoire ne fait sens que par rapport à un projet plus vaste : mettre en place les conditions d’une paix durable et débouchant sur le rétablissement ou l’instauration de la sécurité des personnes et des biens, d’un système politique ouvert, d’une économie prospère… Dans ce cadre, la maîtrise permanente de la force mise en œuvre est une condition fondamentale de la réussite stratégique et politique. Or, on sait combien l’action de chaque combattant est observée et peut, si elle n’est pas « appropriée », conduire à des effets qui vont bien au-delà du contexte local dans lequel elle s’est produite (Krulak, 1999).

16Un système d’armes qui serait capable de se déplacer seul, de sélectionner une cible et de déclencher le feu en totale autonomie, c’est-à-dire sans aucune intervention ni supervision humaines, prendrait des décisions sur la base d’un système d’apprentissage indépendant et produirait des effets totalement ou partiellement incontrôlables. La situation serait comparable à celle d’une armée ayant renoncé à toute discipline collective et laissant à chaque soldat la liberté de ses initiatives et le choix des moyens à employer pour mener le combat. Si le pouvoir politique allait dans ce sens et dotait les forces armées de ce type de machines fort heureusement hypothétiques, il anéantirait du même coup les fondements actuels de sa politique et de sa doctrine en matière de relations internationales. On peut penser que face à cette évidente aporie entre la fin et les moyens, le pouvoir politique et les responsables militaires y réfléchiraient à deux fois avant de s’abandonner à ce qui est présenté comme une « fatalité technologique ».

Un tout technologique incompatible avec l’optimisation de la fonction de production

17L’analyse économique des programmes de recherche et développement (R & D) militaire ou d’acquisition des systèmes d’armes montre que les choix en matière de fonction de production ne sont pas totalement optimaux. Ils subissent en particulier un biais que Vincent Desportes (2009) appelle le « technologisme ». La recherche de la performance unitaire des systèmes d’armes modernes prend régulièrement le pas sur le nombre d’exemplaires effectivement disponibles. L’équilibre optimal entre la quantité des matériels en service et leur performance unitaire se trouve ainsi perturbé par un goût excessif pour la sophistication technologique. De la même manière, les avancées actuelles de la « révolution RVA » pourraient donc être de nature à accentuer le biais en faveur des équipements les plus sophistiqués et en défaveur du rôle des hommes dans la fonction de production des forces armées.

18Or, les arbitrages effectués dans l’équilibre de cette fonction de production ne sauraient s’affranchir de la nécessaire logique d’optimisation. Aucune armée ne saurait trouver une quelconque efficacité en favorisant à l’excès l’un des deux facteurs de production au détriment de l’autre. Elle subirait le phénomène général des rendements décroissants. Toute politique d’équipement misant sur la généralisation des « Killer Robots », c’est-à-dire sur une substitution systématique des machines aux hommes sur le champ de bataille serait une ineptie au regard de l’efficacité de la fonction de production et conduirait à s’exposer à des surprises désagréables de la part d’ennemis beaucoup moins avancés sur le plan technique, mais qui seraient en mesure de combiner l’intelligence humaine et les dispositifs techniques nécessaires et suffisants pour créer les surprises, le brouillard et les frictions mettant en grande difficulté les systèmes techniques les plus avancés.

19Le foisonnement des progrès scientifiques et techniques modifie profondément les conditions d’emploi de la force sur le champ de bataille. Il engendre à ce sujet des confusions singulières qui parasitent la réflexion. Rappelons qu’en l’état actuel des choses, la « révolution RVA » permet de construire des fonctions de production de force qui mettent en œuvre des relations homme-machine dans lesquelles le premier exerce trois types de contrôle sur la seconde.

  • Le contrôle local : c’est l’hypothèse du fantassin qui utilise son fusil sur le champ de bataille. Le combattant est présent dans l’espace de bataille ; il agit localement sur l’effecteur létal dont il contrôle la mise en œuvre et les effets.
  • Le contrôle à distance ou la télé-opération : cette forme de contrôle est identique dans sa nature au contrôle local mais ses conditions d’exercice diffèrent puisque le combattant est à distance (quelques dizaines de mètres dans le cas d’un engin de déminage, plusieurs milliers de kilomètres dans le cas d’un drone aérien). Le qualificatif « unmanned » utilisé pour désigner ce type de contrôle ne doit pas tromper : rien n’est plus piloté par l’homme qu’un drone qui vole au-dessus du champ de bataille. Des équipes entières sont mobilisées pour en assurer le fonctionnement et le conduire dans sa mission (Jeangène Vilmer et Fontaine 2016). Le contrôle de l’emploi de la force est aussi étroit, peut-être plus même, que celui exercé par le pilote dans son aéronef.
  • L’automatisation de certaines fonctions opérationnelles au profit de l’aide à la décision du chef militaire ou du combattant : la troisième forme de contrôle résulte de l’automatisation de certaines fonctions opérationnelles rendue possible par les progrès de la robotisation et de la numérisation. Le combattant ou le chef militaire dispose d’aides à la décision qui lui permettent de recentrer sa capacité de contrôle sur les phases essentielles de la prise de décision en s’appuyant sur la machine pour le recueil des données et le déclenchement d’actions préprogrammées exigeant, par exemple, une très grande capacité de calcul ou de rapidité de mise en œuvre. De tels systèmes existent et sont appelés à se développer car ils permettent à l’homme de conserver la maîtrise de l’emploi de la force malgré une complexité croissante des situations et à des temps de réaction de plus en plus réduits.

20En tout état de cause, c’est bien l’homme qui prend les décisions et qui garde le contrôle sur l’emploi de la machine, la nature et la portée des effets produits. La dénonciation des « robots tueurs » est donc soit infondée soit prématurée. Elle est infondée lorsqu’elle vise des systèmes d’armes qui sont sous le contrôle incontestable de décideurs politiques qui en définissent les conditions d’emploi et de chefs militaires qui en contrôlent la mise en œuvre sur le terrain. Elle est prématurée lorsqu’elle vise des systèmes d’armes hypothétiques, dont nul n’est en mesure aujourd’hui de définir la nature, les caractéristiques ou les effets.

Bibliographie

Références bibliographiques

Alexandre, Laurent, « Faut-il interdire Alphago ? », LeMonde.fr, 15 mars2016 [En ligne] : <http://www.lemonde.fr/sciences/article/2016/03/15/faut-il-interdire-google-alphago_4882798_1650684.html>.

Centre de Doctrine d’Emploi des Forces, « Gagner la bataille. Conduire à la paix. Les forces terrestres dans les conflits aujourd’hui et demain », Paris, ministère de la Défense, janvier 2007.

Desportes, Vincent, « Armées : “technologisme” ou “juste technologie” ? », Politique étrangère, no 2, été 2009, p. 403-418.

Gévaudan, Camille, « En Chine, des robots serveurs licenciés pour incompétence », Libération. fr, 7 avril 2016 [En ligne] : «  http://www.liberation.fr/futurs/2016/04/07/en-chine-desrobots-serveurs-licencies-pour-incompetence_1444585 ».

González, Roberto J., « Seeing Into Hearts and Minds : Part 2. “Big data”, Algorithms, and Computational Counterinsurgency », Anthropology Today, vol. 31, no 4, 2015, p. 13-18.

Herr, Andrew, « Will Humans Matter in the Wars of 2030 ? », Joint Force Quarterly 77, 1er avril 2015, p. 76-83. Disponible sur : <http://ndupress.ndu.edu/Media/News/News-Article-View/Article/581875/jfq-77-will-humans-matter-in-the-wars-of-2030/>.

Hunt, Elle, « Tay, Microsoft’s AI Chatbot, Gets a Crash Course in Racism from Twitter », The Guardian, 2016, 24 mars 2016 [En ligne] : <https://www.theguardian.com/technology/2016/mar/24/tay-microsofts-ai-chatbot-gets-a-crash-course-in-racism-from-twitter>.

Jeangène Vilmer, Jean-Baptiste et Fontaine, Christophe, « Drones armés, drones de combat et “robots tueurs” », The Conversation, 29 avril 2016 [En ligne] : <http://theconversation.com/dronesarmes-drones-de-combat-et-robots-tueurs-58365>.

Kleinpeter, Édouard (dir.), L’humain augmenté, Paris, CNRS Éditions, coll. « Les Essentiels d’Hermès », 2013.

Krulak, Charles C., « The Strategic Corporal : Leadership in the Three Block War », Marine Corps Gazette, janvier 1999, vol. 83, no 1, p. 18-22.

Kurzweil, Ray, « The Singularity is Near : When Humans Transcend Biology », New York, Penguin, 2005.

Victor, Daniel, « Elon Musk and Stephen Hawking Among Hundreds to Urge Ban on Military Robots » Nytimes.com, 27 juillet 2015 [En ligne] : <http://www.nytimes.com/2015/07/28/technology/elon-musk-and-stephen-hawking-among-hundreds-to-urgeban-on-military-robots.html?_r=0>.

Notes

1 Voir par exemple : DSI, Robotique militaire : la révolution est en marche, Hors série, no 110, février-mars 2010.

2 Voir par exemple : DSI, Au cœur de la cyberdéfense, Hors série, no 32, octobre-novembre 2013.

3 Voir par exemple : DSI, Le soldat augmenté, Hors-série, no 45, décembre-janvier, 2015. Voir aussi Édouard Kleinpeter (dir.), 2013.

Auteur

Enseignant chercheur en gestion aux écoles de Saint-Cyr Coëtquidan. Il est responsable du pôle de recherche « Action globale et forces terrestres » et dirige le mastère spécialisé « Opérations et gestion des crises en cyber défense ». Ses travaux portent principalement sur les aspects économiques et juridiques des mutations de la conflictualité contemporaine : robotisation et numérisation du champ de bataille, augmentation des individus. Il a récemment co-dirigé avec A. Ronan et G. de Boisboissel l’ouvrage Drones et killer robots. Faut-il les interdire ? (Rennes, PUR, 2015).

Le texte et les autres éléments (illustrations, fichiers annexes importés) sont sous Licence OpenEdition Books, sauf mention contraire.

Rechercher dans OpenEdition Search

Vous allez être redirigé vers OpenEdition Search