Cette recension a été publiée dans le numéro d’hiver 2021-2022 de Politique étrangère (n° 4/2021). Laure de Rochegonde, chercheuse au Centre des études de sécurité de l’Ifri, propose une analyse de l’ouvrage de Kenneth Payne, I, Warbot: The Dawn of Artificially Intelligence Conflict (Hurst, 2021, 336 pages).
« Le génie est sorti de la lampe » et il n’est pas possible de l’y renvoyer. Tel est le constat de Kenneth Payne, professeur de relations internationales au King’s College de Londres, à propos de l’arrivée de l’Intelligence artificielle (IA) et des robots sur le champ de bataille.
Reprenant à son compte le titre du célèbre roman I, Robot d’Isaac Asimov (1950), l’auteur propose un panorama des enjeux, opportunités et risques associés au recours aux systèmes intelligents sur les théâtres d’opérations, qu’il replace dans le contexte plus large de l’histoire des capacités et concepts militaires.
Comme il le souligne, l’IA peut améliorer les capacités des armées dans des domaines tels que la reconnaissance et le ciblage, grâce à la vitesse de traitement et à la reconnaissance visuelle. Les systèmes autonomes s’annoncent par ailleurs plus rapides, endurants et coordonnés sur le champ de bataille. Ils permettent de plus une réduction des coûts, et un meilleur emploi des capacités humaines. En revanche, ils sont beaucoup moins performants dans les situations exigeant de la créativité et de l’intuition – intrinsèquement humaines.
Si les réflexions sur l’autonomie des systèmes d’armes et de combat se multiplient depuis quelques années, l’approche de Kenneth Payne se démarque par son originalité. Elle s’attache en effet à dépasser les considérations tactiques et techniques pour réfléchir aux implications stratégiques des technologies émergentes. L’IA ne change pas uniquement la donne sur le terrain, nous dit en substance Kenneth Payne, mais également dans les états-majors, où elle aide les officiers généraux et les responsables politiques à prendre des décisions cruciales pour l’issue du conflit – y compris des décisions de vie et de mort.
L’IA ne modifie pas seulement la manière de combattre, mais encore la probabilité que la guerre survienne, et la pensée produite à son sujet. Les machines risquent en effet d’abaisser le seuil d’entrée en conflit et d’enclencher des dynamiques d’escalade irrémédiables, rendant les stratégies de dissuasion caduques. Avec un examen méticuleux des cas potentiels de recours à l’IA sur le champ de bataille et dans les états-majors – des drones sans pilotes aux algorithmes d’aide à la décision en passant par les chars robotisés –, Kenneth Payne dessine les contours de la guerre de demain. Que deviendra « l’art de la guerre » si les stratégies militaires sont conçues par des IA ? Aussi brillante que soit l’IA d’un point de vue tactique, avance l’universitaire britannique, elle ne sera jamais un véritable stratège.
I, Warbot ouvre de nouvelles perspectives dans le débat sur l’utilisation de systèmes d’armes autonomes dans les futures guerres. L’auteur achève sa réflexion en évoquant la nécessité d’une réglementation internationale de ces technologies émergentes. Insistant à la fois sur les dangers qu’emportent les armes autonomes et sur leur intérêt militaire, Kenneth Payne appelle de ses vœux leur régulation. Si leur interdiction préventive – défendue par la Campaign to Stop Killer Robots depuis 2013 – n’est déjà plus envisageable, et pourrait même s’avérer contre-productive, il est encore possible de bâtir un cadre normatif et opérationnel pertinent, pour éviter les dérives les plus graves. Le génie est bel et bien sorti de la lampe, mais il est possible de lui fixer des limites et de le contraindre à respecter certaines règles fixées par l’homme.
Laure de Rochegonde
Vous devez être connecté pour poster un commentaire.