Cette recension a été publiée dans le numéro d’hiver 2022 de Politique étrangère (n° 4/2022).
Laure de Roucy-Rochegonde propose une analyse de l’ouvrage d’Ingvild Bode et Hendrik Huelss, Autonomous Weapons Systems and International Norms (McGill-Queen’s University Press, 2022, 196 pages).

Bannière de l'article avec en fond un militaire qui manipule un drone armé et au premier plan, la couverture du livre Autonomous Weapons Systems and International Norms d'Ingvild Bode et Hendrik Huelss avec les logos de l'Ifri et de la revue Politique Étrangère.

Les normes internationales existent précisément pour fixer les standards en matière d’usage de la force. Cependant, avertissent les auteurs, l’émergence de systèmes d’armes autonomes – capables d’identifier une cible et d’ouvrir le feu sans intervention humaine – met en péril cette architecture normative. D’une part, ces standards sont conçus pour les humains, ce qui laisse planer le doute quant à leur compréhension et leur application par des machines. D’autre part, les essais, le développement et le déploiement de systèmes d’armes dotés de fonctionnalités autonomes donnent lieu à de nouveaux usages, qui influent également sur l’évolution des normes éthiques et légales.

C’est pourquoi Ingvild Bode et Hendrik Huelss interrogent la manière dont les nouvelles technologies militaires et les pratiques qu’elles emportent entraînent des changements de long terme dans les normes de la guerre. À cet égard, la réponse apportée aux actions terroristes au cours des vingt dernières années constitue un précédent intéressant. Les normes qui encadrent le recours à la force étant conçues pour des interactions entre États souverains, il s’est avéré très difficile de les justifier contre des acteurs non étatiques violents. Les pratiques étatiques au lendemain du 11 septembre 2001 ont alors bouleversé les normes d’imminence et d’attribution, et répandu le recours aux assassinats ciblés. Or la disponibilité de nouvelles technologies militaires, en particulier les drones armés, a joué un rôle décisif dans leur généralisation.

En effet, l’argument le plus saillant du livre est que les normes n’apparaissent pas uniquement dans les enceintes de délibération internationale. Lorsque les acteurs s’emparent d’armes émergentes, ils développent de nouvelles manières de faire la guerre qui deviennent des références, c’est-à-dire des normes. En ce sens, les conceptions de ce qui constitue un usage approprié de la force sont également façonnées par les pratiques militaires. Dans cette perspective, l’humain pourra-t‑il maintenir un contrôle sur l’usage de la force, alors qu’arrivent sur le champ de bataille des systèmes de plus en plus autonomisés ? Dans le cas contraire, la communauté internationale est-elle prête à déléguer des décisions aussi critiques que le choix et l’engagement d’une cible à des algorithmes ?

Cette approche originale, centrée sur les répercussions normatives du développement des systèmes d’armes autonomes, vient habilement compléter la recherche existante sur les questions stratégiques, juridiques, politiques et éthiques soulevées par ces technologies disruptives. Ainsi que le soulignent Ingvild Bode et Hendrik Huelss, l’autonomisation des systèmes d’armes n’est pas une préoccupation futuriste mais un phénomène déjà à l’œuvre. Certaines fonctions autonomes sont déjà utilisées depuis des décennies, par exemple dans les systèmes de défense aérienne. Leur déploiement a progressivement transformé les normes d’usage de la force et de contrôle humain. Cet ouvrage est donc très pertinent pour saisir les enjeux liés à la militarisation de l’Intelligence artificielle et ses implications pour les relations internationales en général. L’analyse proposée pâtit cependant parfois de son approche trop partiale, qui en fait du même coup un véritable plaidoyer contre l’autonomisation des systèmes d’armes.

Laure de Roucy-Rochegonde

>> S’abonner à Politique étrangère <<