Army of None. Autonomous Weapons and the Future of War

Cette recension a été publiée dans le numéro d’hiver de Politique étrangère
(n° 4/2019)
. Laure de Rochegonde propose une analyse de l’ouvrage de Paul Scharre, Army of None. Autonomous Weapons and the Future of War (W.W. Norton & Company, 2018, 448 pages).

Ancien ranger, directeur de programme au Center for a New American Security, fort de son expérience en Irak, en Afghanistan, puis au Pentagone, Paul Scharre interroge les conséquences – militaires, politiques, éthiques et juridiques – du développement d’armes autonomes.

Partant du constat du rythme effréné auquel progressent l’intelligence artificielle et la robotique, Paul Scharre en explore les applications dans de nombreux domaines (de la finance aux échecs en passant par les thermostats connectés). Ce faisant, il laisse entrevoir les contours de la guerre du futur, caractérisée par l’emploi de systèmes d’armes létales autonomes, pouvant sélectionner et attaquer des cibles sans intervention humaine.

Si, comme le montre l’auteur, l’autonomisation des systèmes peut être porteuse de plus de sécurité en permettant la réduction de la souffrance humaine, les armes « intelligentes », plus rapides, précises et performantes, pourraient pourtant s’avérer très dangereuses si elles en venaient à n’être plus du tout encadrées par l’homme. L’un des principaux intérêts de cet ouvrage tient en effet à la neutralité affichée de l’auteur qui, grâce à des entretiens avec une grande diversité d’acteurs du débat, est en mesure d’exposer les avantages indéniables des armes autonomes tout en alertant sur les risques à ne pas sous-estimer par une confiance aveugle en la technologie.

Paul Scharre met par ailleurs en lumière nombre de paradoxes inhérents au « brouillard de la guerre ». Parfois, dans un conflit, prendre la bonne décision implique d’enfreindre les règles, car ce qui est légal n’est pas forcément juste, et ce qui est juste n’est pas toujours rationnel. La compatibilité des armes létales autonomes avec le droit international humanitaire pose donc éminemment question.

Aussi est-il urgent de réfléchir à la maîtrise de ces nouveaux armements. Paul Scharre déplore que le risque d’escalade soit jusqu’à présent négligé par les décideurs. En effet, les progrès en termes d’autonomisation des armes sont nettement plus rapides que les tentatives de régulation les concernant. À cet égard, Army of None appelle les États à travailler à l’échelle internationale sur les conséquences de ces technologies, et à concevoir des mesures de sauvegarde appropriées, s’ils ne veulent pas courir le risque d’être dépassés par leur puissance.

Cependant, si l’on en croit l’auteur, la leçon de l’histoire est telle que « les États-Unis s’opposeront violemment aux systèmes robotiques autonomes létaux, jusqu’au moment où ils décideront qu’ils ne pourront pas s’en passer ». Il alerte ainsi sur le risque de prophétie autoréalisatrice intrinsèque au débat ; la raison pour laquelle les États risquent de bâtir des armes entièrement autonomes étant que leurs adversaires pourraient en faire autant.

La réflexion se clôt sur l’idée qu’il n’est « de destin que ce que l’on en fait ». Si l’Intelligence artificielle et la robotique façonneront nécessairement le futur, l’humanité peut choisir la manière dont elles impacteront le monde. Les questions posées par cet ouvrage se font plus pressantes chaque jour et conditionnent la manière dont les guerres seront combattues à l’avenir. Cela fait d’Army of None un ouvrage essentiel pour saisir les débats, les enjeux, les risques et les opportunités dont s’accompagnent les armes autonomes.

Laure de Rochegonde

>>S’abonner à Politique étrangère <<

Ce contenu a été publié dans Revue des livres, avec comme mot(s)-clé(s) , , , . Vous pouvez le mettre en favoris avec ce permalien.

Laisser un commentaire

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur comment les données de vos commentaires sont utilisées.