Cette recension a été publiée dans le numéro d’été 2021 de Politique étrangère (n° 2/2021). Laure de Rochegonde, chercheuse au Centre des études de sécurité de l’Ifri, propose une analyse de l’ouvrage de Frank Pasquale, New Law of Robotics: Defending Human Expertise in the Age of AI (Belknap Press, 2020, 344 pages).

L’Intelligence artificielle (IA) et la robotique sont au cœur d’une nouvelle révolution industrielle, dont les effets s’observent dans pratiquement toutes les sphères personnelles et professionnelles. Cependant, relève Franck Pasquale, il serait éminemment dangereux de faire confiance aux machines pour tous les types de tâches.

Dans la lignée d’Isaac Asimov qui, au début des années 1940, imaginait trois grandes lois de la robotique, Franck Pasquale prescrit quatre nouvelles règles qui devraient prévaloir au développement de systèmes robotiques avancés. D’après l’universitaire américain spécialiste du droit de l’Intelligence artificielle à la Brooklyn Law School, il faudrait que les robots et l’IA soient complémentaires aux humains et non qu’ils les remplacent (1), ou qu’ils contrefassent l’humanité (2). Les systèmes robotisés ne devraient pas entraîner d’amplification des diverses courses aux armements (3). Enfin, l’identité de leurs créateurs, de ceux qui les contrôlent et de ceux qui les possèdent, devrait toujours être indiquée (4). Si l’on en croit Franck Pasquale, c’est là la seule façon de s’assurer que la technologie ira dans un sens favorable à l’humanité. Quitte, ajoute-t‑il, à ce que ces normes ralentissent les progrès dans le domaine de la robotique avancée.

Les avancées fulgurantes de l’IA fascinent autant qu’elles inquiètent, et les scénarios les plus dystopiques se font jour. Au-delà de s’acquitter de tâches répétitives, sales, dangereuses et coûteuses – dites « 4D » en anglais pour dull, dirty, dangerous et dear – les robots pourraient sous peu se substituer aux hommes dans tous les domaines. Chauffeurs et médecins, mais aussi juges et soldats pourraient se voir demain remplacés par des équivalents robotiques, dès lors que leurs missions pourraient être automatisées.

Pourtant, nous dit Franck Pasquale, l’IA et la robotisation sont en mesure de rendre le travail humain encore plus précieux – et non l’inverse. Les métiers dans lesquels l’empathie et le jugement humains sont les plus essentiels, tels la santé ou l’enseignement, doivent tirer profit des avancées technologiques, et pas seulement fournir les données nécessaires à leur propre remplacement. C’est par la coopération avec les robots que les sociétés amélioreront leurs systèmes de santé, d’éducation ou de justice. L’avenir de l’homme serait alors dans son interaction avec la machine : plutôt que sur l’Intelligence artificielle (IA), il faut miser sur l’augmentation de l’intelligence (AI), pour conserver la valeur et le sens du travail humain.

La vigilance est de mise, si nous voulons exploiter l’IA et non finir exploités par elle. Une régulation avisée et l’émergence de nouvelles réglementations sont seules en mesure d’empêcher une dévastatrice course à l’innovation. Et les décisions en matière de régulation ne peuvent se cantonner aux seuls ingénieurs, ni aux seules entreprises. Aussi Franck Pasquale plaide-t‑il pour une démocratisation du développement de l’IA, dans une logique de responsabilité partagée.

À contre-courant des spéculations catastrophistes sur les conséquences de la robotisation, New Laws of Robotics propose une vision raisonnée et optimiste du progrès technologique, où les capacités, l’expertise et l’intuition humaines sont les éléments irremplaçables d’une économie inclusive.

Laure de Rochegonde

>> S’abonner à Politique étrangère <<