Cette recension a été publiée dans le numéro d’hiver 2020-2021 de Politique étrangère (n° 4/2020). Jean-Christophe Noël, chercheur associé au Centre des études de sécurité de l’Ifri, propose une analyse de l’ouvrage de Stuart Russell, Human Compatible: AI and the Problem of Control (Viking Press, 2019, 352 pages).
La principale question posée par Human Compatible est de savoir comment les hommes pourraient garder le contrôle sur une super Intelligence artificielle (IA), c’est-à-dire sur une machine possédant un niveau d’intelligence supérieur aux êtres humains les plus brillants, pour éviter qu’elle ne provoque les pires désastres. L’enquête menée sert également de prétexte pour présenter des réflexions plus générales sur l’Intelligence artificielle.
Stuart Russell est une personnalité reconnue dans le monde de l’IA. Professeur de sciences informatiques à l’université de Berkeley, il a déjà publié Artificial Intelligence: A Modern Approach, qui constitue un des principaux livres de référence sur l’IA, et qui en est à sa quatrième édition depuis sa sortie de 1995.
Dans son nouveau livre, Stuart Russell s’étonne du manque d’intérêt général sur l’émergence possible d’une super IA. Après tout, écrit-il, si nous détections un grand astéroïde dont la trajectoire croiserait celle de la Terre en 2069, nous ne nous demanderions pas s’il serait prématuré de s’en inquiéter. Or l’éclosion d’une super intelligence est envisageable, selon l’auteur, dans des délais qui pourraient être bien plus proches qu’on ne croit. Alors, que faire ?
Pour répondre à cette question, l’auteur décompose son livre en trois parties. Les premiers chapitres décrivent l’histoire de l’IA et proposent quelques réflexions sur son évolution future. Les capacités et les limites des systèmes actuels sont notamment décrites.
La deuxième partie traite des problèmes qui apparaissent dès lors qu’une machine dispose d’une part d’« intelligence ». Le quatrième chapitre est notamment consacré aux risques qui se dessinent avec l’importance toujours plus grande prise par les machines dans des domaines aussi variés que la surveillance, les armes automatisées ou le monde du travail.
La troisième et dernière partie propose des solutions originales pour imaginer un fonctionnement favorable et vertueux d’une super IA pour les hommes. Se fondant sur les principes de l’utilitarisme, Russell affirme que le seul but d’une IA doit être de maximiser la réalisation des préférences humaines. Elle doit cependant ignorer la nature de ces préférences et observer le comportement des hommes pour s’en inspirer et fixer son modèle. La machine dépendra ainsi étroitement des êtres humains pour son fonctionnement.
Ce livre suscite quelques interrogations. Les arguments justifiant l’émergence de la super IA manquent parfois de force. Le problème de la conscience des machines est par ailleurs mis de côté, l’auteur soulignant l’ignorance générale sur ce sujet, puis clôturant brutalement la discussion. Certains pourront enfin préférer privilégier la transparence ou la surveillance des programmes informatiques pour réduire l’autonomie des machines, plutôt qu’une pensée utilitariste, qui peut manquer de convaincre des experts peu sensibles à ses préceptes.
Il n’en reste pas moins que l’ouvrage de Stuart Russell est passionnant. Sa lecture stimulera sans nul doute ses lecteurs, qu’ils évoluent dans le secteur de l’IA ou qu’ils en découvrent seulement les fondements.
Jean-Christophe Noël
Vous devez être connecté pour poster un commentaire.