Superintelligence : Paths, Dangers, Strategies

livre de Nick Bostrom

Superintelligence
Auteur Nick Bostrom
Genre Essai
Version originale
Langue Anglais
Éditeur Oxford University Press
Date de parution 2014
Nombre de pages 328
ISBN 9780199678112
Version française
Traducteur Françoise Parot
Éditeur Dunod
Collection Quai des Sciences
Lieu de parution Malakoff
Date de parution 2017
Couverture Claire Scully
Nombre de pages 464
ISBN 9782100772520

Superintelligence : chemins, dangers, stratégies (en anglais : Superintelligence: Paths, Dangers, Strategies) (2014) est un livre écrit par le philosophe Nick Bostrom. Le livre explore comment la superintelligence pourrait être créée, et quelles seraient ses capacités et motivations[1]. Il argumente que contrôler une superintelligence est étonnamment difficile, et que celle-ci pourrait prendre le contrôle du monde pour mieux accomplir ses objectifs. Le livre présente des concepts et stratégies aidant à faire en sorte que les objectifs des superintelligences soient bénéfiques pour l'humanité[2]. Il a suscité beaucoup d'inquiétudes sur les risques existentiels liés à l'intelligence artificielle[3].

Le livre de Bostrom a été traduit dans de nombreuses langues et est disponible en livre audio[4],[5].

Synopsis modifier

L’auteur commence par énumérer les différentes possibilités qui pourraient conduire à l’apparition d’une superintelligence. Elles incluent le génie génétique, la reproduction sélective, le transhumanisme, l’intelligence machine soit par rétro-ingénierie soit par le développement d’algorithmes d’apprentissage. L’auteur conclut cette première prospective par la haute probabilité de l’émergence d’une superintelligence. Le temps nécessaire à cette apparition n’est pas déterminé mais selon l’auteur le risque existe que cette apparition soit très rapide. Quel que soit le calendrier, une fois que la machine d’un niveau cognitif comparable aux humains sera développée, un système « superintelligent dépassant largement les performances cognitives de l'homme dans pratiquement tous les domaines » devrait suivre étonnamment rapidement, peut-être même instantanément. Une telle superintelligence serait difficile à contrôler ou restreindre.

Alors que les objectifs ultimes d’une superintelligence pourraient varier considérablement, une superintelligence fonctionnelle générera spontanément des sous-objectifs naturels ou instrumentaux tels que l'auto-préservation, l'intégrité de ses buts, l’amélioration cognitive et l'acquisition des ressources. Par exemple, un agent dont le seul but final est de résoudre l'hypothèse de Riemann (une célèbre conjecture mathématique non résolue) pourrait signifier comme sous-objectif la transformation de l'ensemble de la Terre en une certaine forme de computronium (hypothétique « matière programmable ») pour faciliter le calcul. La superintelligence agirait proactivement pour parer toutes tentatives extérieures visant à entraver la réalisation de ce sous-objectif. Afin d'éviter une telle catastrophe existentielle, il semble nécessaire de résoudre le « problème du contrôle de l'IA » avant qu’une première superintelligence ne voie le jour. La solution pourrait impliquer d'inculquer à la superintelligence des objectifs compatibles avec la survie humaine et son bien-être. Résoudre le problème du contrôle est cependant étonnamment difficile parce que la plupart des objectifs, lorsqu'ils sont traduits en code implémentable dans une machine, conduisent à des conséquences imprévues et indésirables.

Réception modifier

Le livre a été classé n° 17 meilleur livre de science en par le New York Times[6]. Durant le même mois, le magnat des affaires Elon Musk a fait la une des titres en déclarant, en accord avec le livre, que l'intelligence artificielle était potentiellement plus dangereuse que les armes nucléaires[7],[8],[9]. Le travail de Bostrom sur la superintelligence a également influencé Bill Gates[10],[11]. Dans une interview de avec le PDG de Baidu, Robert Li, M. Gates a affirmé qu'il « recommandait vivement » la lecture du livre de Bostrom[12].

Pour l'éditeur du Financial Times, l'écriture de Bostrom « était parfois opaque trahissant son expérience en tant que professeur de philosophie », mais que l’ouvrage était convaincant, démontrant que le risque d’une superintelligence était assez grand pour que la société réfléchisse dès maintenant aux moyens de doter à l'avenir une intelligence machinelle de valeurs positives[13]. Une revue dans The Guardian fait remarquer que « même les machines les plus sophistiquées créées aujourd’hui sont loin d’être intelligentes » et que « les premières prédictions d’une IA surhumaine dataient des années 1960 », l’article concède malgré tout qu’il « serait mal avisé de rejeter complètement cette possibilité »[2].

Certains collègues de Bostrom suggèrent qu’une guerre nucléaire reste une plus grande menace pour l'humanité qu’une superintelligence, de même que les perspectives qu’apportent les nanotechnologies et la biotechnologie en matière d’armement destructeur[14]. The Economist déclare que « Bostrom est contraint de passer une grande partie du livre à discuter de spéculations construites sur des conjectures... mais que le livre est néanmoins intéressant ». Les implications de l'introduction d'une deuxième espèce intelligente sur Terre sont potentiellement assez grandes pour mériter qu’on s’y arrête, même si les perspectives semblent lointaines »[15]. Ronald Bailey écrit dans le libertarien Reason que pour Bostrom la résolution du problème du contrôle de l'IA est la « tâche essentielle assignée à notre époque »[16]. Selon Tom Chivers de The Daily Telegraph, le livre est difficile à lire, mais néanmoins enrichissant[17].

Références modifier

  1. (en) « Clever cogs », The Economist,‎ (ISSN 0013-0613, lire en ligne, consulté le )
  2. a et b (en) Caspar Henderson, « Superintelligence by Nick Bostrom and A Rough Ride to the Future by James Lovelock – review », The Guardian,‎ (lire en ligne, consulté le )
  3. (en) Raffi Khatchadourian, « The Doomsday Invention », sur The New Yorker, (consulté le )
  4. « Superintelligent Swede snapped up by OUP »
  5. « Superintelligence Audiobook - Nick Bostrom - Audible.com », Audible.com
  6. « Best Selling Science Books », sur New York Times, New York Times (consulté le )
  7. « Artificial intelligence ‘may wipe out the human race’ », The Times
  8. « Elon Musk tweets Artificial Intelligence may be "more dangerous than nukes" »
  9. « The New York Times Blog », The New York Times (consulté le )
  10. « Forbes », Forbes (consulté le )
  11. « The Fiscal Times », The Fiscal Times (consulté le )
  12. « Baidu CEO Robin Li interviews Bill Gates and Elon Musk at the Boao Forum, March 29 2015 », YouTube (consulté le )
  13. Financial Times review, juillet 2014
  14. Guardian review, juillet 2014.
  15. (en) « Clever cogs », The Economist,‎ (lire en ligne, consulté le ) :

    « It may seem an esoteric, even slightly crazy, subject. And much of the book’s language is technical and abstract (readers must contend with ideas such as "goal-content integrity" and "indirect normativity"). Because nobody knows how such an AI might be built, Mr Bostrom is forced to spend much of the book discussing speculations built upon plausible conjecture. He is honest enough to confront the problem head-on, admitting at the start that "many of the points made in this book are probably wrong." But the book is nonetheless valuable. The implications of introducing a second intelligent species onto Earth are far-reaching enough to deserve hard thinking, even if the prospect of actually doing so seems remote. Trying to do some of that thinking in advance can only be a good thing. »

  16. (en) Ronald Bailey, « Will Superintelligent Machines Destroy Humanity? », Reason,‎ (lire en ligne, consulté le )
  17. (en) Tom Chivers, « Superintelligence by Nick Bostrom, review: 'a hard read' », The Telegraph,‎ (lire en ligne, consulté le ) :

    « If you’re looking for a friendly, accessible introduction to AI issues, then this is probably not the place to start. But if you’re interested in this topic, and you’re prepared to do a bit of mental spadework, it is rewarding. »

Voir aussi modifier