Du risque d’une superintelligence artificielle
Comme le rappelait récemment Nick Bostrom, philosophe et directeur du Future of Humanity Institute dans une conférence à l’USI (Unexpected Sources of Inspiration), « les pionniers de l’intelligence artificielle (IA) étaient très optimistes, ils pensaient que cela ne prendrait qu’une dizaine d’années. Mais malgré cela, ils ne s’exprimaient pas sur les conséquences … Il y a eu étonnamment peu de réflexion sur ce qui se passerait si nous parvenions vraiment à reproduire la forme d’intelligence générale qui caractérise l’esprit humain. » Son institut a rejoint en mai 2017 l’organisation créée en septembre 2016 par Google, Amazon, Facebook, IBM et Microsoft, Partnership on AI, destinée à promouvoir les bonnes pratiques. Rappelons que Nick Bostrom avait publié un essai remarqué en 2014 sur la superintelligence.
Les réflexions éthiques autour de l’IA sont désormais partagées par le plus grand nombre, chercheurs et industriels. Si certains comme Irvin John Good prévoyaient dès 1965 le risque d’une machine ultra intelligente, idée reprise en 1993 par Vernor Vinge, c’est surtout à partir du XXIe siècle que les risques liés à une superintelligence sont de plus en plus souvent évoqués, à l’instar de la publication de Bill Joy en 2000 et lors des débats qui ont suivi en 2004. Dès 2005, Raymond C. Kurzweil analyse les impacts de ce qu’on appelle la « singularité technologique ». C’est ce point hypothétique de l’évolution technologique au-delà duquel les changements seraient imprévisibles. C’est un des sujets d’étude du Center for Study of Existential Risk créé en 2012. De nombreuses personnalités comme Stephen Hawking, Elon Musk ou Bill Gates prennent désormais régulièrement part au débat pour alerter l’opinion publique comme en 2015, dans une lettre ouverte. Ainsi, le 15 juillet dernier, devant les gouverneurs des Etats américains, Elon Musk réitérait ses mises en garde contre ce qu’il qualifie de « plus grand danger pour la civilisation humaine » et appelait à mettre en place une régulation avant qu’il ne soit trop tard.
Isabelle Bellin
De quoi poursuivre la réflexion :
- Superintelligence: Paths, Dangers, Strategies de Nick Bostrom, 2014
- Le Mythe de la Singularité, Faut-il craindre l’intelligence artificielle ? de Jean-Gabriel Ganascia, 2017
Une intelligence artificielle bénéfique à la société
Tel est l’objectif du Partnership on AI lancé par Google, Microsoft, Facebook, Amazon et IBM, rejoints en 2017 par Apple.
Cette organisation à but non lucratif (Partenariat sur l’IA) a pour but de réfléchir à l’intelligence artificielle (IA), de promouvoir les bonnes pratiques dérives et d’éduquer le public. De quoi garantir, selon ses membres fondateurs, une IA « bénéfique aux gens et à la société » et de respecter la vocation première de l’IA : « améliorer la qualité de vie des gens et relever les importants défis de l’humanité ». Les travaux de l’association porteront sur la définition et l’étude des meilleures pratiques, l’analyse de son impact sociétal, le développement de ressources éducatives et de plateformes ouvertes de discussion pour diffuser l’information, favoriser la compréhension et susciter le débat public. Il s’agira également de réfléchir aux questions d’éthique, d’équité, de transparence, de confidentialité et d’interopérabilité et de travailler sur la collaboration entre les personnes et les systèmes d’IA, sur la confiance, la fiabilité et la solidité de cette technologie.
Mise en garde contre une superintelligence
Une lettre ouverte destinée aux chercheurs en robotique et intelligence artificielle, publiée sur le site du Future of Life Institute rappelle les bénéfices et les écueils de l’intelligence artificielle.
Elle est signée par 8 000 chercheurs en juin 2017, dont les grands noms de l’intelligence artificielle et du machine learning comme Yoshua Bengio, Yann LeCun, Geoffrey Hinton, Stuart Russell, Peter Norvig, ainsi que des personnalités comme Stephen Hawking, Elon Musk, Steve Wozniak ou Noam Chomsky. Cette lettre, positive sur les avancées de l’intelligence artificielle et ses bénéfices pour l’humanité, avertit notamment sur ses écueils potentiels comme la construction d’armes autonomes capables de sélectionner et d’attaquer des cibles sans intervention humaine. « En raison de l’énorme potentiel de l’intelligence artificielle, il est important d’explorer les manières d’en tirer les avantages en évitant les pièges potentiels » estime la lettre, qui ajoute qu’il est aujourd’hui « opportun de se concentrer non seulement sur la recherche permettant de développer une IA plus efficace, mais également sur la maximisation du profit de cette dernière vis-à-vis de la société. »
Le risque de la superintelligence
Dans un essai remarqué, Nick Bostrom, philosophe et directeur du Future of Humanity Institute, pose le constat que si une superintelligence venait à être créée et qu’elle surpassait l’intelligence générale humaine, elle pourrait remplacer et dominer les humains.
Superintelligence: Paths, Dangers, Strategies : c’est le titre de l’essai publié par Nick Bostrom où il évoque la forte probabilité de l’émergence d’une superintelligence grâce aux progrès rapides de la recherche dans le domaine de l’intelligence artificielle (IA). Quel que soit le temps nécessaire (qui pourrait être court selon lui), une fois qu’une machine d’un niveau cognitif comparable aux humains sera développée, un système « superintelligent dépassant largement les performances cognitives de l’homme dans pratiquement tous les domaines » devrait suivre rapidement. Une telle superintelligence serait difficile à contrôler ou à restreindre. Nick Bostrom met en garde et en appelle à une pratique déontologique dans le domaine de l’intelligence artificielle. Il évoque les risques d’une course à l’IA, à l’image de la course à l’arme atomique et prône une collaboration internationale comparable au CERN, l’organisation européenne pour la recherche nucléaire, afin de développer une « IA bénéfique ».
Étudier les risques existentiels
Le Center for Study of Existential Risk (Cambridge) étudie les futurs risques de menaces technologiques.
Le centre de l’université de Cambridge a été fondé par les chercheurs Huw Price, Martin Rees et Jaan Tallinn. Un des projets porte sur le risque que des robots se révoltent contre l’espèce humaine dans une approche semblable à Terminator.
La singularité technologique de Kurzweil
Raymond C. Kurzweil met en garde contre un emballement de la croissance technologique.
Dans « The singularity is near » publié en 2005, le directeur de l’ingénierie chez Google, professeur au MIT, auteur de nombreux ouvrages sur la santé, l’intelligence artificielle, la prospective et la futurologie, développe le concept de singularité technologique. Il attribue l’origine de ce concept à John von Neumann dans les années 1950 : « The ever accelerating process of technology […] gives the appearance of approaching some essential singularity. » La singularité technologique (ou singularité) est l’hypothèse que l’invention de l’intelligence artificielle déclencherait un emballement de la croissance technologique qui induirait des changements imprévisibles sur la société humaine. Kurzweil prévoit qu’en 2030, nous pourrons sauvegarder notre cerveau sur un ordinateur et qu’en 2035, quand nous parlerons à un être humain, nous parlerons à une intelligence hybride, biologique et non biologique.
Institut pour l’avenir de l’Humanité
Ce centre de recherche d’Oxford est créé pour se consacrer aux questions concernant l’humanité et son avenir.
Le Future of Humanity Institute (FHI, Institut pour l’avenir de l’Humanité) est un centre de recherche interdisciplinaire de l’université d’Oxford. Cette unité de la faculté de philosophie et de l’Oxford Martin School est dirigée par le philosophe Nick Bostrom, avec le futuriste Anders Sandberg, l’ingénieur Kim Eric Drexler, l’économiste Robin Hanson, et Toby Ord.
« Why the future doesn’t need us ”
C’est le titre de la publication de Bill Joy qui prédit que les robots intelligents remplaceront l’humanité.
Publié dans le magazine américain Wired, l’article de Bill Joy, responsable scientifique de Sun Microsystems, explique qu’il est convaincu qu’avec les avancées scientifiques et techniques en génétique et en nanotechnologie, les robots intelligents remplaceront l’humanité, au moins sur les plans intellectuel et social, dans un futur relativement proche.
Vers une intelligence surhumaine ?
C’est la prédiction de Vernor Vinge, professeur de mathématique, d’informatique et auteur de science fiction. Il la prévoyait entre 2005 et 2050.
Dans trente ans (2023), disait Vernor Vinge dans son essai, La venue de la singularité technologique (The Coming Technological Singularity: How to Survive in the Post-Human), nous aurons les moyens technologiques pour créer l’intelligence surhumaine. Peu de temps après, l’ère humaine sera terminée, la nouvelle superintelligence continuant de s’améliorer et d’évoluer technologiquement à une vitesse incompréhensible pour les humains. (Pour en savoir plus : lire la traduction de son intervention au symposium Vision-21 en 1993)
Les prévisions optimistes de Minsky
Une génération pour régler les problèmes liés à l’intelligence artificielle.
Marvin Minsky pensait qu’en une génération, tous les problèmes liés à l’intelligence artificielle seraient résolus, et que : « Dans trois à huit ans, nous aurons une machine aussi intelligente qu’un humain dans la moyenne ». Reste à définir ce qu’est un humain « moyen ». Il donnait une définition habile de l’intelligence artificielle, évitant soigneusement de définir la notion d’intelligence : « L’intelligence artificielle est la science de faire faire à des machines des choses qui demanderaient de l’intelligence, si elles étaient faites par des humains. »
Une machine ultra intelligente
Irvin John Good, statisticien britannique, prédit que la machine ultra intelligente sera la dernière invention que l’homme inventera.
Voici ce qu’il prédisait : « Supposons qu’existe une machine surpassant en intelligence tout ce dont est capable un homme, aussi brillant soit-il. La conception de telles machines faisant partie des activités intellectuelles, cette machine pourrait à son tour créer des machines meilleures qu’elle-même; cela aurait sans nul doute pour effet une réaction en chaîne de développement de l’intelligence, pendant que l’intelligence humaine resterait presque sur place. Il en résulte que la machine ultra intelligente sera la dernière invention que l’homme aura besoin de faire, à condition que ladite machine soit assez docile pour constamment lui obéir (…) Il est probable qu’au cours du XXe siècle, une machine sur-intelligente soit conçue, et qu’elle soit effectivement la dernière invention que l’Homme n’ait jamais à faire. » (Good, I. J. (1965), Franz L. Alt and Morris Rubinoff, eds., “Speculations Concerning the First Ultraintelligent Machine”, Advances in Computers, Advances in Computers)
