La Singularité technologique entre science et fiction
A l’occasion de la sortie récente de son ouvrage “Le mythe de la Singularité”, coup de cœur des médias du Prix Roberval 2017, Jean-Gabriel Ganascia, professeur à l’université Pierre-et-Marie-Curie, chercheur en intelligence artificielle au LIP6 et président du comité d’éthique du CNRS, nous donne son point de vue sur l’intelligence artificielle, à contre-courant de nombre de ses pairs.
DAP : Avant tout, qu’est-ce que la “Singularité technologique” ?
Jean-Gabriel Ganascia : Ce qu’on appelle “Singularité technologique” ou plus simplement “Singularité”, c’est ce moment critique de bascule où l’intelligence artificielle des ordinateurs pourrait dépasser celle des humains; des humains qui seraient alors contraints de s’hybrider aux machines pour éviter leur domination, créant ainsi de fait une sorte de super-humanité… en tout cas la fin de l’espèce humaine actuelle.
DAP : Qui promeut cette théorie ?
J-G.G. : Son imminence d’ici quelques décennies tout au plus est proclamée avec enthousiasme, et à grand renfort d’annonces mirobolantes, par les “technogourous” de la Silicon Valley tel Ray Kurzweil (chef de projet chez Google) ou bien encore de l’université d’Oxford. D’autres scientifiques et entrepreneurs, non des moindres, comme Stephen Hawking ou Bill Gates, s’inquiètent eux d’un tel cyberavenir où l’humanité aurait confié le pouvoir de décision aux machines… souscrivant donc aussi en creux à cette hypothèse de la Singularité.
DAP : Et qu’en pense l’expert en intelligence artificielle que vous êtes ?
J-G.G. : Tout d’abord, le terme même d’« intelligence artificielle » est abusivement utilisé par les promoteurs de la Singularité : les capacités des ordinateurs, aussi impressionnantes soient-elles, ne peuvent par principe leur conférer ces pouvoirs espérés ou redoutés. Et à regarder de près les développements actuels dans ce domaine, rien n’autorise à affirmer que les ordinateurs seront en mesure de se perfectionner indéfiniment sans le secours de l’Homme, jusqu’à s’emballer, nous dépasser… et acquérir un jour une véritable autonomie au sens philosophique du terme. Loin d’être neuve, la perspective de la Singularité recycle en fait de vieilles idées gnostiques et millénaristes, rénovées par un habillage technofuturiste… le tout sous-tendu par les stratégies de communication mercantiles des multinationales de l’informatique. Bref, on est plus dans la science-fiction que dans la science !
DAP : Tout cela masquerait-t-il d’autres dangers bien plus réels ?
J-G.G. : Assurément oui ! Il est intéressant de remarquer que les tenants de la Singularité sont ceux-là même qui développent, promeuvent et s’enrichissent avec l’intelligence artificielle…. Tout d’abord, leurs “fables extravagantes” détournent notre attention des vraies questions que soulève déjà l’intelligence artificielle, notamment celles autour de la gestion et du contrôle de nos données personnelles. Mais ce que masque aussi leur raffut autour de la Singularité, c’est surtout la volonté de ces grands acteurs économiques du numérique de remplacer à terme les Etats, en s’accaparant doucement mais sûrement leurs principales fonctions régaliennes : sécurité, santé, culture, environnement… Car ne nous leurrons pas, le vrai moteur de leurs stratégies est avant tout politique ! Et, la fable de la Singularité n’est qu’un nouvel opium des peuples destiné à assoupir notre sagacité et à masquer leurs ultimes motivations.
J-G. Ganascia, Le Mythe de la Singularité. Faut-il craindre l’intelligence artificielle ?, éditions du Seuil, 2017, 144 p., 18 €.
