#éthique, #ia

Jean-Gabriel Ganascia : « La société numérique nous trompe de plus en plus…

⏱ 6 min

et les concepts sur lesquels repose notre réflexion éthique sonnent creux »

Dans son dernier ouvrage, « Servitudes virtuelles », Jean-Gabriel Ganascia montre à quel point la société de l’information nous asservit toujours plus. Et il constate que les concepts sur lesquels s’appuient nos réflexions visant à contrer ces menaces sont inopérants. Professeur à Sorbonne Université et chercheur en intelligence artificielle au LIP6, Jean-Gabriel Ganascia a présidé le Comité d’éthique du CNRS de 2016 à 2021.

 

Data Analytics Post : « Servitudes », dites-vous…

Jean-Gabriel Ganascia : Le monde dans lequel nous vivons a changé. L’ensemble des communications humaines sont médiées par les technologies de l’information et de la communication. Toutes nos productions, créations, conversations, opinions… sont numérisées. Bien sûr, qu’il y a des côtés positifs, ce n’est pas moi qui le nierais. Mais toutes ces informations sur nous-mêmes que nous laissons à la merci des algorithmes des acteurs petits et grands du numérique, surtout des grands, sont exploitées pour servir des intérêts qui ne convergent pas forcément avec les nôtres.

Les outils proposés aujourd’hui par l’intelligence artificielle permettent à ces acteurs d’exploiter ces données à leur profit. Avec pour finalité notamment de modifier nos comportements de consommation. On est passé de la publicité pour tous à une nouvelle situation, où la population est segmentée et visée par des algorithmes, catégorie par catégorie, voire individu par individu. Cette possibilité de cibler les gens est exploitée pour vendre des biens et des services, mais aussi des idées. Les hommes politiques ont bien compris qu’ils pouvaient eux aussi en tirer parti. Même Obama a succombé à cette tentation.

Bien sûr, nous pouvons en théorie choisir quelles informations nous laissons à la disposition de ces acteurs. Mais prenons un exemple. Un téléphone Android, par défaut, enregistre en continu tous nos déplacements. Et ces données, stockées dans le cloud, ne sont jamais effacées. Bien sûr, nous pouvons faire l’effort de trouver le menu où il nous est proposé d’accepter ou de refuser cette géolocalisation permanente. Mais on découvre au passage que si l’on décoche l’option il y a des inconvénients. Par exemple on ne pourra alors pas localiser son téléphone en cas de perte ou de vol. On nous propose du confort contre nos données. Nous sommes pris au piège.

 

Data Analytics Post : Vous utilisez un vocable singulier : « réontologisation »

Jean-Gabriel Ganascia : Oui. La prééminence du « online » dans l’appréhension de la société a pour conséquence une redéfinition des valeurs essentielles de la vie sociale, une reconceptualisation des relations humaines. Je formule ceci en parlant d’une « réontologisation » de la civilité. Cette notion a été introduite par le philosophe italien Luciano Floridi. La réontologisation de la civilité, c’est le fait que des concepts qui font le lien entre les hommes sont redéfinis.

Prenons l’exemple de l’amitié. Aujourd’hui cette notion est omniprésente sur les réseaux sociaux, mais avec un nouveau sens. On est bien loin de la vision d’Aristote, pour qui la seule véritable amitié est l’amitié du bien, l’amitié « vertueuse », qu’il distingue précisément de l’amitié en vue du plaisir ou de l’intérêt. L’amitié sur les réseaux sociaux n’a pas grand-chose à voir avec celle qui liait Montaigne et La Boétie. Autre notion mise à mal, redéfinie dans ce monde numérique : la confiance. Aujourd’hui, la confiance, ce serait… la blockchain.

 

Data Analytics Post : Votre livre commence par une visite guidée de ce nouvel univers numérisé…

Jean-Gabriel Ganascia : En effet. Et je propose au lecteur un instrument pour le guider dans cette exploration : une sorte de boussole ou plutôt une « rose des vents numériques ». Elle permet de s’orienter tout d’abord par rapport à un axe qui substitue à l’opposition Nord-Sud celle du « en ligne » face au « hors ligne ». C’est-à-dire de la toile et de la vie. Et je substitue à l’axe traditionnel Est-Ouest, qui correspond au lever et au coucher du soleil, un axe « en vie » – « hors vie ». Cette direction cardinale « hors-vie » renvoie à ces discours sombres qui nous promettent toutes sortes de fins de l’humanité.

Des prophètes nous annoncent ainsi qu’une super-intelligence artificielle, que les robots vont prendre le pouvoir. Que nous allons fusionner avec la machine. Par exemple en « téléchargeant » nos esprits dans des mémoires électroniques, une prédiction délirante que j’ai préféré traiter par l’ironie, par le biais d’un roman¹. Il y a encore le transhumanisme et sa promesse d’une inéluctable « singularité », date au-delà de laquelle l’accélération de l’histoire sera le fait des machines elles-mêmes. Une idée que j’ai déjà déboulonnée dans un précédent ouvrage².

Plus récemment, Elon Musk, fondateur de la société Neuralink qui développe des implants cérébraux visant à établir des interfaces cerveau-machine, nous promettait la possibilité de « mettre nos cerveaux en ligne ». Je dégonfle un certain nombre de ces mirages qui encombrent la réflexion sur la société numérique en créant des frayeurs artificielles, qui cachent la forêt des véritables sujets de préoccupation. Car pendant ce temps-là, les gens achètent des enceintes numériques et ignorent ou oublient qu’elles entendent tout ce qui se passe chez eux. Comment allons-nous fixer des limites efficaces à l’exploitation de ces données intimes ?

 

Data Analytics Post : Sur la couverture de votre livre, on découvre un marteau…

Jean-Gabriel Ganascia : C’est un emprunt à Nietzsche. Le sous-titre de son ouvrage « Crépuscule des idoles » annonce : « Comment on philosophe avec un marteau ». Le philosophe explique qu’il prend un marteau… pour cogner sur les concepts afin de savoir s’ils sont creux, ou non. Je fais un peu la même chose. J’utilise ce marteau pour cogner notamment sur les éthiques à principes sur lesquelles repose la réflexion des organismes de régulation. Et finalement sur les principes eux-mêmes… pour entendre résonner leurs contradictions.

Je constate, en analysant des situations concrètes, combien ces « principes incontestables », ces « droits inaliénables » et autres « condamnations définitives », sur lesquels on prétend s’appuyer pour réglementer la société numérique, s’avèrent inconsistants. On les vénère pourtant comme des représentations indubitables du juste et du bon. Plutôt que des principes, il s’agit de statues, d’idéaux momifiés que l’on adore au lieu d’entamer une authentique réflexion.

Or, les postures morales nous laissent impuissants face au monde qui se construit sous nos yeux, avec le développement de l’informatique et de l’intelligence artificielle. Considérons par exemple tout ce qui s’est dit pendant la pandémie sur les applications du type StopCovid. On a eu droit à de grandes envolées sur les droits de l’Homme, la protection de la vie privée. Moi j’essaie d’expliquer que l’éthique cela ne consiste pas à respecter un seul grand principe au détriment des autres. L’éthique suppose de faire des compromis. Le mal c’est de tout sacrifier à une seule vertu au détriment de toutes les autres.

 

Data Analytics Post : Vous éreintez toute la réflexion éthique contemporaine…

Jean-Gabriel Ganascia : Dans la seconde partie de mon livre, je m’intéresse en effet à ces « piliers » sur lesquels s’appuient les comités d’éthique institutionnels. Leur premier mouvement a consisté à prendre modèle sur la bioéthique. Or le point de départ de la réflexion en bioéthique, c’est le rapport Belmont. Ce document a été publié en 1979 par le département de la santé des États-Unis et inspire depuis toutes les réflexions dans le domaine. La bioéthique remonte à Hippocrate. L’essentiel est là. Ce qu’il y a de nouveau dans le rapport Belmont, c’est une notion qui arrive après Nuremberg, la notion d’autonomie. Qui débouche notamment sur le consentement éclairé.

Mais l’autonomie, c’est quelque chose de complexe. Qu’est-ce que l’autonomie d’une personne atteinte de la maladie d’Alzheimer ? En fait, on n’est pas toujours autonome. L’autonomie, c’est un objectif. Et comment faire en informatique ? De quelle autonomie dispose le client qui vient d’acheter un ordinateur et qui est sommé de cliquer pour approuver les CGU (Conditions générales d’utilisation) ? Certes, il a le droit de les refuser… et ainsi de se passer du produit qu’il vient d’acheter, mais certainement pas les moyens de les négocier.

Dans le sillage du rapport Belmont, les trois notions sur lesquelles repose la bioéthique sont l’autonomie, la bienfaisance (où la non-malfaisance) et la justice. Les comités d’éthique du numérique reprennent ces trois concepts de la bioéthique – autonomie, bienfaisance, justice – et en ajoutent un quatrième : la transparence. Dans certains contextes, notamment celui de l’intelligence artificielle, c’est… l’explicabilité. Avec mon marteau nietzschéen, je cogne sur ces quatre grands principes et je constate qu’ils sonnent creux.

 

Data Analytics Post : Mais alors, que faire ?

Jean-Gabriel Ganascia : Mon livre ne propose aucune baguette magique. Je cherche plutôt à faire des suggestions sur l’état d’esprit dans lequel nous devons tous, du citoyen au législateur, appréhender les problèmes posés par la numérisation de la société et nous attaquer à la difficile tâche de fixer des limites, pour contrer ses conséquences fâcheuses, voire délétères. Pour esquisser la posture que je préconise, je mentionne en conclusion de cet ouvrage un magnifique texte d’un journaliste débutant, de 25 ans, qui dirige en 1939 une feuille de chou et qui comprend – la guerre a éclaté trois mois auparavant – que l’on entre dans une période très difficile. Il énumère les quatre grands principes qui selon lui doivent désormais guider celui qui veut pratiquer un journalisme libre. Il s’agit de la lucidité, du refus, de l’ironie et de l’obstination. La lucidité devant les causes, le refus, « face à la marée montante de la bêtise », de « servir le mensonge », l’ironie qui aide à dire plaisamment la vérité, enfin l’obstination, qui vient à bout du découragement.

Nous ne sommes plus en 1939. Pourtant, la menace d’asservissement de la pensée n’a pas disparu. Et les moyens proposés à ses confrères par ce tout jeune journaliste conservent leur pertinence dans le monde numérique. Tout citoyen, désormais en mesure de « publier » et d’être lu, comme un journaliste, pourrait adopter ces quatre préceptes : lucidité, refus, ironie et obstination. La lucidité d’abord, pour examiner avec clairvoyance et sans complaisance les enjeux de pouvoir. Les desseins des gouvernants, mais aussi ceux des nouveaux acteurs, pour déchiffrer leurs motivations. Le refus ensuite, de relayer des informations erronées ou falsifiées ou en contradiction avec ses propres valeurs. L’ironie ? Une arme contre les simplifications excessives, les fausses évidences, l’autosatisfaction d’être du bon côté, de se comprendre. Enfin, l’obstination, pour aller jusqu’au bout de ses convictions.

Le texte de ce jeune journaliste fut censuré à l’époque. Mais on l’a retrouvé depuis. Entretemps, l’homme était devenu écrivain, et même prix Nobel de littérature. Il s’appelait Albert Camus.
 

Propos recueillis par Pierre Vandeginste

Servitudes virtuelles, de Jean-Gabriel Ganascia – Éditions du Seuil, 4 mars 2022

1. Ce matin, maman a été téléchargée. Buchet-Chastel, 2019.

2. Le Mythe de la Singularité, Seuil, 2017.
 

Image de Une : Jean-Gabriel Ganascia ©Emmanuelle Marchadour