à cran

En ce frais samedi 27 janvier diois ont lieu les 22^e Rencontres de l’Écologie. Die c’est l’antre de la bienveillance, de la bien-pensance et du kombucha maison. Le karma local est au partage et à la fête, entre conférences sur la joie militante, bains de forêts, bal folk et cet énigmatique atelier de rap organisé par le youtubeur Vincent Verzat pour qui « partager c’est sympa ». Bref, rien ne saurait perturber les chakras des quelques deux ou trois cents participantes et participants… si ce n’est l’irruption, ici aussi, si si, de l’Intelligence Artificielle.

Car en effet, entre deux séances de connexion tantrique à soi et aux arbres, le programme des rencontres nous proposait à 14h une conférence pour le moins inattendue en ce point de rassemblement des électro-sensibles et des techno-allergiques : « Intelligence artificielle : entre promesses et craintes, quelles limites imposées ? » C’est Yves Gimbert, directeur au CNRS à la Sorbonne, et Henri Pascal-Jenny, citoyen engagé sur la question, qui mènent la danse.

Personnellement, je ne comptais pas m’y rendre, imaginant d’une part qu’on allait brasser des banalités sur un sujet que je ne connais que trop, et étant d’autre part venu à Die précisément pour parler aux gens et aux arbres et pas pour parler taf. Puis finalement comme j’avais embarqué quelques tracts du collectif STopMicro dans ma besace en lin, je me suis dit que ce serait l’occasion idéale de militer auprès d’un public intéressé par la question de la dérive numérique. Mal m’en a pris vu que je sortirai de la séance dans un état de détresse émotionnelle sans avoir pu refourguer un seul flyer…

Dans la salle, on trouve un public plutôt âgé, plutôt mal informé sur le sujet, plutôt inquiet il me semble. La conférence débute par la diffusion d’une vidéo de sept minutes (que je recommande chaudement) du numéro 2 mondial de l’intelligence artificielle académique, Yoshua Bengio, qui explique à la télé canadienne, tel un enfant pris les mains dans le pot de confiture, que « c’est cet hiver que j’ai commencé à réaliser avec GPT [à partir de] quand on s’attend à avoir des machines plus intelligentes que nous : […] c’est maintenant une question d’années » puis que, d’après des travaux académiques très sérieux, « si on donnait à la machine un but d’autopréservation on perdrait le contrôle sur cette machine. […] Des analyses montrent que ce besoin d’autopréservation, on n’aurait même pas besoin de le programmer, il apparaîtrait tout seul  » (étant donné que l’IA est entraînée à mimer des comportements humains). De là à ce que Bengio en conclue qu’il faille absolument arrêter ce délire, il y a cependant encore du chemin… car en effet « on a besoin de faire beaucoup plus de recherche sur le côté sécurité, protection du public, aujourd’hui 99,9 % de l’argent investi [en IA] sert à rendre ces systèmes plus puissants. » Il faudra peut-être expliquer à M. Bengio comment marche le capitalisme, mais c’est un autre sujet.

Ce qu’il faut surtout retenir présentement c’est que, que ce soit le choc de la vidéo ou une indigestion collective du tofu du midi, à 14h15 tout le public est à cran. Et là tout déraille. Gimbert, du CNRS, nous explique que ChatGPT est aujourd’hui capable de produire des contenus et traductions sensiblement aussi bonnes, sinon meilleures, que celles produites par des humains. Ce contre quoi s’offusque bruyamment une dame du public (dont ça devait être le métier je suppose – de traduire, pas de s’offusquer). Et Gimbert de répondre que, même si ce n’était effectivement pas vrai, ce ne serait dans tous les cas qu’une question de mois avant que ça ne le devienne.

Mais la grosse boulette de Gimbert, c’est d’évoquer ensuite un entretien flippant qu’il a eu avec un de ses collègues qui bosse dans un labo de neuro-cyber-bio-…logie (on ne sait plus trop à force) et qui serait parvenu à effacer de manière sélective des souvenirs d’une souris pour en implanter d’autres (!). Offusqué, Gimbert lui aurait fait part des dérives éthiques de telles recherches et le collègue aurait répondu, dans ce délicieux biais de positivité du chercheur en « science neutre », que ses recherches sont une chance formidable d’effacer les souvenirs des traumatisés de guerre et… des femmes violées…

Vous imaginez la suite…

Une jeune femme du public se lève furieusement et répond avec toute la véhémence de la douleur, sienne ou empathiquement partagée avec les femmes victimes de violences sexuelles, que ce genre de décision par un mâle en blouse blanche est d’une infinie indécence. Mêlé à l’ambiance déjà tendue, son cri d’alarme produit l’incompréhensible. Un homme, deux rangs devant, se retourne vers elle et lui répond, accrochez-vous c’est violent… : «  Attendez d’être violée pour intervenir.  » À ce moment-là, l’antre de la bienveillance se transforme en quelques secondes en un enfer de vociférations qui fusent de toutes parts, entre exigences répétées de produire des excuses qui ne viendront jamais et colère-devenue-sanglots de la jeune femme… Le pire est que progressivement le malaise se mue en une ligue machiste contre la jeune femme à qui des hommes plutôt âgés demandent de quitter la salle « si elle n’est pas contente ». Au milieu de ça, je suis transi d’effroi et surtout immobilisé par cet horrible sentiment d’impuissance à accompagner les douleurs de la jeune femme et de ses amies. Je sors de la salle après elles pour finalement rester planté là à les regarder pleurer et hurler, n’ayant qu’une compassion sans mot, sincère mais bien maigre, à offrir…

L’intelligence artificielle dans le Diois, les gens n’en veulent pas. Alors quand, coup sur coup, Bengio annonce que le développement de l’IA mène au chaos mais « nous » explique qu’il faut continuer à la développer, sans aucune considération de ce que « nous » voulons… puis le poto de Gimbert « nous » explique que c’est sacrément cool d’effacer des souvenirs et qu’il a bien raison de continuer sa petite excitation quotidienne pour le bien d’une humanité à qui il ne demande évidemment pas son avis, c’en est visiblement trop, la sérénité du Bouddha s’effondre avec fracas.

De fait, cette «  véritable gangrène du corps social » que sont les écrans, le numérique ou l’IA infecte jusqu’à ceux qui s’en croyaient immunisés. Elle les infecte parce que quelqu’auto-proclamée élite de la recherche scientifique s’amuse, franchement beaucoup, à paramétrer ses réseaux de neurones artificiels et à mutiler des animaux de laboratoire. Du coup, comme cette élite est plus intelligente et qu’on la finance grassement pour continuer de s’en convaincre, elle décide pour les autres ce qu’elle ne veut souvent même pas pour elle-même. Et si au final ça merde salement, bah on continue, suffira de réparer, mais toujours main sur le cœur pour le bien-être des petites gens.

Jusqu’à ce que ça nous pète vraiment à la figure.