François Rastier, linguiste de renom, a publié il y a quelques semaines aux Éditions Intervalles un essai L’I.A. m’a tué: Comprendre un monde post-humain, un petit livre éclairant plus qu’inquiétant, si on est de nature optimiste…
L’entrée en matière est une anecdote personnelle. Interrogé par un ami de l’auteur, ChatGPT déclare un jour que François Rastier est mort. Vraiment ? Démenti par son interlocuteur, ChatGPT persiste et signe avec des formules maintenant bien connues : « j’ai accédé à des articles et à des sources fiables », sans jamais préciser lesquelles évidemment.
Bien vivant et d’une intelligence humaine réconfortante, François Rastier se livre à une critique de l’intelligence artificielle générative (IAG), loin des discours technophiles ou technophobes ambiants, facilement caricaturaux et dépourvus de profondeur historique et philosophique.
Après le récit, anecdotique, de sa propre mésaventure, François Rastier place le phénomène IA générative (et plus largement l’IA) dans l’histoire des inventions et des mythes autour de créatures d’origine humaine appelées à dépasser l’humain : le Golem, Frankenstein, etc., jusqu’au transhumanisme, obligeant le lecteur à prendre ce recul qui manque trop souvent dans l’approche du sujet.
Il est essentiel de mettre en regard, d’un côté la technologie et son fonctionnement, de l’autre les comportements humains porteurs d’idéologie parfois mystique ou conquis par le pouvoir de séduction d’une machine qui les imite. L’auteur dénonce, et il n’est pas le seul, la croyance entretenue par l’utilisation de ChatGPT d’un monde libre et facile, ainsi que le risque, avéré, d’une déresponsabilisation des parents devant les enfants (rôle parental délégué à l’IA), des élèves devant leurs enseignants (effort d’apprentissage délégué à l’IA), de l’individu devant ses amis (interactions sociales déléguées à l’IA). Le constat est imputable à l’humain bien plus qu’à l’intelligence artificielle en tant que technologie.
Bien d’autres aspects sont abordés, notamment la différence entre un code de signaux (ce qu’est un langage artificiel) et un système de symboles (ce qu’est une langue avec sa complexité).
Les pages consacrées à la rupture qu’introduit l’IA générative dans le monde de l’information ont évidemment retenu plus particulièrement mon attention. Voici quelques extraits relatifs d’une part à la temporalité (c’était le titre de mon premier billet de blog en 2011), d’autre part à la réalité (le vrai opposé au faux).
Utopie et uchronie
p 108 : « Parallèlement, le monde des data ne dispose pas des structures spatio-temporelles caractéristiques de l’environnement humain, d’où les phénomènes de désorientation bien attestés chez les addicts du numérique. Tout est réduit à deux dimensions, celle de l’écran ». […] « Ce qui vaut pour l’espace vaut pour le temps, car tout est présenté par l’affichage mais rien n’est temporellement déterminé : il n’y a pas de décours temporel interne, et l’on peut toujours revenir en arrière. L’utopie se double ainsi d’une uchronie ».
Le vrai et le faux
p 97, « Sans même qu’un complot soit nécessaire, tout progresse vers une irresponsabilité insidieuse. En promouvant les algorithmes fréquentistes, de ranking en premier lieu, l’idéologie managériale a pu produire des logiciels addictifs qui s’appuient sur les biais cognitifs décelés par le neuromarketing ; mais ils ont dépassé leur objectif économique et permettent aussi la génération automatique de fausses informations, en favorisant par là l’expansion du complotisme. »
p 100 : « L’illusion de la communication reste d’autant plus prégnante que le logiciel parle de lui à la première personne, si bien que les requêtes passent pour des questions et les sorties machines pour des réponses. Cependant, cette communication illusoire devient de plus en plus déséquilibrée, car si l’utilisateur se croit toujours à l’initiative, la sortie machine change de statut avec la génération de textes qui aligne des discours d’autorité et permet au logiciel de se poser en éducateur ».
p 101 : « Naguère, un moteur de recherche répondait à une requête en affichant des pages de liens ordonnées par un algorithme de ranking, et les gens cultivés ne cliquaient pas toujours sur le premier lien, les érudits allant même jusqu’à la seconde page [1]. À présent, les sources primaires sont effacées : on ne sait desquelles le système tient compte, ni comment, et, si l’on insiste, il en crée obligeamment de toutes pièces. Cette disparition des sources est un coup de force majeur qui boucle sur eux mêmes les textes générés ».
p 110 Comment réécrire l’histoire universelle. – […] En réécrivant l’histoire, non plus en fonction du réel, tel que l’attestent les documents et les faits établis, mais d’une probabilité définie par des redondances au sein d’un dataset inconnu, aléatoirement constitué et aux évolutions imprévisibles, l’IA générative générale remplace le réel par le prévisible – sans d’aviser que les prévisions peuvent être insanes et que le réel se signale obstinément par son imprévisibilité. D’une violence jusqu’alors sans exemple, ce coup de force métaphysique permet à ChatGPT de nier les faits les mieux établis, du moins à mes yeux, comme celui que je suis encore vivant en écrivant ceci. »
p 119 : « Qui dit mémoire dit aussi transmission : dans un monde où le commun des mortels peine de plus en plus à distinguer le vrai du faux, l’anecdotique de l’important, que pourrons-nous transmettre ? »
Et si, comme le précise l’auteur, ChatGPT en vient prochainement à corriger ces erreurs qui font rire les réseaux sociaux, cela ne supprimera pas question des sources.
Bref, c’est là un petit livre percutant dont je ne peux que recommander vivement la lecture, aussi agréable dans la forme qu’important quant au fond.
Voir aussi le compte rendu de l’ouvrage par Carine Duteil-Mougel dans Philosciences.
___
[1] Personnellement, j’aimais bien cliquer sur la page 7 voire la page 17, et j’ai fait ainsi quelques découvertes fructueuses. Ce temps est hélas révolu et je n’ai pas vraiment trouvé comment le remplacer.