J'hallucine

ChatGPT aussi. Mais vous aussi.

Une fois un matin au café, j’ai salué chaleureusement quelqu’un. Grand sourire, “Bonjour, comment ça va ?” lancé avec conviction. La personne se retourne : je l’avais prise pour quelqu’un d’autre. Je retourne à mon bureau, en rigolant de ma bourde.

J’ouvre mon ordinateur, je travaille sur un document avec ChatGPT – un PDF de cent pages, mais que je connais bien. Je lui demande de retrouver un passage précis. Il me le sort avec aplomb, guillemets, référence, numéro de page. Je vérifie car il y a un mot qui me paraît étrange, qui sort du vocabulaire du document. Je fais une recherche classique par mot-clef : cette phrase n’a jamais existé dans ce fichier.

C’est troublant, parce que l’ordinateur, c’est censé être parfait, solide. Un fichier est présent ou absent, jamais entre les deux. Sous Excel, 2+2 font toujours 4, pas environ 4 ou peut-être 5. Un calcul juste ou faux. Point. Si ça plantait ? C’était un bug. Une erreur de programmation, et donc la faute de l’humain derrière le code, mais jamais de la machine. Quelque chose à corriger, à patcher. Mais maintenant, voilà qu’un logiciel se trompe, pire il invente, il confond. Et il ne s’en cache même pas : “Vous avez raison, désolé pour cette erreur”.

C’est évidemment la première critique qu’on m’oppose sur les LLM, ces modèles de langage qui se cachent derrière les chatbots IA : ce n’est pas fiable, il y a des hallucinations, on ne peut donc pas les utiliser en entreprise. Cela me fait toujours sourire, car ces étourdissements, c’est notre quotidien d’humains…

Vous voyez des visages dans les nuages, dans votre tartine, dans la prise électrique (le cerveau est tellement câblé pour reconnaître les visages qu’il en invente). Vous oubliez pourquoi vous êtes venu dans cette pièce (c’est l’effet de seuil : franchir une porte efface la mémoire tampon ; d’ailleurs revenez dans la pièce précédente, et hop votre cerveau retrouve ses esprits). Vous êtes certain que Mandela est mort en prison dans les années 80 (non, il est sorti et est même devenu président, il est décédé en 2013 - c’est un faux souvenir partagé).

Vous entendez votre prénom dans le brouhaha d’un café bondé alors que personne ne vous a appelé. Vous confondez l’ordre des événements : “C’était avant ou après les vacances ?”. Vous réinventez vos souvenirs à chaque fois que vous les racontez, ajoutant des détails, en effaçant d’autres. Vous voyez des motifs qui n’existent pas dans les chiffres du loto, dans les signes du destin (”c’est drôle, je pensais à toi”), dans la série de feux rouges qui vous persécute pour aller au bureau alors que c’est le jour où vous ne devez surtout pas être en retard…

Alors comment se fait-il que cette espèce de primate, bourrée d’erreurs de conception, ait réussi à conquérir tous les écosystèmes de la planète et à créer des civilisations avancées ?

Parce que nous avons développé des contre-mesures. Des systèmes pour compenser nos hallucinations individuelles. Le débat. La contradiction. “Tu es sûr ? Moi je me souviens autrement”. Deux cerveaux qui hallucinent différemment et qui se calibrent mutuellement (enfin si on veut bien accepter la contradiction, mais c’est un autre sujet…). Sans ces contre-mesures, il n’y aurait même pas de science, ni d’accumulation de savoir humain.

L’IA est loin d’être parfaite, et il est même probable que les éditeurs comme OpenAI ou Anthropic brûlent des milliards de dollars sans jamais atteindre l’AGI (l’intelligence artificielle générale, censée nous dépasser en tout). Pourtant, déjà dans certains territoires cognitifs, l’IA égale ou surpasse nos capacités.

Rejeter l’IA sous prétexte qu’elle est imparfaite, reviendrait à nous disqualifier nous-mêmes : errare humanum est. Les entreprises se sont toujours construites sur des incertitudes locales : des humains qui oublient, se trompent et hallucinent. La véritable question n’est donc pas tant de souligner les limites de l’IA que d’apprendre à les (re)connaître.

J’observe un usage de plus en plus courant : les utilisateurs ouvrent plusieurs plateformes d’IA - ChatGPT, Claude, Gemini… - et naviguent entre elles, copiant-collant les réponses, comparant, fusionnant. D’onglet en onglet, de dialogue en dialogue, ils orchestrent ces différentes intelligences pour en tirer le meilleur.

Que font ces utilisateurs ? Ils répliquent ce qui a fait le succès de notre espèce : l’intelligence collective.

SH