Chapitre 3 · Douter
Vrai… ou halluciné?
Retour sur la rumeur de l'école : une date exacte, un budget chiffré, un nom de fonctionnaire. Trois détails qui font vrai — deux inventés. Vous apprenez le geste du métier : disséquer les affirmations assurées, une question à la fois.
Ce qu'est une hallucination
Quand un modèle prédit du texte sans terrain solide dessous, il ne s'arrête pas — il continue de produire la suite la plus plausible. Le résultat est une « hallucination » : une erreur affirmée avec une assurance complète. Ce n'est pas un mensonge (mentir suppose savoir) ni un bogue — c'est le mécanisme du chapitre 1 qui fonctionne exactement comme prévu, au-delà de ce que ses données soutiennent.
Pourquoi elles sont difficiles à attraper
Les hallucinations sont généralement presque vraies : bon nom avec la mauvaise date, bonne équipe à la mauvaise université, chiffre précis mais précisément faux. Les détails qui donnent confiance sont exactement là où les erreurs se cachent.
Pourquoi ça ne disparaîtra pas
Les systèmes s'améliorent : vérification contre des sources, citations, recherche en direct. Ces garde-fous réduisent les erreurs — ils ne changent pas le mécanisme de fond. Tant que la machine prédit du texte, le réflexe de vérification garde sa valeur. Les garde-fous sont des ceintures de sécurité, pas des permis de dormir au volant.
Pour aller plus loin
L'anatomie d'une erreur assurée
Demande une bibliographie sur un sujet pointu et la machine peut t'en fournir une impeccable — titres crédibles, auteurs plausibles, années cohérentes — dont la moitié n'existe pas. Rien ne « bogue » : elle complète le motif « bibliographie » exactement comme elle a appris à le faire.
Les pièges se rangent en quatre familles : les références inventées (livres, articles, décisions); les chiffres et les dates recomposés; les personnes fusionnées (deux carrières cousues en une seule); et les sources réelles qui ne disent pas ce qu'on leur fait dire. Quatre familles, un seul réflexe : ouvrir la source.
Idées reçues — et ce qui est vrai
Idée reçue « Les nouveaux modèles ne se trompent plus. »
En réalité Ils se trompent moins souvent — et avec le même aplomb. Moins d'erreurs, mieux déguisées : le réflexe de vérification vaut plus cher, pas moins.
Idée reçue « Si elle cite une source, c'est vrai. »
En réalité Une citation se prédit aussi bien qu'une phrase. La source ne compte que si elle s'ouvre — et si elle dit vraiment ça.
Idée reçue « Elle sait quand elle ne sait pas. »
En réalité Rien dans le mécanisme ne mesure « je ne sais pas ». L'hésitation, quand elle s'affiche, est un comportement appris — pas un thermomètre interne.
Le réflexe du crieur — trois questions avant de se fier à une réponse d'IA : 1) Y a-t-il une source ouvrable? 2) Est-ce le genre de détail que les modèles mélangent — noms, dates, chiffres, attributions? 3) Peut-on vérifier ailleurs en 30 secondes?
Dix énoncés, livrés comme une IA les livre. Fiable ou halluciné — chaque verdict compte.
Termes de ce chapitre : Hallucination · Date limite de connaissances
Deux questions pour valider le chapitre :