Chapitre 3 · Douter
Vrai… ou halluciné?
Une erreur d'IA ne s'annonce jamais. Elle arrive sur un ton assuré, avec des détails plausibles.
Ce qu'est une hallucination
Quand un modèle prédit du texte sans terrain solide dessous, il ne s'arrête pas — il continue de produire la suite la plus plausible. Le résultat est une « hallucination » : une erreur affirmée avec une assurance complète. Ce n'est pas un mensonge (mentir suppose savoir) ni un bogue — c'est le mécanisme du chapitre 1 qui fonctionne exactement comme prévu, au-delà de ce que ses données soutiennent.
Pourquoi elles sont difficiles à attraper
Les hallucinations sont généralement presque vraies : bon nom avec la mauvaise date, bonne équipe à la mauvaise université, chiffre précis mais précisément faux. Les détails qui donnent confiance sont exactement là où les erreurs se cachent.
Pourquoi ça ne disparaîtra pas
Les systèmes s'améliorent : vérification contre des sources, citations, recherche en direct. Ces garde-fous réduisent les erreurs — ils ne changent pas le mécanisme de fond. Tant que la machine prédit du texte, le réflexe de vérification garde sa valeur. Les garde-fous sont des ceintures de sécurité, pas des permis de dormir au volant.
Pour aller plus loin
Le réflexe du crieur — trois questions avant de se fier à une réponse d'IA : 1) Y a-t-il une source ouvrable? 2) Est-ce le genre de détail que les modèles mélangent — noms, dates, chiffres, attributions? 3) Peut-on vérifier ailleurs en 30 secondes?
Dix énoncés, livrés comme une IA les livre. Fiable ou halluciné — chaque verdict compte.
Deux questions pour valider le chapitre :