Dernière revue :
Qu'est-ce qu'une hallucination IA ? Définition et piège à éviter
Une hallucination est une affirmation factuellement fausse mais formulée avec assurance par un modèle d'IA générative. Elle découle du mécanisme statistique de génération : le modèle prédit le mot suivant le plus probable, sans capacité native à vérifier. C'est le principal risque opérationnel et juridique d'un déploiement IA en entreprise.
L'hallucination n'est pas un bug, c'est une propriété structurelle des LLM. Quatre mécanismes la produisent. La généralisation excessive : le modèle extrapole une réponse plausible à partir de motifs vus en entraînement, même quand le sujet précis n'a pas été couvert. L'interpolation entre sources contradictoires : le modèle fusionne des informations divergentes en une affirmation lisse mais inexacte. La pression à répondre : sans garde-fou, le modèle préfère générer une réponse confiante plutôt que reconnaître une ignorance. Le décalage temporel : les modèles entraînés avant une date donnée ignorent les évolutions postérieures (knowledge cutoff). Trois facteurs réduisent significativement les hallucinations : l'usage de la récupération à l'inférence (RAG ou web search), l'instruction explicite au modèle de signaler les incertitudes, et la validation humaine systématique sur les sorties à enjeu. Aucun n'élimine totalement le phénomène. Selon les benchmarks 2025-2026, les meilleurs modèles hallucinent encore sur 5 à 15 % des requêtes factuelles complexes.
Exemple concret
Affaire Moffatt vs Air Canada, février 2024. Un client interroge le chatbot IA d'Air Canada sur la politique tarifaire en cas de deuil. Le chatbot invente une procédure de remboursement rétroactif sous 90 jours, alors que la politique réelle de la compagnie exige une réservation au tarif normal puis demande de remboursement préalable au voyage. Le client suit l'instruction du chatbot, paie le tarif normal, et se voit refuser le remboursement. Il poursuit Air Canada devant le Civil Resolution Tribunal de Colombie-Britannique, qui condamne la compagnie en février 2024 à honorer la politique inventée par son propre chatbot. Premier précédent juridique anglo-saxon majeur sur la responsabilité éditoriale d'un chatbot IA.
Deuxième cas, dans un contexte professionnel : Mata vs. Avianca, juin 2023, tribunal fédéral de New York. Deux avocats de la firme Levidow, Levidow & Oberman soumettent un mémoire juridique de 10 pages citant six décisions de justice — toutes inventées par ChatGPT. Interrogé par les avocats sur la véracité des citations, le modèle avait « confirmé » leur existence. Le juge Kevin Castel les condamne à 5 000 $ d'amende chacun pour dépôt de conclusions de mauvaise foi, sanction professionnelle publique, et notification à leurs clients. L'affaire devient jurisprudence de référence : les tribunaux américains, britanniques et canadiens exigent désormais explicitement une vérification humaine des citations IA dans les procédures.
Comparaison
| Technique | Efficacité | Coût de mise en œuvre | Cas d'usage typique |
|---|---|---|---|
| RAG (Retrieval-Augmented Generation) | Élevée sur les faits ancrables dans une base documentaire propre | Moyen — infrastructure vectorielle + curation continue des sources | Assistant qui répond sur une base documentaire d'entreprise (support, RH, juridique) |
| Chain-of-verification (auto-vérification) | Moyenne — réduit les erreurs mais coûteuse en tokens | Faible — modification du prompt uniquement | Génération de contenu à enjeu (résumés, rapports) sans données externes |
| Grounding + citation obligatoire | Élevée — le modèle est contraint de sourcer chaque affirmation | Faible à moyen — instruction du prompt + post-processing des sorties | Rapports d'analyse, synthèses documentaires, réponses juridiques |
| Human-in-the-loop (validation systématique) | Maximale — aucune sortie non validée ne part en production | Élevé — goulot d'étranglement humain, non scalable au-delà d'un volume | Décisions à fort enjeu (juridique, médical, financier, communication publique) |
| Structured output (schéma imposé) | Élevée pour les données structurées, faible pour la génération libre | Faible — usage natif des API modernes (JSON mode, tool use) | Extraction de données, classification, remplissage de formulaires |
Questions fréquentes
Pourquoi les modèles d'IA hallucinent-ils ?
L'hallucination est structurelle, pas un bug. Un LLM prédit le mot statistiquement le plus probable, sans capacité native à vérifier ses affirmations. Quatre mécanismes : généralisation excessive, interpolation entre sources contradictoires, pression à répondre plutôt qu'à reconnaître l'ignorance, et décalage temporel (knowledge cutoff).
Comment détecter une hallucination IA ?
Trois signaux : citations qui n'apparaissent nulle part par recherche externe, chiffres trop précis sans source vérifiable, et affirmations catégoriques sur des sujets récents ou de niche. Toute sortie à enjeu juridique, financier ou médical exige une vérification humaine indépendante — les meilleurs modèles hallucinent encore sur 5 à 15 % des requêtes factuelles complexes.
Comment réduire les hallucinations d'un LLM ?
Trois leviers efficaces : RAG (Retrieval-Augmented Generation) pour ancrer les réponses sur des documents sources, instruction explicite au modèle de signaler les incertitudes, et validation humaine systématique sur les sorties à enjeu. Aucun n'élimine totalement le phénomène ; ils réduisent la fréquence et rendent l'erreur détectable.
Qui est responsable juridiquement d'une hallucination ?
L'entreprise qui déploie le chatbot ou l'assistant IA reste responsable des affirmations produites, comme l'a établi le jugement Moffatt vs Air Canada (février 2024) : Air Canada a été condamnée à honorer une politique de remboursement inventée par son propre chatbot. Le prestataire IA n'est pas partie au litige côté client.
Toutes les IA hallucinent-elles ?
Tous les modèles génératifs à base de LLM hallucinent, même les plus récents. Les systèmes déterministes (moteurs de règles, recherche full-text) n'hallucinent pas mais ne raisonnent pas. Les architectures hybrides RAG + LLM + citations vérifiables réduisent le risque mais ne l'annulent pas — c'est une propriété du paradigme génératif.
Un RAG suffit-il à supprimer les hallucinations ?
Non. Le RAG réduit significativement les hallucinations en ancrant la réponse sur des documents sources, mais le modèle peut encore reformuler, mélanger ou déformer les extraits récupérés. La bonne configuration exige : citation explicite des passages sources, chunking soigné, et une évaluation continue du taux de fidélité (grounding rate).
À voir aussi
Pour aller plus loin
Moffatt v. Air Canada, Civil Resolution Tribunal of British Columbia, février 2024
Sources
- Moffatt v. Air Canada, Civil Resolution Tribunal of British Columbia, décision du 14 février 2024 (2024 BCCRT 149). https://www.canlii.org/en/bc/bccrt/doc/2024/2024bccrt149/2024bccrt149.html
- AI Incident Database, incident #563, Air Canada chatbot hallucination, 2024. https://incidentdatabase.ai/cite/563