Référentiel B — capacité IA
Hallucination et fiabilité factuelle (limite transversale)
Capacités clés
- Production de réponses fausses ou trompeuses présentées comme des faits certains, sans marque d'incertitude perceptible par le lecteur
- Fabrication de citations et de références d'apparence plausible mais inexistantes : interrogé sur un terme inventé (« électromagnon inversé cycloïdal »), un modèle a répondu en produisant des références fictives crédibles
- Recombinaison de données réelles mais disparates en un énoncé cohérent et faux, comme l'attribution erronée d'un record de traversée de la Manche à un nageur qui détenait en fait un autre record
- Phénomène rattaché à des systèmes conçus pour être persuasifs plutôt que véridiques, que certains chercheurs décrivent comme des « perroquets stochastiques » analysant les relations entre mots sans accès au sens
Usages documentés par secteur
GouvernementTRL non déterminable
L'hallucination est devenue un problème concret pour les institutions judiciaires et administratives qui voient arriver des pièces rédigées avec l'aide de modèles génératifs. La réponse documentée est procédurale plutôt que technique : exiger une relecture humaine avant tout dépôt. Le phénomène est ici observé sur des systèmes en usage réel, pas en laboratoire.
- Mai 2023 : un cabinet d'avocats new-yorkais soumet dans une procédure aérienne des précédents générés par ChatGPT, dont six arrêts se révèlent fictifs, assortis de fausses citations
- Le juge Brantley Starr interdit le dépôt de documents produits par IA qui n'ont pas été examinés par un humain
Sources de cet usage
RechercheTRL non déterminable
Dans le travail scientifique, l'hallucination se manifeste surtout par des références bibliographiques inventées, difficiles à distinguer de références réelles sans vérification pièce par pièce. Le cas d'un modèle spécialisé dans la littérature scientifique (Galactica) montre que l'entraînement sur un corpus savant ne supprime pas le phénomène. Cela impose une vérification manuelle de chaque source citée.
- Une chercheuse, Teresa Kubacka, interroge ChatGPT sur un phénomène physique qu'elle a inventé et obtient une réponse assortie de citations plausibles mais fictives
- Le modèle Galactica, destiné à la recherche scientifique, est cité comme cas d'hallucination en contexte de recherche
Sources de cet usage
IndustrieTRL non déterminable
Les usages professionnels de production de contenu exposent directement au risque : un texte structuré et fluide peut contenir des données chiffrées entièrement fabriquées. Le danger tient à la cohérence apparente du résultat, qui ne signale pas les passages inventés. La vérification des chiffres reste à la charge de l'utilisateur.
- Un journaliste de Fast Company demande un article sur les résultats financiers de Tesla : le texte produit est cohérent mais les chiffres avancés sont inventés
Sources de cet usage
Limites connues
Un modèle génératif peut produire des affirmations plausibles mais factuellement fausses (citations inventées, faits erronés) sans signal interne fiable de son propre degré d'incertitude ; le risque augmente avec la spécificité/niche du sujet et diminue avec le RAG (récupération augmentée) sur sources vérifiées, sans jamais tomber à zéro. C'est la limite la plus citée par le mégaprompt (section B5) et directement pertinente pour la fiabilité de ce référentiel lui-même — d'où l'exigence de sourcer systématiquement chaque fiche documentée.
Débats documentés
Aucune autre fiche du référentiel ne nomme celle-ci, et celle-ci n'en nomme aucune. Ce n'est pas un signe d'accord : c'est un silence documentaire, et il se comble en écrivant les limites de la fiche avec des noms.
Sources
Analyses de gap citant cette fiche
- Résilience civilisationnelle aux risques existentiels × Hallucination et fiabilité factuelle (limite transversale)Fiabilité factuelle et évaluation des risques existentiels
Fiche humaine : Résilience civilisationnelle aux risques existentiels
- Friedrich Hayek × Hallucination et fiabilité factuelle (limite transversale)Connaissance dispersée, coordination économique et fiabilité factuelle des systèmes
Fiche humaine : Friedrich Hayek
- Cour pénale internationale (CPI) × Hallucination et fiabilité factuelle (limite transversale)Justice pénale internationale, preuve et fiabilité factuelle des systèmes génératifs
Fiche humaine : Cour pénale internationale (CPI)
- IA et traitement du langage naturel × Hallucination et fiabilité factuelle (limite transversale)Fiabilité factuelle des modèles de langage et ancrage référentiel
Fiche humaine : IA et traitement du langage naturel
- Werner Heisenberg × Hallucination et fiabilité factuelle (limite transversale)Limites de prévisibilité en physique et incertitude non calibrée des modèles
Fiche humaine : Werner Heisenberg
- Saul Kripke × Hallucination et fiabilité factuelle (limite transversale)Référence des noms propres et fabrication de citations plausibles
Fiche humaine : Saul Kripke
- CIJ × Hallucination et fiabilité factuelle (limite transversale)Recherche jurisprudentielle assistée et exigence de vérifiabilité judiciaire
Fiche humaine : CIJ
- John B. Watson × Hallucination et fiabilité factuelle (limite transversale)Évaluation par le comportement observable et opacité des représentations internes
Fiche humaine : John B. Watson
Fiches connexes — Limites
- Absence de conscience et de qualia (limite transversale)
- Biais hérités des données d'entraînement (limite transversale)Limite transversale documentée par la recherche académique en éthique de l'IA (fairness in machine learning)
- Capacité de découverte et saut abductif (limite transversale)
- Dépendance à la supervision humaine dans les usages à haut risque (limite transversale)
- Dépendance énergétique et matérielle de l'IA (limite transversale)Limite transversale documentée par la recherche sur l'empreinte environnementale de l'IA et les chaînes d'approvisionnement en semi-conducteurs
- Questions de gouvernance et d'alignement (limite transversale)
Données brutes de cette fiche : /api/fiches/hallucination-et-fiabilite-factuelle-limite-transversale — voir la méthodologie.