En février 2023, une seule phrase a suffi à effacer près de 100 milliards de dollars de capitalisation boursière en une journée. Lors de la toute première démonstration publique de Bard, le chatbot de Google affirmait que le télescope spatial James Webb avait pris « les premières photos » d'une planète située hors de notre système solaire. L'information était fausse : le premier cliché d'une exoplanète remonte à 2004, capturé par le Very Large Telescope de l'Observatoire européen austral, presque vingt ans plus tôt. L'erreur, repérée par des astronomes sur les réseaux sociaux, a fait chuter l'action Alphabet et est devenue, du jour au lendemain, l'exemple le plus cité d'un phénomène que les chercheurs appellent une hallucination : une intelligence artificielle qui produit, avec toute l'assurance d'un fait vérifié, une affirmation qui ne l'est pas.
Le mot peut surprendre. Emprunté à l'origine à la vision par ordinateur — où il désignait des détails inventés par un algorithme de reconstruction d'image — il s'est imposé dans le vocabulaire des modèles de langage pour décrire un défaut bien particulier : ce n'est pas un bug au sens classique, ni un simple manque de connaissance que le modèle signalerait honnêtement. C'est une réponse fluide, cohérente, souvent détaillée, et pourtant fausse. Un système qui hallucine ne bafouille pas, il affirme.
Cet article propose une explication sereine et documentée du phénomène : pourquoi les grands modèles de langage inventent-ils des faits, des citations ou des sources qui n'existent pas ? Que disent les recherches récentes, notamment les travaux publiés par OpenAI en septembre 2025, sur le mécanisme statistique qui produit ces erreurs ? Et surtout, quelles techniques concrètes — vérifiées, mesurables — permettent aujourd'hui de les réduire significativement, sans prétendre les faire disparaître entièrement ? Nous nous appuierons sur des cas réels, des benchmarks publiés et des méthodes déjà déployées en production, pour donner aux lecteurs des repères solides plutôt que des slogans.
Qu'est-ce qu'une hallucination, exactement ?
Dans la littérature de recherche, une synthèse de référence sur le sujet — la revue de Huang et ses coauteurs, qui recense et classe les travaux publiés sur la question — définit l'hallucination comme un contenu généré qui semble fluide et cohérent en surface, mais qui s'avère factuellement incorrect, logiquement incohérent, ou entièrement inventé. Cette définition mérite d'être décomposée, car elle recouvre en réalité plusieurs situations assez différentes.
La première est l'hallucination factuelle : le modèle énonce une date, un chiffre, un nom ou un événement qui ne correspond à aucune réalité vérifiable — c'est le cas de Bard et du télescope James Webb. La seconde est l'hallucination de source : le modèle attribue une citation, une étude ou un article à une référence qui n'existe pas, ou déforme le contenu d'une source réelle. La troisième est l'incohérence interne : le modèle se contredit à l'intérieur d'une même réponse, affirmant une chose puis son contraire quelques lignes plus loin. La dernière, plus subtile, est l'hallucination de raisonnement : chaque étape d'un raisonnement paraît individuellement plausible, mais la chaîne complète mène à une conclusion erronée.
À retenir. Les quatre types d'hallucination n'appellent pas la même parade. Factuelle → un RAG ancre la réponse dans une source vérifiable. De source → une validation automatique contrôle l'existence des citations. Incohérence interne → l'auto-cohérence compare plusieurs générations. De raisonnement → la chaîne de pensée décompose le calcul en étapes auditées.
Un point mérite d'être clarifié d'emblée, car il change la façon d'aborder le problème : une hallucination n'est pas un mensonge. Le mensonge suppose une intention de tromper. Un modèle de langage n'a pas d'intention au sens humain du terme ; il produit la suite de mots la plus probable compte tenu de son entraînement et du contexte fourni. Comprendre pourquoi cette suite de mots probable peut être fausse, c'est justement l'objet de la section suivante — et c'est une question à laquelle les chercheurs ont apporté, ces dernières années, des réponses de plus en plus précises.
Pourquoi les modèles hallucinent : le mécanisme statistique
Pendant longtemps, les hallucinations ont été présentées comme un mystère presque irréductible, une sorte de « boîte noire » impénétrable. Les travaux de recherche récents nuancent fortement cette idée. En septembre 2025, une équipe composée des chercheurs d'OpenAI Adam Tauman Kalai, Ofir Nachum et Edwin Zhang, avec Santosh Vempala (Georgia Tech), a publié une étude qui propose une explication mathématique claire et, surtout, actionnable : les hallucinations ne sont pas des anomalies mystérieuses, mais des erreurs statistiques largement prévisibles, qui trouvent leur origine dans la façon dont les modèles sont entraînés puis évalués.
Prédire le mot suivant, pas vérifier un fait
Le point de départ est le principe même d'un modèle de langage : à chaque étape, il prédit le mot (ou plus précisément le token) le plus probable compte tenu de ce qui précède. Ce mécanisme fonctionne remarquablement bien pour la grammaire, le style ou la structure d'un texte, parce que ces régularités sont omniprésentes dans les données d'entraînement. Mais un fait isolé — la date de naissance d'une personne peu connue, la référence exacte d'un arrêt de justice, le titre précis d'un article scientifique — n'obéit à aucune régularité statistique de ce type. Il n'existe qu'une seule bonne réponse, souvent rare dans les données, et rien dans le entraînement ne pousse le modèle à distinguer cette rareté d'une simple incertitude stylistique. L'étude d'OpenAI établit un parallèle avec la classification supervisée classique : quand distinguer une réponse valide d'une réponse invalide est statistiquement difficile, des erreurs de génération deviennent tout simplement inévitables, quelle que soit la qualité de l'entraînement.
Fig. 1 — Pourquoi un fait rare génère plus d'hallucinations qu'un motif grammatical : la probabilité n'est pas concentrée sur la bonne réponse.
La pénalité de l'incertitude
Le second mécanisme identifié par l'étude est plus surprenant, car il ne concerne pas l'entraînement initial mais la façon dont les modèles sont évalués et ajustés par la suite. Les auteurs comparent la situation à un examen à choix multiples sans point négatif pour les mauvaises réponses : un étudiant qui ne connaît pas la réponse a statistiquement intérêt à deviner plutôt qu'à laisser la question blanche, puisque deviner ne coûte rien et peut rapporter des points. Or c'est exactement la logique implicite de la plupart des benchmarks utilisés pour évaluer et affiner les modèles de langage : une réponse fausse mais assurée et une réponse honnête du type « je ne sais pas » sont souvent notées de la même manière — c'est-à-dire zéro. Dans ce cadre, un modèle optimisé pour obtenir les meilleurs scores possibles apprend, presque mécaniquement, à toujours proposer une réponse plutôt qu'à reconnaître son incertitude. L'étude va plus loin : elle montre que ce biais n'est pas propre à un modèle en particulier, mais découle de la structure même des procédures d'évaluation dominantes dans l'industrie.
À retenir. L'étude d'OpenAI (sept. 2025) identifie deux racines statistiques : 1) prédire le mot le plus probable ne permet pas de distinguer un fait rare d'une simple incertitude de style ; 2) les benchmarks notent de la même façon (zéro) une réponse fausse assurée et un « je ne sais pas » honnête — ce qui pousse le modèle à deviner systématiquement. La solution passe par une refonte des grilles d'évaluation, pas seulement du modèle.
« Les hallucinations n'ont pas besoin d'être mystérieuses — elles trouvent leur origine dans des erreurs statistiques ordinaires lors de la génération. » — Adam Tauman Kalai et ses coauteurs, dans leur étude publiée par OpenAI en septembre 2025.
Un miroir imparfait des données d'entraînement
Une troisième source, plus intuitive, tient à la nature même des données utilisées pour l'entraînement. Un modèle de langage apprend à partir d'un immense corpus de textes produits par des humains — textes qui contiennent eux-mêmes des erreurs, des approximations, des rumeurs et des opinions présentées comme des faits. Le modèle n'a aucun moyen intrinsèque de distinguer une affirmation solidement établie d'une affirmation simplement répétée souvent. La revue de Huang et ses coauteurs distingue à ce titre deux grandes familles de causes : les hallucinations « induites par le prompt », lorsque la formulation de la question oriente le modèle vers une réponse trompeuse, et les hallucinations « internes au modèle », qui tiennent à son architecture, à la distribution de ses données d'entraînement ou à son comportement au moment de la génération. Ces deux familles ne s'excluent pas : elles se combinent souvent dans un même échange.
Trois cas réels pour comprendre les conséquences
Comprendre le mécanisme est une chose ; en mesurer les conséquences concrètes en est une autre. Trois affaires, largement documentées et aujourd'hui bien connues, illustrent des types d'hallucination différents et des enjeux très concrets pour les organisations qui déploient ces outils.
L'avocat et les jurisprudences inventées
En mai 2023, l'affaire Mata contre Avianca, jugée devant le tribunal fédéral du district sud de New York, a marqué les esprits du monde juridique. L'avocat Steven A. Schwartz, du cabinet Levidow, Levidow & Oberman, avait utilisé ChatGPT pour préparer un mémoire dans un dossier de blessure corporelle. Le texte généré citait plusieurs décisions de justice — avec noms d'affaires, citations et références internes — qui n'existaient tout simplement pas. Interrogé sur l'authenticité de ces cas par l'avocat lui-même, le modèle avait persisté, assurant que les affaires « existent bel et bien » et « peuvent être trouvées dans des bases de données juridiques reconnues comme LexisNexis et Westlaw ». Le juge P. Kevin Castel a finalement sanctionné les avocats pour manquement à leur obligation de vérification, avec une amende de 5 000 dollars. Ce cas illustre une hallucination de source particulièrement coûteuse pour une profession fondée sur l'exactitude des références : le modèle n'a pas simplement mal répondu à une question factuelle, il a fabriqué de toutes pièces des documents à l'apparence parfaitement crédible.
Le chatbot d'Air Canada tenu pour responsable
Un second cas, tranché en février 2024 par un tribunal des petites créances canadien, a établi un précédent important sur la responsabilité des entreprises qui déploient des agents conversationnels. À la suite du décès de sa grand-mère en novembre 2022, un passager du nom de Jake Moffatt avait consulté le chatbot du site d'Air Canada pour connaître la politique de tarifs de deuil. Le chatbot avait répondu, à tort, qu'il était possible de demander un remboursement au tarif réduit dans les 90 jours suivant l'émission du billet — y compris après le voyage. En réalité, la politique de la compagnie exigeait que la demande soit faite avant le départ. Air Canada a d'abord proposé un bon d'achat de 200 dollars canadiens en guise de compromis, avant que le passager ne saisisse la justice. Le tribunal a tranché en sa faveur, condamnant la compagnie à verser 812,02 dollars canadiens, remboursement et frais compris. La décision est restée dans les mémoires pour une raison simple : la défense d'Air Canada, qui plaidait que le chatbot était une « entité juridique distincte » responsable de ses propres propos, a été rejetée sans détour par le tribunal. Une entreprise reste responsable des informations données par son propre outil, même généré par une IA.
Une erreur factuelle sur la scène mondiale
Le cas de Bard, évoqué en ouverture, complète ce tableau par un exemple de pure hallucination factuelle, sans manipulation ni enjeu contractuel : une affirmation fausse, énoncée avec assurance, sur un sujet vérifiable en quelques secondes. Ce qui rend cet épisode particulièrement instructif, c'est sa visibilité : diffusé lors d'une démonstration publique très suivie, l'erreur n'a laissé aucune place au doute sur sa réalité, ni sur son coût — la perte de capitalisation boursière évoquée en introduction a été immédiate et largement documentée par la presse économique.
Ces trois affaires partagent un point commun instructif : dans chacune, ce n'est pas la génération d'un texte incorrect qui a posé le problème premier — les modèles de langage produisent occasionnellement des erreurs, comme n'importe quel système automatisé — mais l'absence d'une étape de vérification humaine avant que l'information ne produise un effet réel, qu'il soit juridique, commercial ou médiatique.
À retenir. Dans les trois affaires — Bard (≈ 100 Mds $ de capitalisation), Mata v. Avianca (5 000 $ d'amende), Air Canada (812 $ CA de condamnation) — le préjudice n'est pas venu de l'erreur du modèle mais de l'absence d'une vérification humaine de quelques minutes avant diffusion. La frontière critique n'est pas « le modèle se trompe-t-il ? » mais « la sortie est-elle contrôlée avant de produire un effet réel ? ».
Comment mesure-t-on les hallucinations ?
Avant de pouvoir réduire un phénomène, encore faut-il pouvoir le mesurer de façon rigoureuse. La recherche a développé plusieurs approches complémentaires, chacune avec ses forces et ses limites.
TruthfulQA, le benchmark de référence
Publié en 2021 par Stephanie Lin, Jacob Hilton et Owain Evans, le benchmark TruthfulQA reste une référence pour évaluer la véracité des réponses d'un modèle. Il rassemble 817 questions réparties sur 38 catégories — santé, droit, finance, politique, entre autres — spécifiquement construites autour de sujets où certains humains répondraient faux à cause d'une idée reçue répandue. Les résultats initiaux publiés par les auteurs étaient éloquents : le meilleur modèle testé à l'époque n'était véridique que sur 58 % des questions, contre 94 % pour un être humain. Plus surprenant encore, l'étude a mis en évidence un phénomène contre-intuitif que les chercheurs ont appelé la « mise à l'échelle inversée » : sur ce jeu de questions particulier, des modèles plus grands se montraient parfois moins véridiques que des modèles plus petits, probablement parce qu'ils avaient mieux appris à reproduire des idées reçues très présentes dans leurs données d'entraînement.
Détection automatique et vérification croisée
À côté des benchmarks figés, des méthodes de détection dynamique se sont développées : interroger un modèle plusieurs fois sur la même question et comparer la cohérence des réponses obtenues ; confronter la réponse à des sources externes récupérées en temps réel ; ou utiliser un second modèle comme « juge », chargé d'évaluer la plausibilité et la traçabilité des affirmations produites par le premier. Chacune de ces approches a ses limites — un modèle juge peut lui-même se tromper, la cohérence entre plusieurs générations ne garantit pas l'exactitude — mais leur combinaison offre aujourd'hui une visibilité bien plus fine qu'un simple contrôle manuel ponctuel.
- Auto-cohérence : générer plusieurs réponses à la même question et observer si elles convergent.
- Vérification par récupération : comparer chaque affirmation à des documents sourcés externes.
- Évaluation par un modèle juge : faire évaluer la réponse par un second système, entraîné ou instruit pour repérer les incohérences.
- Relecture humaine ciblée : concentrer l'attention humaine sur les affirmations à fort enjeu (chiffres, citations, dates) plutôt que sur l'intégralité du texte.
Cette diversité de méthodes reflète une réalité simple : il n'existe pas de mesure unique et parfaite de l'hallucination. La bonne pratique, pour une organisation qui déploie un système en production, consiste à combiner plusieurs de ces approches selon la criticité de l'usage, plutôt que de se fier à un seul chiffre de benchmark.
Les techniques qui réduisent réellement les hallucinations
C'est la partie la plus utile pour quiconque conçoit ou utilise des applications à base d'intelligence artificielle générative : quelles méthodes, aujourd'hui documentées et mesurées, permettent de réduire concrètement le taux d'hallucination ?
Ancrer les réponses dans des sources vérifiables
La technique la plus largement adoptée en production s'appelle la génération augmentée par récupération, ou RAG (Retrieval-Augmented Generation). Le principe a été formalisé dans un article de référence publié en 2020 par Patrick Lewis et ses coauteurs, alors chez Facebook AI Research : plutôt que de laisser le modèle répondre uniquement à partir de ce qu'il a mémorisé pendant son entraînement, on interroge d'abord une base de connaissances externe — documents internes, base juridique, encyclopédie — pour récupérer les passages pertinents, puis on les injecte dans le contexte fourni au modèle avant qu'il ne rédige sa réponse. L'article original démontrait déjà qu'un modèle ainsi « ancré » dans des textes récupérés produit des réponses nettement plus fiables sur des tâches à forte densité de connaissances qu'un modèle laissé à ses seules capacités internes. Concrètement, pour une entreprise, cela signifie que le modèle ne doit plus « se souvenir » d'un fait précis : il lui suffit de le lire dans le document fourni et de le restituer correctement, une tâche beaucoup plus fiable que le rappel pur.
Fig. 2 — Le RAG remplace le « rappel de mémoire » (peu fiable sur les faits rares) par une lecture de documents récupérés, puis injectés dans le contexte du modèle avant génération.
Structurer le raisonnement plutôt que de répondre d'un trait
Une deuxième famille de techniques agit sur la façon dont le modèle construit sa réponse, plutôt que sur les sources qu'il utilise. La méthode dite du raisonnement en chaîne (chain-of-thought), popularisée par une étude de Jason Wei et ses coauteurs en 2022, consiste à demander au modèle de décomposer son raisonnement étape par étape avant de livrer une conclusion, plutôt que de sauter directement à la réponse finale. Ce détour, loin d'être un simple habillage, réduit sensiblement le risque d'erreurs de raisonnement sur des problèmes qui demandent plusieurs étapes logiques.
Une variante encore plus efficace, appelée auto-cohérence (self-consistency) et proposée la même année par Xuezhi Wang et ses coauteurs, pousse le principe plus loin : au lieu de générer un seul chemin de raisonnement, le modèle en génère plusieurs en parallèle, avec un peu de diversité dans l'échantillonnage, puis retient la réponse la plus fréquemment obtenue parmi ces chemins. L'intuition est simple — un problème complexe admet souvent plusieurs façons différentes de raisonner correctement pour arriver à la même bonne réponse, alors que les erreurs, elles, ont tendance à diverger. Les auteurs ont mesuré des gains de performance significatifs sur des benchmarks de raisonnement mathématique et de sens commun grâce à cette seule technique de décodage, sans modifier le modèle lui-même.
Apprendre à dire « je ne sais pas »
La troisième piste, plus structurelle, découle directement du diagnostic posé par l'étude d'OpenAI évoquée plus haut : si le problème vient en partie des méthodes d'évaluation qui récompensent la certitude affichée plutôt que l'honnêteté sur l'incertitude, alors la solution passe par un changement de ces méthodes. Les auteurs proposent d'ajuster les grilles d'évaluation pour qu'une réponse fausse mais assurée soit pénalisée davantage qu'une abstention honnête — un principe proche de la correction avec points négatifs dans certains examens, qui décourage les réponses au hasard. Un modèle entraîné et évalué selon ce principe a intérêt à signaler son incertitude plutôt qu'à toujours proposer une réponse. Cette évolution des pratiques d'évaluation a déjà produit des résultats mesurables sur les modèles de raisonnement les plus récents, dont le taux d'hallucination a nettement baissé par rapport aux générations précédentes lorsque le mode de raisonnement approfondi est activé — un signe que le problème, loin d'être une fatalité, réagit bien à des ajustements ciblés de l'entraînement et de l'évaluation.
Vérifier automatiquement les sorties structurées
Enfin, pour les usages où le format de sortie est prévisible — génération de code, extraction de données, réponses à choix contraint — une dernière catégorie de techniques consiste à valider automatiquement la sortie du modèle avant de la présenter à l'utilisateur : vérification qu'une citation existe réellement dans un index documentaire, contrôle qu'un identifiant ou une référence correspond à une entrée réelle d'une base de données, ou simple validation de format. Ces garde-fous n'empêchent pas le modèle de se tromper, mais ils empêchent l'erreur de se propager silencieusement jusqu'à l'utilisateur final.
- RAG : ancrer la réponse dans des documents récupérés, pas seulement dans la mémoire du modèle.
- Chaîne de raisonnement : décomposer le problème en étapes explicites avant de conclure.
- Auto-cohérence : comparer plusieurs chemins de raisonnement et retenir le plus stable.
- Évaluation calibrée : récompenser l'honnêteté sur l'incertitude autant que l'exactitude.
- Validation post-génération : vérifier automatiquement les citations, références et formats avant diffusion.
Aucune de ces techniques, prise isolément, n'élimine complètement le risque d'erreur — mais combinées, elles déplacent nettement le curseur, transformant un défaut structurel en un risque résiduel gérable.
Testez votre compréhension
Cinq questions pour vérifier que vous avez saisi l'essentiel de l'article.
Ce que cela change pour les utilisateurs et les organisations
Comprendre le mécanisme et connaître les techniques de réduction ne suffit pas : encore faut-il les traduire en pratiques quotidiennes, pour un particulier comme pour une équipe qui déploie un outil en production.
Pour un usage individuel, la règle la plus simple reste la plus efficace : traiter toute affirmation factuelle précise — une date, un chiffre, une citation, une référence juridique ou scientifique — comme une hypothèse à vérifier plutôt que comme un fait acquis, surtout lorsque l'enjeu de l'erreur est réel. Les affaires Mata contre Avianca et Air Canada partagent ce même défaut initial : une confiance accordée à une sortie de modèle sans étape de contrôle indépendante, alors même que la vérification, dans les deux cas, aurait pris quelques minutes.
Pour une organisation qui conçoit un produit ou un service reposant sur un modèle de langage, plusieurs principes se dégagent des cas étudiés et des recherches disponibles :
- Préférer une architecture ancrée dans des sources vérifiables (RAG) dès que l'application touche à des faits précis, changeants ou à fort enjeu ;
- Réserver une supervision humaine aux sorties qui ont un effet contractuel, financier ou juridique direct sur un tiers ;
- Mesurer le taux d'hallucination sur des cas d'usage réels, pas seulement sur des benchmarks génériques qui peuvent ne pas refléter le contexte métier ;
- Documenter clairement, pour l'utilisateur final, la nature générée du contenu et la possibilité d'erreur — une transparence qui protège autant l'utilisateur que l'organisation elle-même, comme l'a rappelé le tribunal dans l'affaire Air Canada.
Ce dernier point mérite d'être souligné : la décision canadienne a clairement établi qu'une entreprise ne peut pas se dédouaner de la responsabilité des propos tenus par son propre chatbot en argumentant qu'il s'agirait d'une entité distincte. Le déploiement d'une IA générative dans un service client, une plateforme documentaire ou un outil métier engage la responsabilité de l'organisation qui le met à disposition, exactement comme le ferait n'importe quel autre canal d'information officiel.
Où en est-on début 2026 ?
La trajectoire observée depuis les tout premiers cas médiatisés est plutôt encourageante, tout en restant mesurée. Les modèles de raisonnement les plus récents, entraînés et évalués selon des principes qui pénalisent davantage la certitude injustifiée, affichent des taux d'hallucination sensiblement inférieurs à ceux des générations précédentes sur les benchmarks factuels, en particulier lorsque le mode de raisonnement approfondi est activé. Les architectures ancrées dans la récupération documentaire sont devenues la norme pour la plupart des applications professionnelles sérieuses, qu'il s'agisse d'assistance juridique, de support client ou de recherche documentaire interne — précisément les usages où les affaires Mata contre Avianca et Air Canada avaient révélé les failles les plus coûteuses.
Il serait toutefois inexact de présenter le phénomène comme résolu. La revue de littérature de Huang et ses coauteurs, comme l'étude d'OpenAI, convergent sur un même constat : tant qu'un modèle de langage produira du texte par prédiction statistique du mot suivant, une part résiduelle d'erreur restera structurellement possible, en particulier sur les faits rares, les événements très récents ou les domaines à forte spécialisation. La bonne nouvelle est que ce résidu devient chaque année plus mesurable, plus prévisible et plus gérable grâce aux techniques présentées dans cet article — ce qui change profondément la nature du défi : il ne s'agit plus de se demander si un modèle peut halluciner, mais de construire, autour de lui, les garde-fous adaptés à l'enjeu réel de chaque usage.
Ce qu'il faut retenir
Les hallucinations des IA génératives ne sont ni un mystère insondable, ni un simple défaut de jeunesse appelé à disparaître de lui-même. Ce sont des erreurs statistiques dont l'origine est aujourd'hui bien documentée : un mécanisme de génération qui prédit le mot le plus probable plutôt qu'il ne vérifie un fait, et des méthodes d'évaluation qui ont longtemps récompensé la certitude affichée plus que l'honnêteté sur l'incertitude. Les cas de Bard, de l'avocat new-yorkais et du chatbot d'Air Canada montrent des visages différents du même phénomène — erreur factuelle, fabrication de sources, information contractuelle erronée — mais partagent une même leçon : le risque devient sérieux au moment précis où une réponse générée franchit la frontière de la vérification humaine pour produire un effet réel.
Face à cela, les outils existent et sont éprouvés : ancrer les réponses dans des sources vérifiables plutôt que dans la seule mémoire du modèle, structurer le raisonnement en étapes plutôt que de répondre d'un trait, mesurer plutôt que supposer, et calibrer l'évaluation des modèles pour valoriser l'honnêteté sur l'incertitude. Aucune de ces méthodes n'offre une garantie absolue — et il serait imprudent de le prétendre — mais leur combinaison transforme un défaut structurel en un risque que l'on peut mesurer, anticiper et réduire méthodiquement. Pour qui utilise ou conçoit des systèmes d'intelligence artificielle générative, c'est précisément cette posture — informée, vérificatrice, sans excès de méfiance ni excès de confiance — qui permet d'en tirer le meilleur parti.
Sources
Cet article s'appuie sur des sources publiques et vérifiables :
- Adam Tauman Kalai, Ofir Nachum, Santosh S. Vempala, Edwin Zhang, « Why Language Models Hallucinate », OpenAI, septembre 2025 — openai.com (article complet : arXiv 2509.04664).
- Lei Huang et al., « A Survey on Hallucination in Large Language Models: Principles, Taxonomy, Challenges, and Open Questions » — arXiv 2311.05232.
- Stephanie Lin, Jacob Hilton, Owain Evans, « TruthfulQA: Measuring How Models Mimic Human Falsehoods », ACL 2022 — arXiv 2109.07958.
- Patrick Lewis et al., « Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks », NeurIPS 2020 — arXiv 2005.11401.
- Jason Wei et al., « Chain-of-Thought Prompting Elicits Reasoning in Large Language Models », NeurIPS 2022 — arXiv 2201.11903.
- Xuezhi Wang et al., « Self-Consistency Improves Chain of Thought Reasoning in Language Models », 2022 — arXiv 2203.11171.
- CNN Business, « Lawyer apologizes for fake court citations from ChatGPT » (affaire Mata v. Avianca), mai 2023 — cnn.com.
- Forbes, « What Air Canada Lost In 'Remarkable' Lying AI Chatbot Case », février 2024 — forbes.com.
- CNN Business, « Google shares lose $100 billion after company's AI chatbot makes an error during demo », février 2023 — cnn.com.