L'IA invente parfois des réponses : peut-on s'y fier dans son entreprise ?

Qu'appelle-t-on une hallucination d'IA ?

C'est une réponse fausse présentée comme un fait. L'IA écrit une référence inventée avec la même assurance qu'une référence exacte, et rien dans le ton ne vous met en garde.

Les formes les plus courantes en entreprise : une source qui n'existe pas, un chiffre arrondi ou fabriqué, une décision de justice imaginaire, une clause de contrat mal résumée, un nom de personne ou de client mélangé avec un autre.

Pourquoi un modèle de langage invente-t-il ?

Un modèle de langage ne consulte pas une base de faits. Il calcule, mot après mot, la suite la plus probable. Quand il sait, la suite probable est souvent juste. Quand il ne sait pas, la suite probable a l'air juste.

En septembre 2025, des chercheurs d'OpenAI ont publié « Why language models hallucinate ». Leur idée : l'entraînement et les tests qui classent les modèles récompensent la réponse devinée plus que l'aveu d'ignorance. Comme un élève devant un QCM, le modèle qui devine gagne parfois des points, celui qui dit « je ne sais pas » n'en gagne jamais. Leur exemple : deviner une date d'anniversaire donne une chance sur 365, s'abstenir donne zéro.

Les situations où le risque monte :

• Aucune source dans la question : le modèle répond de mémoire, sans document à recopier.
• Un fait rare : un arrêt peu cité, le chiffre d'affaires d'une PME, le nom d'un interlocuteur. Les chercheurs d'OpenAI notent que ces faits isolés ne se déduisent d'aucune régularité.
• Les dates et l'actualité : le modèle s'arrête à la date de son entraînement et ne sait pas ce qui a changé depuis.
• Les calculs : un modèle qui écrit un total sans outil de calcul peut se tromper sur une addition.
• Une question qui suppose un fait faux (« quelle est la jurisprudence qui dit que… ») : le modèle a tendance à la suivre.

Trois affaires où une réponse inventée a coûté cher

Des jurisprudences imaginaires. En 2023, à New York, des avocats déposent dans l'affaire Mata contre Avianca un mémoire qui cite six décisions qui n'existent pas. L'un d'eux les avait obtenues de ChatGPT, qui lui avait assuré qu'elles existaient. Le 22 juin 2023, le juge fédéral P. Kevin Castel condamne les deux avocats et leur cabinet à 5 000 dollars. Les tribunaux français en voient aussi : selon Le Monde Informatique, le tribunal judiciaire de Périgueux relève le 18 décembre 2025 des références qui « ne semblent pas correspondre à des décisions publiées », et invite le demandeur à vérifier qu'elles ne sont pas des hallucinations.

Un assistant client qui engage l'entreprise. Le 14 février 2024, un tribunal de Colombie-Britannique condamne Air Canada à indemniser un passager. L'assistant de son site lui avait dit qu'il pourrait demander le tarif réduit pour un deuil après son voyage, ce que la règle de la compagnie ne permettait pas. Air Canada plaidait que l'assistant était une entité distincte, responsable de ses propres actes. Le tribunal a répondu qu'il fait partie du site, et que l'entreprise répond de ce qu'il dit.

Un rapport de conseil à refaire. Selon The Register, Deloitte a remis en juillet 2025 au ministère australien de l'Emploi un rapport facturé 440 000 dollars australiens. Un universitaire de Sydney y a trouvé des références inexistantes et une citation inventée attribuée à un juge. La version corrigée retire plus d'une dizaine de références et indique l'usage d'un outil fondé sur GPT-4o. Deloitte s'est engagé à rembourser la dernière échéance du contrat.

Que disent les mesures publiques ?

Le classement de l'éditeur Vectara, mis à jour le 22 octobre 2026, mesure combien de fois un modèle ajoute une information absente quand il résume un article qu'on lui fournit, sur plus de 7 700 articles. Le meilleur modèle du classement en ajoute une dans 1,8 % des résumés ; les moins bons dépassent 23 %.

Même avec le document sous les yeux, aucun modèle n'atteint zéro. L'écart entre modèles est grand, donc le choix du modèle et du réglage compte, et se mesure sur vos propres cas. Ce classement porte sur des résumés d'articles ; il ne dit rien de votre usage précis.

Comment limiter le risque, concrètement ?

Du plus efficace au plus simple à mettre en place :

• Donner à l'IA vos documents plutôt que sa mémoire. Un agent qui cherche dans vos dossiers avant de répondre (on parle de RAG) recopie ce qu'il lit au lieu de deviner. C'est le rôle d'une couche de contexte ou d'un moteur de recherche IA branché sur vos fichiers.
• Exiger des sources citées et vérifiables : chaque réponse renvoie au document d'où elle vient, et un clic suffit pour le relire.
• Ajouter des contrôles automatiques : un chiffre ou un nom absent des documents lus se signale ou se retire avant d'être affiché.
• Garder une relecture humaine sur tout ce qui engage l'entreprise : un mail à un client, un devis, un contrat, un rapport.
• Borner les tâches. Un agent IA en entreprise qui fait une chose précise sur un périmètre connu se trompe moins qu'un assistant à qui l'on demande tout.
• Autoriser « je ne sais pas » : l'outil doit pouvoir dire qu'il n'a rien trouvé, et vos équipes doivent préférer cette réponse à une invention.
• Tester sur vos propres cas avant de déployer : vingt questions dont vous connaissez la réponse, y compris des questions sans réponse.

Pour quelles tâches peut-on s'y fier ?

Le risque tient surtout à ce qu'on confie à l'outil. Retrouver un document, résumer un dossier dont vous avez la source, préparer un premier jet de réponse : l'erreur se voit à la relecture et coûte peu.

Citer une loi, donner un montant à un client, répondre seul au public, signer un rapport : l'erreur sort de l'entreprise et peut l'engager, comme pour Air Canada. Ces usages demandent une source et une relecture à chaque fois. Écrivez-le dans votre charte IA : quelles tâches, quelles données, qui relit.

Que dit le règlement européen sur la surveillance humaine ?

Pour les usages classés à haut risque, comme le tri de candidatures, l'article 26 de l'AI Act demande de confier la surveillance humaine à des personnes compétentes, formées, qui ont l'autorité pour intervenir. Ces obligations s'appliqueront le 2 décembre 2027. Pour vos autres usages, la relecture reste la meilleure protection. Cette page ne remplace pas un conseil juridique.

Ce que fait Saména contre les inventions

Saména construit des agents IA sur mesure, branchés sur vos documents dans SharePoint, OneDrive ou Dropbox, en lecture seule, sur les dossiers que vous choisissez. L'agent répond à partir de ce qu'il lit chez vous, et chaque réponse cite les documents d'où elle vient.

Un contrôle s'ajoute : une phrase de réponse qui affirme un chiffre ou un nom propre qu'aucun document lu par l'agent ne contient est retirée avant d'être affichée ; ce contrôle compare des chiffres et des noms, il ne juge pas le sens.

Rien ne part sans la validation d'une personne de l'entreprise : l'agent prépare, quelqu'un relit et valide avant l'envoi. Le risque d'erreur baisse sans disparaître, et c'est pour cela que la relecture reste dans le circuit.

Questions fréquentes

Pourquoi ChatGPT invente-t-il des sources ?

Parce qu'il prédit le texte le plus probable, et qu'une référence bibliographique a une forme très prévisible. Sans document à recopier, il produit une référence qui a l'air vraie. Des chercheurs d'OpenAI expliquent en septembre 2025 que l'entraînement récompense la réponse devinée plus que l'aveu d'ignorance.

Les hallucinations vont-elles disparaître avec les prochains modèles ?

Elles diminuent, sans disparaître. Le classement de Vectara, mis à jour en octobre 2026, montre que même le meilleur modèle ajoute encore une information absente dans environ 2 % des résumés d'un document qu'on lui fournit.

Qui est responsable quand une IA donne une information fausse à un client ?

L'entreprise qui l'utilise. En février 2024, Air Canada a été condamnée pour la réponse erronée de l'assistant de son site, que le tribunal a considéré comme une partie du site. Cette réponse ne remplace pas un conseil juridique.

Le RAG supprime-t-il les hallucinations ?

Il les réduit, parce que le modèle s'appuie sur vos documents au lieu de sa mémoire. Il reste des erreurs de lecture ou de résumé : il faut des sources citées, des contrôles et une relecture humaine sur ce qui engage l'entreprise.

Saména garantit-il des réponses sans erreur ?

Non, et aucun outil d'IA ne peut le garantir. Les agents citent leurs sources. Une phrase de réponse qui affirme un chiffre ou un nom propre qu'aucun document lu par l'agent ne contient est retirée avant d'être affichée ; ce contrôle compare des chiffres et des noms, il ne juge pas le sens. Et rien ne part sans la validation d'une personne de l'entreprise.