Hallucination IA : pourquoi l’IA invente, et comment la rendre fiable dans votre entreprise

Ce qu’on appelle une hallucination.

Une hallucination, c’est un énoncé faux présenté comme vrai, et plausible au point de ne pas attirer l’attention. Des chercheurs d’OpenAI et de Georgia Tech la décrivent comme une affirmation « plausible mais incorrecte » produite au lieu d’admettre une incertitude^[1]. La CNIL dit la même chose avec ses mots : du fait de leur nature probabiliste, ces systèmes peuvent générer des résultats inexacts qui paraissent pourtant plausibles^[2].

L’exemple choisi par ces chercheurs est parlant. Interrogés sur le titre de la thèse de l’un d’eux, trois assistants très utilisés ont chacun donné un titre, une université et une année. Aucun n’avait le bon titre ni la bonne année^[1].

Ce n’est donc pas une panne rare qu’on pourrait corriger une fois pour toutes. C’est une conséquence de la façon dont ces outils fonctionnent. Les mêmes chercheurs notent que les hallucinations restent présentes dans les modèles les plus récents^[1]. Mieux vaut le savoir avant de confier une réponse client à un assistant.

Pourquoi une IA invente, expliqué simplement.

Un modèle de langage a appris à prolonger un texte : il choisit, mot après mot, la suite la plus probable. Anthropic le résume ainsi : l’entraînement pousse à halluciner, puisque le modèle doit toujours proposer un mot suivant^[3]. Savoir dire « je ne sais pas » ne vient pas de cet apprentissage : il faut l’ajouter après coup, et ce garde-fou n’est pas infaillible^[3].

Les faits rares s’apprennent mal. Une information vue une seule fois pendant l’entraînement a peu de chances d’être retenue de façon fiable. Les chercheurs d’OpenAI le montrent avec les dates d’anniversaire. C’est un raisonnement, pas une mesure : si 20 % d’entre elles n’apparaissent qu’une fois dans les données, il faut s’attendre à ce que le modèle de base (avant ses réglages) se trompe sur au moins 20 % de ces dates^[1].

Votre entreprise est le cas extrême. Vos tarifs, votre stock, vos conditions de vente et vos décisions de chantier ne figurent pas une seule fois dans ces données. Ils n’y figurent pas, sauf ce que vous avez publié sur votre site, et encore dans une version qui date. Sur ces sujets, un assistant sans accès à vos documents ne peut que deviner.

La notation récompense le pari. Les modèles sont évalués comme des élèves devant un QCM : une bonne réponse rapporte un point, une case vide ou un « je ne sais pas » n’en rapporte aucun. Dans ce système, deviner rapporte plus que s’abstenir^[1]. Les modèles apprennent donc à répondre.

Le frein peut lâcher. Chez Claude, Anthropic a observé un mécanisme qui, par défaut, pousse le modèle à dire qu’il manque d’informations. Quand Claude reconnaît un nom sans rien savoir d’autre, ce frein peut se lever à tort : le modèle produit alors une réponse plausible, mais fausse^[3].

Retenez ceci : le ton ne dit rien de la justesse. Une réponse inventée est aussi fluide et polie qu’une réponse juste.

Ce que cela coûte à une entreprise.

Les affaires les mieux documentées viennent des tribunaux, parce que tout y est écrit et daté. Elles concernent des avocats et une compagnie aérienne, mais la leçon vaut pour n’importe quelle entreprise qui écrit à ses clients.

New York, 2023. Deux avocats et leur cabinet ont déposé des décisions de justice qui n’existaient pas, avec de fausses citations, produites par ChatGPT, puis ont continué à les défendre quand le juge en a douté. Le 22 juin 2023, le tribunal fédéral leur a infligé une pénalité de 5 000 $, due solidairement, et leur a imposé d’écrire à chaque juge présenté à tort comme l’auteur d’une fausse décision^[4].

Londres, 2025. Des écritures citaient cinq décisions inexistantes. L’avocate et le centre juridique ont été condamnés à payer chacun 2 000 £ à la partie adverse, et l’affaire a été transmise à leurs autorités professionnelles. Le premier juge n’a pas pu établir qu’une IA avait servi^[5], et les deux juges de la High Court qui ont ensuite examiné l’affaire n’ont pas tranché non plus. Ils en ont tiré, le 6 juin 2025, un rappel général : les outils d’IA générative grand public ne savent pas mener une recherche juridique fiable et peuvent citer des sources qui n’existent pas^[6].

Colombie-Britannique, 2024. L’assistant du site d’Air Canada a indiqué à un client qu’il pourrait demander après coup un tarif réduit pour un deuil, ce que la compagnie refusait. Devant le tribunal, Air Canada a soutenu ne pas répondre de ce que disait cet assistant. Réponse du tribunal : l’entreprise est responsable de toutes les informations de son site, qu’elles viennent d’une page fixe ou d’un assistant. Elle a été condamnée à verser 812,02 $ au total, frais de procédure compris^[7]. La décision précise qu’Air Canada n’a rien dit de la technologie de son assistant : la leçon vaut pour tout outil qui parle au nom de l’entreprise.

Dans une PME, la même erreur prend une forme plus banale : un prix unitaire qui n’est pas celui du tarif, un délai promis sans regarder le stock, une clause du contrat citée de travers, une norme qui n’existe pas dans un mémoire technique. Le texte est propre, le client n’a aucune raison de douter, et c’est l’entreprise qui a signé.

Pour sentir le problème en une minute, faites le test « repérez ce que l’IA a inventé » : une réponse client fluide, deux phrases fausses, et leur vérification sur les documents de l’entreprise.

Ce qui ne suffit pas.

Écrire « ne te trompe pas » ou « sois sûr de toi » dans la demande ne donne au modèle aucune information qu’il n’avait pas. Changer d’outil ou prendre une offre payante peut améliorer les réponses, sans faire disparaître le problème^[1]. Anthropic le dit de ses propres techniques : elles réduisent nettement les hallucinations sans les éliminer, et il faut toujours valider les informations critiques^[8].

Ce qui marche tient en trois gestes, dans cet ordre : donner à l’IA de quoi répondre, l’obliger à montrer d’où vient chaque affirmation, et faire relire ce qui part. Aucun des trois ne suffit seul.

Donner le contexte : le second cerveau.

Une IA invente surtout quand elle n’a rien sous les yeux. La première protection consiste donc à lui donner ce que l’entreprise sait : c’est ce que nous appelons le second cerveau. Des documents rangés, à jour, lisibles par une machine comme par une recrue, et branchés à l’assistant.

Ensuite, consigne explicite : répondre uniquement à partir des documents fournis, pas de ses connaissances générales. C’est une technique que la documentation de Claude recommande telle quelle ; pour un long document, elle conseille aussi de faire extraire d’abord les passages exacts utiles, puis de travailler à partir d’eux^[8].

Ce rangement est aussi ce qui distingue un abonnement d’un outil vraiment utile, comme nous l’expliquons dans ce que ChatGPT ne sait pas de votre entreprise. Avant de brancher des documents sensibles, posez les règles décrites dans notre article sur l’IA et les données confidentielles.

Exiger des renvois.

Une réponse sans source ne se vérifie pas ; une réponse sourcée se vérifie vite. Deux consignes changent beaucoup de choses. D’abord, autoriser l’IA à dire qu’elle ne sait pas : la documentation de Claude présente cette permission comme une technique de base contre les hallucinations^[8]. Ensuite, exiger qu’elle cite, pour chaque affirmation, le passage du document qui l’appuie, et qu’elle retire l’affirmation si elle ne trouve pas de passage^[8].

Réponds uniquement à partir des documents joints.
Pour chaque prix, délai, quantité ou engagement,
indique entre crochets le document et le passage exact.
Si un document ne permet pas de répondre, écris :
« Information absente, à vérifier par l’équipe. »
Ne complète jamais une information manquante.

Le renvoi a un second avantage : il déplace la relecture. Au lieu de se demander « est-ce que ça a l’air juste ? », la personne qui relit vérifie que le passage cité existe et dit bien ce que la phrase affirme. C’est plus rapide et plus sûr.

Relire : une règle nommée, et un agent vérificateur.

La CNIL recommande d’encadrer les usages par une liste d’utilisations autorisées et interdites, par exemple ne pas confier de prise de décision à l’IA, et de former les utilisateurs aux risques^[2]. Dans une petite entreprise, cela tient en une règle écrite : qui relit, quoi, et ce qui ne part jamais sans relecture.

• Les chiffres : prix, quantités, dates, délais. Chacun doit renvoyer à un document.
• Les noms propres et les références : clients, normes, articles de loi, décisions.
• Les engagements : tout ce qui promet quelque chose au client.
• Le destinataire : une réponse interne peut attendre, une réponse client passe par une personne nommée.

Pour les volumes plus importants, un deuxième agent peut faire une première passe. Son seul rôle : reprendre chaque affirmation, chercher le passage qui l’appuie et signaler ce qui n’en a pas. Il ne remplace pas la personne qui signe, il lui prépare le travail. Une autre technique documentée consiste à poser plusieurs fois la même question et à comparer : des réponses qui divergent signalent une hallucination probable^[8]. Nous détaillons la mise en place de tels agents dans notre guide des agents IA en entreprise.

La méthode fiable part de là : ranger le savoir de l’entreprise, brancher les assistants, puis écrire la règle de relecture et nommer la personne qui l’applique.