Pourquoi l'IA invente des réponses (et comment réduire les erreurs)

Un client m'a transféré une capture d'écran, agacé : son assistant IA venait de citer un article de loi qui n'existe pas, numéro à l'appui. Ce n'est pas un bug rare, c'est le comportement normal d'un modèle qu'on a mal encadré. Une IA ne cherche pas le vrai, elle produit du vraisemblable. Comprendre ça, c'est déjà régler la moitié du problème. Voici ce qu'est vraiment une hallucination, pourquoi elle arrive, et les trois leviers que j'utilise pour faire baisser les erreurs.

Ce qu'est vraiment une hallucination

Le mot est trompeur. Une hallucination, ce n'est pas l'IA qui déraille ou qui rêve. C'est une réponse fausse énoncée avec la même assurance qu'une réponse juste : le modèle ne signale rien, parce que de son point de vue rien n'a changé. Elle prend trois formes. Une information inventée de toutes pièces (un chiffre, une date, une citation). Une information réelle mais mal reliée (le bon règlement appliqué au mauvais cas). Et une réponse qui contredit vos propres documents alors qu'elle avait l'info sous les yeux. Le problème n'est pas qu'elle se trompe, c'est qu'elle se trompe sans le dire.

Pourquoi ça arrive

Un modèle de langage fait une seule chose : prédire le mot suivant le plus probable, encore et encore, à partir de milliards de textes lus. À aucun moment il ne consulte une base de faits ni ne vérifie ce qu'il avance. Il calcule ce qui sonne juste, pas ce qui est vrai. La plupart du temps, plausible et vrai se recouvrent, et c'est pour ça que ça marche si bien. Les hallucinations, ce sont les cas où les deux divergent. Il y a un facteur aggravant : beaucoup de modèles sont réglés pour répondre coûte que coûte. Face à une question dont il ignore la réponse, un modèle mal calibré préférera inventer plutôt que d'avouer qu'il ne sait pas.

Une IA ne cherche pas la vérité. Elle cherche la suite de mots la plus vraisemblable. Le plus souvent, c'est la même chose. Pas toujours.

Les situations qui déclenchent le plus d'erreurs

• Les questions hors de ses connaissances : votre tarif d'hier, une info interne, un événement récent. Le modèle ne l'a pas, alors il comble le vide.
• Les chiffres précis et les identifiants : montants, dates, numéros de référence, articles de loi. C'est là qu'il invente le plus volontiers.
• Les questions floues ou mal cadrées : moins la demande est claire, plus il improvise pour combler.
• Les sujets de niche, peu présents dans son entraînement : votre secteur, votre jargon métier, vos procédures maison.
• Les longues conversations : au fil de l'échange, il perd le fil du contexte initial et finit par se contredire.

Levier 1 : brancher l'IA sur vos sources

C'est de loin le levier le plus efficace. Au lieu de demander au modèle de répondre de mémoire, je lui fais d'abord retrouver les passages pertinents dans vos documents (contrats, procédures, fiches produit), puis je lui demande de répondre uniquement à partir de ces passages, avec la source. C'est le principe du RAG, la génération augmentée par vos données : le modèle ne récite plus, il lit et cite. Résultat, une réponse sourcée en 2 secondes et 70% de recherche en moins pour vos équipes, à condition que les documents soient propres. Si vous démarrez, par où commencer avec le RAG en entreprise évite les erreurs classiques.

Un avertissement quand même : le RAG ne répare pas des documents faux ou périmés. Si votre base contient trois versions contradictoires d'une même procédure, l'IA citera fidèlement la mauvaise. La qualité de la réponse plafonne à la qualité de vos sources, d'où l'étape préalable que je ne saute jamais : vérifier que vos données sont prêtes pour l'IA.

Levier 2 : les évaluations qui détectent la dérive

Un système qui marche le jour de la démo peut dériver en silence trois semaines plus tard, après une mise à jour du modèle ou un changement dans vos données. Sans mesure, vous ne le voyez pas passer. Une évaluation, c'est un jeu de questions dont vous connaissez déjà la bonne réponse, qu'on repasse régulièrement. Je constitue trente à cinquante cas réels, avec les réponses attendues et les pièges connus, et à chaque changement je mesure le taux de réponses correctes, le taux d'inventions et le taux de « je ne sais pas » à bon escient. Ça transforme une impression (« ça a l'air de marcher ») en un chiffre suivi dans le temps. La méthode complète est ici : mesurer un agent IA en production.

Levier 3 : garde-fous et revue humaine

• Un humain dans la boucle sur le sensible : envoyer un email client, valider un remboursement, modifier un dossier. L'IA propose, un humain tranche.
• Des garde-fous automatiques : sur certains sujets (juridique, médical, engagement contractuel), l'IA n'a pas le droit de répondre et passe la main.
• Le droit de dire « je ne sais pas » : mieux vaut un système qui escalade quand il doute qu'un système qui invente pour sauver la face.
• Un périmètre étroit assumé : un assistant qui fait bien trois choses vaut mieux qu'un qui prétend tout faire et se trompe une fois sur cinq.

Bien réglé, l'ensemble donne un système autonome sur le simple et prudent sur le reste : un support qui tient 24h/24 et escalade 50% de tickets en moins vers vos équipes, parce qu'il traite seul ce qu'il maîtrise et transmet le reste. C'est le cœur de ce que j'appelle la fiabilité d'un système IA : pas l'absence d'erreur, mais des erreurs rares, rattrapées, et sans conséquence grave.

Zéro hallucination : mythe ou objectif

Soyons nets : le zéro hallucination n'existe pas, et je me méfie de quiconque le promet. Tant qu'un modèle génère du texte, il peut générer du texte faux. Vendre le contraire, c'est vendre du vent. La bonne question n'est pas « comment supprimer toute erreur » mais « comment ramener le taux d'erreur sous un seuil acceptable pour cet usage, et repérer celles qui restent ».

Fixer un seuil de fiabilité acceptable

Je pars toujours de l'enjeu, pas de la technique, avec deux questions. Que coûte une erreur qui passe ? Et à quelle vitesse la rattrape-t-on ? Une réponse fausse sur un horaire d'ouverture se corrige en un message ; une réponse fausse sur une clause contractuelle peut coûter cher et ne se voir que des mois plus tard. Le seuil se fixe donc usage par usage : autonomie complète quand l'enjeu est faible et l'erreur facile à rattraper, revue humaine systématique quand l'enjeu est fort et l'erreur difficile à corriger, et entre les deux, autonomie sur les cas simples avec escalade dès que le système sort de sa zone de confiance. Une fois ce seuil posé, tout devient mesurable : on sait ce qu'on vise, quand on l'atteint, et quand on dérive. C'est exactement le travail que je mène en audit : repérer où l'IA peut se tromper chez vous, ce que ça coûterait, et le niveau de contrôle qui va avec chaque usage. Pas pour viser un zéro impossible, pour viser un risque connu et tenu.