Sécurité et gouvernance 4 min de lecture

Hallucination : définition

Une hallucination est une réponse produite par un modèle d'IA qui paraît plausible mais qui est fausse : un chiffre inventé, une référence qui n'existe pas, une citation mal attribuée. Le modèle la présente avec la même assurance qu'une réponse exacte.

Aussi appelé : hallucination IA, hallucination d'un modèle

Pourquoi un modèle d'IA hallucine

Un modèle de langage produit du texte en prédisant la suite la plus probable. Il n'a pas de mémoire fiable des faits : il a appris des régularités dans d'immenses volumes de textes. Quand l'information demandée est rare, ambiguë ou absente, il produit quand même une réponse qui a l'air juste.

OpenAI définit les hallucinations comme des affirmations plausibles mais fausses produites par les modèles de langage, et explique qu'elles sont en partie encouragées par des méthodes d'entraînement et d'évaluation qui récompensent le fait de deviner plutôt que de reconnaître une incertitude.

Autrement dit, un modèle préfère souvent répondre quelque chose plutôt que rien, sauf si on lui donne la possibilité et la consigne de dire qu'il ne sait pas.

Les formes les plus courantes

Les chiffres inventés : un pourcentage, une date, un montant que rien ne justifie.

Les sources fictives : un article, une étude ou un texte de loi cités avec précision, mais qui n'existent pas.

Les confusions : deux produits, deux personnes ou deux règles mélangés en une seule réponse.

Les extrapolations : une règle générale appliquée à un cas où elle ne vaut pas.

En pratique dans une PME

Une entreprise de construction utilise un assistant IA pour préparer des réponses à des questions techniques sur des matériaux. Interrogé sur une norme précise, l'assistant cite un numéro de norme et une valeur de résistance. Le numéro existe, mais la valeur est fausse.

Après cet incident, l'entreprise change de méthode. L'assistant ne répond plus de mémoire : il reçoit les fiches techniques des fabricants, doit citer le passage d'où vient chaque valeur, et a pour consigne de dire qu'il ne trouve pas l'information quand elle n'est pas dans les documents. Un technicien relit toute réponse qui part chez un client.

Ce qui réduit les hallucinations

Fournir les sources. Un modèle qui répond à partir de documents que vous lui donnez se trompe beaucoup moins qu'un modèle qui répond de mémoire. C'est le principe du RAG, qui fait d'abord chercher les passages utiles dans vos documents, puis rédiger la réponse à partir d'eux.

Exiger des citations. Demander au modèle de citer le passage exact sur lequel il s'appuie permet de vérifier chaque affirmation. Anthropic recommande, pour réduire les hallucinations, d'autoriser l'incertitude, d'ancrer les réponses dans des citations directes et de vérifier les affirmations.

Autoriser le « je ne sais pas ». Une consigne qui permet explicitement au modèle de dire qu'il manque une information diminue les réponses inventées.

Garder une vérification humaine. Pour toute réponse qui engage l'entreprise, une relecture reste indispensable.

Ce que ça change pour votre entreprise

Les hallucinations ne sont pas un défaut passager qui disparaîtra à la prochaine version. Elles diminuent avec les progrès des modèles et les bonnes pratiques, mais un modèle de langage peut toujours produire une réponse fausse.

La question n'est donc pas « ce modèle hallucine-t-il ? », mais « que se passe-t-il si cette réponse est fausse ? ». Pour un brouillon d'e-mail interne, le risque est faible. Pour un devis, une réponse technique ou une information juridique, il faut des sources et une relecture.

C'est aussi une question de cadre. Des règles claires sur les usages autorisés, les vérifications obligatoires et les responsabilités limitent les conséquences des erreurs : c'est l'objet de la gouvernance de l'IA.

À ne pas confondre avec

Une erreur de calcul ou de logique n'est pas forcément une hallucination : le modèle peut se tromper dans un raisonnement sans rien inventer.

Une information dépassée n'est pas une hallucination non plus. Un modèle ne connaît pas les événements postérieurs à la date de ses données d'entraînement : il peut donner une information exacte à une date, mais plus à jour.

Questions fréquentes

Peut-on supprimer complètement les hallucinations ?

Non. On peut les réduire fortement en fournissant les sources au modèle, en exigeant des citations, en autorisant le « je ne sais pas » et en gardant une relecture humaine. Mais un modèle de langage peut toujours produire une réponse fausse, d'où l'importance de vérifier ce qui engage l'entreprise.

Comment repérer une hallucination ?

Méfiez-vous des chiffres précis sans source, des références très détaillées et des réponses parfaitement assurées sur un sujet pointu. Demandez au modèle d'où vient l'information et vérifiez-la dans le document cité. Si le modèle ne peut pas citer de source, considérez l'information comme non vérifiée.

Le RAG élimine-t-il les hallucinations ?

Il les réduit beaucoup, parce que le modèle répond à partir de vos documents au lieu de sa mémoire. Il ne les élimine pas : le modèle peut encore mal lire un passage ou mélanger deux documents. Les citations permettent de vérifier chaque réponse rapidement.

Un projet {IA} ?

Contactez-nous via notre formulaire de contact, nous vous recontactons dans les 24 h.

Réserver un appel