Une intelligence artificielle peut rédiger une réponse parfaitement structurée, employer un vocabulaire précis et présenter des explications qui paraissent irréfutables.
Pourtant, cette réponse peut être fausse.
L’IA peut inventer une date, attribuer une citation à la mauvaise personne, décrire un livre qui n’existe pas ou fournir l’adresse d’une page web introuvable. Le plus déroutant est qu’elle présente parfois ces informations avec la même assurance que lorsqu’elle fournit une réponse exacte.
Ce phénomène porte un nom désormais largement employé : l’hallucination de l’intelligence artificielle.
Mais pourquoi une technologie capable d’analyser des millions de textes produit-elle des informations imaginaires ? Et surtout, comment profiter de ses possibilités sans se laisser tromper ?
Avant de poursuivre, vous pouvez relire Intelligence artificielle : de quoi parle-t-on ? pour retrouver les principes généraux de fonctionnement d’une IA.
Une réponse convaincante peut-elle être entièrement fausse ?
Imaginons une situation volontairement fictive.
Une étudiante prépare un mémoire sur les effets de l’intelligence artificielle dans l’enseignement. Elle demande à un assistant numérique de lui indiquer une étude scientifique démontrant que les élèves utilisant régulièrement une IA améliorent leurs résultats de 25 %.
L’IA fournit immédiatement :
le titre de l’étude ;
le nom de trois chercheurs ;
une université prestigieuse ;
une date de publication ;
un résumé détaillé ;
un lien supposé conduire à l’article.
Tout paraît crédible. Le vocabulaire est universitaire et les conclusions correspondent exactement à la question posée.
Mais lorsqu’elle cherche l’étude, l’étudiante découvre que le lien ne fonctionne pas. Les chercheurs existent peut-être, mais ils n’ont jamais rédigé ce document. Le titre et les résultats ont été inventés.
L’IA n’a pas retrouvé une étude. Elle a produit une réponse ayant l’apparence statistique d’une référence scientifique.
> Une information vraisemblable n’est pas nécessairement une information véritable.
Qu’est-ce qu’une hallucination de l’IA ?
On parle d’hallucination lorsqu’une intelligence artificielle génère une information inexacte, trompeuse ou entièrement inventée tout en la présentant comme plausible.
Le NIST, l’institut américain chargé notamment des normes technologiques, emploie également le mot confabulation. Ce terme évite de donner l’impression que la machine perçoit réellement quelque chose. Il décrit une production erronée formulée avec assurance.
Une hallucination peut prendre différentes formes :
une date incorrecte ;
une personne inexistante ;
une citation inventée ;
une source qui ne mène à aucun document ;
une confusion entre deux événements ;
une statistique fabriquée ;
un résumé qui déforme le document d’origine ;
une réponse périmée présentée comme actuelle ;
un raisonnement logique fondé sur une mauvaise donnée.
Certaines erreurs sont faciles à repérer. D’autres sont beaucoup plus discrètes, car elles mélangent des informations exactes avec quelques détails faux.
L’IA ment-elle volontairement ?
Mentir suppose de connaître la vérité et de choisir délibérément de la cacher.
Une IA générative ne possède pas cette intention. Elle ne cherche pas consciemment à tromper son utilisateur. Elle produit une réponse à partir de modèles statistiques appris durant son entraînement.
Lorsqu’elle invente une information, elle ne se dit pas : « Je ne connais pas la réponse, je vais donc mentir. »
Elle poursuit simplement sa tâche : générer la suite de mots qui semble la plus adaptée à la demande.
L’erreur ne provient donc pas d’une volonté de tromper, mais d’une différence fondamentale entre produire une phrase crédible et établir un fait vérifié.
> L’IA ne ment pas comme un humain. Elle peut néanmoins produire une fausse information ayant toutes les apparences de la vérité.
Cette distinction explique le fonctionnement de la machine, mais elle ne réduit pas les conséquences possibles de l’erreur.
Comment un modèle de langage construit-il sa réponse ?
Un grand modèle de langage apprend en analysant d’immenses quantités de textes. Il repère les relations entre les mots, les expressions, les sujets et les structures de phrases.
Lorsqu’on lui pose une question, il génère progressivement sa réponse en sélectionnant les éléments les plus probables selon :
la demande reçue ;
le contexte de la conversation ;
les régularités apprises pendant son entraînement ;
les instructions qui encadrent son fonctionnement.
Il ne consulte pas nécessairement une encyclopédie intérieure contenant une fiche exacte pour chaque sujet. Il construit une réponse nouvelle à partir de ce qu’il a appris.
Cette capacité lui permet de rédiger, de résumer, d’expliquer, de traduire ou de proposer des idées. Mais elle peut aussi l’amener à compléter les informations manquantes par des éléments plausibles.
Prenons une phrase simple :
> Victor Hugo est né en…
Le modèle a rencontré suffisamment de textes pour associer avec une forte probabilité Victor Hugo à l’année 1802.
Mais lorsqu’une question porte sur une personne peu connue, un événement local ou un document rarement mentionné, les associations deviennent moins fiables. Le modèle peut alors combiner plusieurs éléments et produire une réponse qui ressemble à une vérité sans en être une.
Pourquoi l’IA préfère-t-elle parfois répondre ?
Les assistants conversationnels sont conçus pour être utiles. Lorsqu’un utilisateur pose une question, le système cherche généralement à fournir une réponse.
Cette tendance devient problématique lorsque la question contient une hypothèse incorrecte ou demande une information qui n’existe pas.
Si l’on demande :
> Quels sont les trois principaux résultats de l’étude publiée en 2024 par le professeur Martin sur ce sujet ?
La formulation suppose que cette étude existe. Si le modèle ne vérifie pas cette prémisse, il peut essayer de compléter la demande en produisant trois résultats cohérents.
Une meilleure réaction serait de répondre :
> Je ne trouve pas suffisamment d’éléments pour confirmer l’existence de cette étude.
Mais un modèle ne choisit pas toujours spontanément cette prudence.
La façon de poser la question joue donc un rôle important. Une demande très affirmative peut inciter l’IA à accepter une hypothèse erronée.
Les principales causes des hallucinations
Plusieurs facteurs peuvent favoriser l’apparition d’une réponse inventée.
Une information absente ou peu représentée
Le modèle peut disposer de très peu d’informations sur un sujet rare, récent, local ou très spécialisé.
Il tente alors de construire une réponse à partir de connaissances voisines.
Une question ambiguë
Un même nom peut désigner plusieurs personnes, plusieurs villes ou plusieurs œuvres. Sans précision, l’IA peut mélanger leurs caractéristiques.
Une hypothèse fausse dans la demande
Si l’utilisateur présente une information erronée comme un fait établi, le système peut poursuivre le raisonnement sans la remettre en cause.
Une demande de précision excessive
Exiger une date exacte, un pourcentage ou une citation alors que ces informations ne sont pas disponibles peut encourager la production d’un détail vraisemblable.
La combinaison de plusieurs informations
L’IA peut réunir des éléments authentiques mais provenant de sources différentes. Le résultat paraît cohérent, alors que l’association elle-même est incorrecte.
Des connaissances incomplètes ou anciennes
Un modèle n’a pas automatiquement accès aux événements les plus récents. Même lorsqu’il peut effectuer une recherche en ligne, il peut mal interpréter une page ou s’appuyer sur une source peu fiable.
Les hallucinations les plus fréquentes
Les sources inexistantes
L’IA peut inventer un titre d’article, un nom de revue, un auteur ou une adresse Internet.
Ces références semblent parfois très convaincantes, car elles respectent la forme habituelle d’une bibliographie.
La règle est simple : une référence n’est valable que si le document peut être retrouvé et consulté.
Les citations inventées
Une phrase peut correspondre aux idées générales d’un écrivain ou d’un scientifique sans avoir jamais été prononcée par cette personne.
Les citations sont particulièrement risquées, car une formulation élégante paraît immédiatement authentique.
Il faut rechercher la citation dans l’œuvre originale, un enregistrement ou une édition reconnue.
Les chiffres trop précis
Une réponse affirmant que « 73,4 % des utilisateurs » adoptent un comportement particulier paraît sérieuse.
Pourtant, un chiffre précis n’est pas une preuve. Il doit être accompagné d’une étude identifiable, d’une méthode et d’un contexte.
Les confusions entre plusieurs personnes
Deux personnes portant le même nom peuvent voir leurs biographies mélangées. Une profession, une œuvre ou une date peut être attribuée à la mauvaise personne.
Les résumés infidèles
Même lorsqu’un document existe, l’IA peut simplifier excessivement sa conclusion ou lui faire dire davantage que ce qu’il démontre réellement.
Le code informatique imaginaire
Une IA peut proposer une fonction inexistante, une mauvaise commande ou le nom inventé d’une bibliothèque logicielle.
Le code doit être testé dans un environnement contrôlé avant toute utilisation importante.
Pourquoi ces erreurs sont-elles si difficiles à repérer ?
Nous associons naturellement une présentation claire à une bonne maîtrise du sujet.
Lorsqu’une réponse utilise des titres, des listes, des exemples et un vocabulaire précis, notre cerveau lui accorde plus facilement sa confiance.
L’IA peut également adapter son ton à la question. Si l’utilisateur demande une analyse juridique, elle adopte un vocabulaire juridique. Pour une question médicale, elle utilise des expressions médicales.
La qualité de la forme peut alors masquer la fragilité du fond.
> L’assurance d’une réponse mesure la qualité de sa formulation, pas nécessairement la solidité de ses preuves.
Le danger augmente lorsque la réponse confirme ce que nous pensions déjà. Nous sommes naturellement moins enclins à vérifier une information qui correspond à nos convictions.
Une IA connectée à Internet est-elle toujours fiable ?
L’accès à Internet améliore considérablement la vérification, mais il ne garantit pas une réponse parfaite.
Le système peut :
choisir une source peu fiable ;
mal interpréter un article ;
confondre sa date de publication avec la date de l’événement ;
s’appuyer sur une page reprenant elle-même une information erronée ;
résumer trop rapidement un document complexe ;
citer une source qui ne soutient pas réellement l’affirmation.
Il faut donc distinguer trois opérations :
trouver une source ;
comprendre ce qu’elle affirme ;
vérifier qu’elle prouve réellement la réponse.
La présence d’un lien ne dispense pas de l’ouvrir.
Les domaines où la vérification est indispensable
Toutes les hallucinations n’ont pas les mêmes conséquences.
Une erreur dans une proposition de titre ou une histoire fictive est généralement sans gravité. Une erreur portant sur un traitement médical, une obligation légale ou un investissement peut être beaucoup plus dangereuse.
Une vigilance renforcée est nécessaire dans les domaines suivants :
la santé et les médicaments ;
le droit et les procédures administratives ;
les finances et les investissements ;
la sécurité informatique ;
l’actualité et la politique ;
l’histoire et les citations ;
les travaux universitaires ;
les décisions concernant une personne ;
les adresses, horaires et informations pratiques susceptibles de changer.
Dans ces situations, l’IA doit rester un outil de préparation ou d’orientation. La décision finale doit reposer sur des sources officielles ou sur un professionnel compétent.
Une méthode de vérification en cinq étapes
Il n’est pas nécessaire de devenir spécialiste pour contrôler une réponse. Quelques réflexes suffisent à réduire fortement les risques.
Étape 1 : isoler les affirmations importantes
Repérez les éléments qui peuvent être vérifiés :
noms ;
dates ;
chiffres ;
citations ;
textes de loi ;
études ;
liens ;
recommandations importantes.
Les formulations générales demandent moins de contrôle que les affirmations précises.
Étape 2 : demander les sources
Vous pouvez demander :
> Indique les sources exactes qui soutiennent chaque affirmation importante, avec leur titre, leur auteur, leur date et leur lien direct. Si une source ne peut pas être vérifiée, précise-le.
Cette demande améliore la transparence, mais les références obtenues doivent encore être contrôlées.
Étape 3 : ouvrir réellement les documents
Vérifiez que :
la page existe ;
l’auteur et le titre correspondent ;
la date est correcte ;
le passage cité apparaît réellement ;
la conclusion du document correspond à celle de l’IA.
Une source authentique peut être utilisée de manière trompeuse si elle ne soutient pas l’affirmation concernée.
Étape 4 : croiser les informations
Pour une information importante, consultez au moins deux sources fiables et indépendantes.
Privilégiez :
les organismes publics ;
les textes officiels ;
les publications scientifiques ;
les universités ;
les institutions reconnues ;
les documents originaux plutôt que leurs résumés.
Étape 5 : conserver une zone d’incertitude
Lorsqu’une information ne peut pas être confirmée, il vaut mieux écrire :
> Cette affirmation reste à vérifier.
Reconnaître une incertitude est plus sérieux que présenter une supposition comme une certitude.
Comment mieux formuler sa demande ?
Une bonne instruction peut réduire les risques, sans les supprimer totalement.
Vous pouvez demander à l’IA :
de distinguer les faits, les hypothèses et les opinions ;
d’indiquer clairement ce qu’elle ne sait pas ;
de ne fournir aucun chiffre sans source ;
de privilégier les documents officiels ;
de donner des liens directs ;
de préciser la date de consultation ;
de signaler les informations susceptibles d’avoir changé ;
de ne jamais inventer une référence manquante.
Par exemple :
> Réponds uniquement à partir de sources vérifiables. Distingue les faits établis de tes déductions. Fournis les liens directs et indique clairement lorsqu’une information ne peut pas être confirmée.
Cette formulation encourage une réponse plus prudente.
Mais aucun prompt ne constitue une garantie absolue. La vérification humaine reste nécessaire.
Trois niveaux de confiance pour utiliser l’IA
On peut classer les usages selon trois niveaux simples.
Zone verte : création et exploration
L’IA peut être utilisée librement pour :
chercher des idées ;
améliorer une formulation ;
construire un plan ;
imaginer un exemple ;
résumer un texte fourni par l’utilisateur ;
produire une histoire fictive.
Le risque factuel reste limité, à condition de ne pas transformer une invention en vérité.
Zone orange : informations vérifiables
La prudence s’impose pour :
préparer un article ;
expliquer un événement historique ;
comparer des produits ;
présenter une personnalité ;
résumer une étude ;
rédiger un contenu pédagogique.
L’IA fait gagner du temps, mais les faits et les sources doivent être contrôlés.
Zone rouge : décisions à conséquences importantes
Un contrôle professionnel devient indispensable pour :
modifier un traitement médical ;
engager une procédure juridique ;
réaliser un investissement ;
prendre une décision de sécurité ;
évaluer les droits d’une personne ;
publier une accusation ;
appliquer une information susceptible de mettre quelqu’un en danger.
Dans cette zone, l’IA ne doit jamais être la seule source de décision.
Peut-on supprimer définitivement les hallucinations ?
Les progrès sont rapides. Plusieurs techniques permettent déjà de réduire les erreurs :
connecter l’IA à des documents vérifiés ;
lui permettre de rechercher des sources ;
limiter ses réponses à une base documentaire précise ;
comparer ses affirmations avec les documents originaux ;
tester régulièrement sa fiabilité ;
faire intervenir un humain avant la publication ;
demander au système d’exprimer son incertitude.
La génération augmentée par récupération, souvent appelée RAG, consiste par exemple à fournir au modèle des documents sélectionnés au moment de la question. L’IA construit alors sa réponse à partir de ces contenus plutôt qu’à partir de ses seules connaissances générales.
Cette méthode améliore la fiabilité, mais elle ne supprime pas tous les risques. Le système peut encore mal comprendre un passage, négliger une nuance ou produire une conclusion trop large.
L’objectif réaliste n’est donc pas de considérer l’IA comme infaillible. Il consiste à construire des usages dans lesquels ses erreurs peuvent être détectées avant de produire des conséquences.
L’IA est-elle malgré tout un outil fiable ?
Oui, lorsqu’elle est utilisée pour les tâches qui correspondent à ses capacités et lorsque son résultat est contrôlé.
Elle excelle notamment pour :
organiser des informations ;
proposer plusieurs formulations ;
expliquer un concept de différentes manières ;
dégager les idées principales d’un texte ;
préparer une structure ;
repérer des questions à approfondir ;
accélérer une recherche dont les résultats seront ensuite vérifiés.
La bonne attitude n’est ni la confiance aveugle ni le rejet systématique.
Il faut considérer l’IA comme un assistant extrêmement rapide, cultivé et créatif, mais susceptible de se tromper.
> L’intelligence artificielle peut proposer. La preuve, la décision et la responsabilité restent humaines.
Les sept réflexes à retenir
Avant d’utiliser une réponse importante, demandez-vous :
L’information contient-elle une date, un chiffre ou une citation ?
La source indiquée existe-t-elle réellement ?
Ai-je ouvert le document cité ?
La source affirme-t-elle vraiment ce que l’IA lui attribue ?
L’information est-elle suffisamment récente ?
Une deuxième source indépendante la confirme-t-elle ?
Quelles seraient les conséquences si cette réponse était fausse ?
Plus les conséquences sont importantes, plus la vérification doit être rigoureuse.
En résumé
Les hallucinations ne sont pas des accidents totalement étrangers au fonctionnement de l’intelligence artificielle générative. Elles résultent de sa capacité à construire une réponse plausible même lorsque les informations disponibles sont incomplètes, ambiguës ou inexistantes.
Une phrase élégante n’est pas une preuve. Une citation précise n’est pas nécessairement authentique. Un lien ne garantit pas que la source soutienne réellement l’affirmation.
La meilleure protection reste l’esprit critique.
L’IA peut nous aider à comprendre, à créer et à explorer plus rapidement. Mais elle devient véritablement utile lorsque nous savons aussi lui demander ses sources, reconnaître ses incertitudes et contrôler ses conclusions.
L’avenir ne repose probablement pas sur des machines qui ne se trompent jamais. Il repose sur une collaboration dans laquelle les machines produisent et les humains vérifient, comprennent et décident.
Et vous ?
Avez-vous déjà reçu d’une intelligence artificielle une réponse qui paraissait parfaitement crédible avant de découvrir qu’elle était fausse ?
Depuis cette expérience, vérifiez-vous systématiquement les sources proposées ?
Partagez votre expérience en commentaire. Elle pourra aider d’autres utilisateurs à développer les bons réflexes face aux réponses générées par l’IA.
Sources et repères
https://www.cnil.fr/fr/les-questions-reponses-de-la-cnil-sur-lutilisation-dun-systeme-dia-generative
https://linc.cnil.fr/dossier-ia-generative-de-lentrainement-la-pratique-lia-generative-et-ses-usages
https://www.nist.gov/publications/artificial-intelligence-risk-management-framework-generative-artificial-intelligence
https://nvlpubs.nist.gov/nistpubs/ai/NIST.AI.600-1.pdf
https://www.unesco.org/en/articles/guidance-generative-ai-education-and-research
https://www.unesco.org/en/articles/ai-can-make-mistakes-why-media-literacy-matters-more-ever
https://oecd.ai/en/genai/issues/risks-and-unknowns