Elle répond immédiatement. Elle comprend la question, adopte un ton poli et organise ses explications avec une remarquable clarté.
Lorsque nous lui signalons une erreur, elle s’excuse. Lorsque nous exprimons une inquiétude, elle formule une réponse rassurante. Lorsque nous hésitons, elle nous propose une solution.
Très rapidement, une impression s’installe : nous ne sommes plus seulement face à un logiciel, mais face à un interlocuteur qui paraît compétent, attentif et parfois même compréhensif.
Pourtant, l’intelligence artificielle n’éprouve ni patience, ni bienveillance, ni empathie. Elle produit des réponses en analysant notre demande et en calculant la formulation la plus appropriée.
Pourquoi sommes-nous alors si facilement tentés de lui faire confiance ?
Après avoir découvert pourquoi une IA peut inventer des réponses, il faut désormais examiner l’autre partie de la relation : notre propre comportement face à la machine.
Une conversation peut-elle créer de la confiance ?
Pendant longtemps, l’informatique nous a demandé d’apprendre son langage.
Il fallait connaître une commande, choisir une fonction dans un menu ou remplir précisément un formulaire. La machine exécutait une instruction, puis affichait un résultat souvent impersonnel.
L’IA conversationnelle renverse cette relation. C’est désormais la machine qui s’adapte à notre manière de parler.
Nous pouvons :
poser une question avec nos propres mots ;
reformuler une demande ;
exprimer une hésitation ;
demander une explication plus simple ;
poursuivre une conversation ;
faire référence à un échange précédent ;
obtenir une réponse adaptée à notre niveau.
Cette fluidité modifie profondément notre perception.
Un outil difficile à utiliser reste clairement un outil. Un système qui nous répond dans notre langue et s’adapte à nos réactions prend progressivement la place d’un interlocuteur.
> La conversation ne prouve pas que la machine nous comprend. Elle produit néanmoins les signes extérieurs de la compréhension.
C’est dans cet écart que naît une grande partie de notre confiance.
Le langage donne une apparence d’intelligence
Nous évaluons habituellement l’intelligence d’une personne à travers plusieurs indices : la précision de ses mots, la cohérence de son raisonnement, sa capacité à expliquer et son adaptation à la situation.
Une IA générative maîtrise précisément ces signes.
Elle peut rédiger une réponse structurée, introduire des nuances, employer un vocabulaire spécialisé ou vulgariser une notion complexe. Même lorsqu’elle se trompe, elle conserve souvent une expression fluide.
Notre cerveau associe alors naturellement la qualité de la présentation à la qualité du raisonnement.
Une réponse hésitante nous paraît fragile. Une réponse claire et bien organisée nous paraît maîtrisée.
Mais cette association peut nous tromper.
Une intelligence artificielle peut produire :
une excellente formulation fondée sur une information exacte ;
une excellente formulation fondée sur une information partiellement vraie ;
une excellente formulation fondée sur une information entièrement inventée.
La forme reste convaincante dans les trois situations.
> L’éloquence d’une réponse démontre une maîtrise du langage, pas nécessairement une maîtrise de la vérité.
Le biais d’automatisation
Les chercheurs utilisent l’expression biais d’automatisation pour décrire notre tendance à accorder une confiance excessive aux résultats produits par un système automatisé.
Lorsqu’un ordinateur fournit un calcul, un diagnostic ou une recommandation, nous pouvons lui attribuer une objectivité supérieure à celle d’un être humain.
La machine paraît :
insensible à la fatigue ;
dépourvue d’émotions ;
capable de traiter davantage d’informations ;
plus régulière dans ses décisions ;
moins influencée par les préférences personnelles.
Ces qualités peuvent être réelles dans certaines tâches. Un logiciel calcule généralement plus rapidement et plus précisément qu’un humain.
Mais nous risquons d’étendre cette confiance à des domaines dans lesquels l’outil reste incertain.
Une personne peut ainsi abandonner une réponse correcte après avoir reçu une recommandation erronée de la machine. Elle peut également ne pas remarquer un problème parce que le système ne l’a pas signalé.
Le biais d’automatisation ne signifie pas que nous faisons toujours confiance aux machines. Certaines personnes éprouvent au contraire une méfiance systématique. Le véritable enjeu consiste à ajuster notre confiance au niveau réel de fiabilité de l’outil.
Ni confiance aveugle, ni rejet automatique.
L’illusion de l’objectivité
Un résultat chiffré ou calculé paraît souvent plus neutre qu’une opinion humaine.
Si une personne nous dit qu’un candidat est peu adapté à un emploi, nous pouvons nous interroger sur ses préjugés. Si un logiciel attribue au même candidat un score de 42 %, la décision semble plus scientifique.
Pourtant, le score dépend :
des données utilisées ;
des critères retenus ;
de la manière dont la réussite a été définie ;
des choix effectués par les concepteurs ;
du contexte dans lequel le système est utilisé.
Le chiffre ne supprime pas la subjectivité. Il peut simplement la rendre moins visible.
Comme nous l’avons vu dans l’article consacré aux biais de l’IA, un algorithme peut reproduire les déséquilibres présents dans ses données tout en donnant à son résultat une apparence de neutralité mathématique.
La confiance devient dangereuse lorsque nous cessons de poser des questions parce qu’un résultat est présenté sous la forme d’un score, d’un classement ou d’une recommandation automatique.
L’anthropomorphisme : prêter une personnalité à la machine
L’anthropomorphisme consiste à attribuer des caractéristiques humaines à ce qui ne l’est pas.
Nous donnons parfois un nom à notre voiture, nous reprochons à un ordinateur d’être capricieux ou nous remercions spontanément un assistant vocal.
Les IA conversationnelles renforcent cette tendance parce qu’elles utilisent les codes du dialogue humain.
Elles peuvent écrire :
« Je comprends votre inquiétude » ;
« Je suis désolé pour cette erreur » ;
« Je vous conseille de… » ;
« Nous pouvons examiner ce problème ensemble ».
Ces formulations facilitent la conversation. Elles ne prouvent cependant pas l’existence d’une émotion ou d’une conscience.
Lorsque l’IA écrit qu’elle comprend, cela signifie qu’elle a identifié une formulation adaptée au contexte. Elle ne ressent pas intérieurement la compréhension qu’elle exprime.
La différence est essentielle :
l’IA peut reconnaître les mots associés à la tristesse sans éprouver de tristesse ;
elle peut produire une réponse empathique sans ressentir d’empathie ;
elle peut décrire l’amitié sans avoir d’amis ;
elle peut parler de la peur sans connaître la peur.
> Une IA peut reproduire le langage d’une émotion sans vivre l’expérience de cette émotion.
Pourquoi la politesse nous influence-t-elle ?
Une réponse polie crée un climat favorable.
Lorsqu’un interlocuteur nous écoute, reformule notre question et ne se montre jamais impatient, nous sommes plus disposés à poursuivre l’échange.
L’intelligence artificielle peut offrir une disponibilité difficile à retrouver dans les relations ordinaires :
elle répond à toute heure ;
elle ne paraît jamais pressée ;
elle accepte les répétitions ;
elle ne se moque pas d’une question ;
elle peut reformuler autant de fois que nécessaire ;
elle ne manifeste ni agacement ni lassitude.
Cette disponibilité constitue l’une de ses grandes qualités pédagogiques. Elle peut aider une personne à poser une question qu’elle n’oserait pas adresser à quelqu’un d’autre.
Mais elle crée aussi une relation particulièrement confortable. Nous pouvons alors confondre le confort de l’échange avec la fiabilité de la réponse.
Une personne agréable ne détient pas automatiquement la vérité. Il en va de même pour une machine agréable à utiliser.
Le biais de confirmation
Nous accordons plus facilement notre confiance aux informations qui correspondent à ce que nous pensions déjà.
C’est le biais de confirmation.
Si nous sommes convaincus qu’un aliment possède des vertus exceptionnelles et que l’IA nous donne raison, nous éprouvons moins le besoin de vérifier ses arguments.
Si elle contredit notre opinion, nous serons probablement plus critiques.
La manière de formuler une demande peut accentuer ce phénomène.
Comparons deux questions :
> Pourquoi cette décision est-elle mauvaise ?
et :
> Quels sont les arguments favorables et défavorables à cette décision, et quelles informations permettraient de les départager ?
La première demande oriente déjà la réponse. La seconde oblige à examiner plusieurs hypothèses.
L’IA peut devenir un miroir intellectuel : elle développe l’idée contenue dans notre question, lui donne une structure et lui fournit des arguments.
Nous risquons alors de prendre la qualité de son développement pour une confirmation indépendante.
> Une réponse qui nous donne raison n’est pas nécessairement une preuve que nous avions raison.
La complaisance conversationnelle
Pour rester utile et coopérative, une IA peut avoir tendance à accompagner le raisonnement de son utilisateur.
Si nous lui présentons une interprétation comme certaine, elle peut la reprendre au lieu de la remettre suffisamment en question. Si nous insistons, elle peut reformuler sa réponse dans le sens demandé.
Cette complaisance ne résulte pas d’un désir de nous faire plaisir. Elle vient du fonctionnement conversationnel du système et des objectifs qui lui ont été donnés.
Le risque apparaît lorsque nous utilisons l’IA pour confirmer une décision déjà prise.
Nous ne cherchons plus une analyse. Nous cherchons une approbation.
Pour limiter ce phénomène, il est utile de demander explicitement :
Quels éléments pourraient contredire mon raisonnement ?
Quelle serait l’interprétation opposée ?
Quelles hypothèses ai-je oubliées ?
Dans quelles circonstances cette conclusion serait-elle fausse ?
Quels faits devrais-je vérifier avant de décider ?
Une bonne collaboration avec l’IA ne consiste pas seulement à lui demander de nous aider. Elle consiste aussi à lui demander de nous résister intellectuellement.
Quand la mémoire de la conversation crée une proximité
Au cours d’un échange, l’IA peut reprendre nos préférences, notre vocabulaire ou les informations déjà communiquées.
Cette continuité donne le sentiment d’être reconnu.
Nous avons l’impression que notre interlocuteur numérique connaît notre projet, comprend nos attentes et se souvient de nos difficultés.
Cette personnalisation peut être très utile. Elle évite de répéter constamment le même contexte et permet d’obtenir des réponses mieux adaptées.
Mais elle peut également renforcer l’illusion d’une relation personnelle.
La machine ne nous connaît pas comme un proche nous connaît. Elle traite les informations disponibles dans la conversation ou dans les mécanismes de personnalisation autorisés.
Cette distinction doit également nous rappeler une règle de prudence : une conversation fluide ne doit pas nous conduire à transmettre des données que nous ne confierions pas à un service numérique ordinaire.
Avant de communiquer une information personnelle, demandons-nous :
cette donnée est-elle nécessaire ?
contient-elle un secret, un mot de passe ou une information bancaire ?
concerne-t-elle la santé ou la vie privée d’une autre personne ?
serais-je à l’aise si cette information était enregistrée ?
ai-je vérifié les règles de confidentialité du service ?
Peut-on s’attacher à une intelligence artificielle ?
Une personne peut éprouver une émotion réelle dans une relation avec une entité qui, elle, ne ressent rien.
L’émotion humaine n’est pas nécessairement artificielle parce que son objet est une machine.
Une IA peut apporter un sentiment de présence, aider à mettre des pensées en mots ou rompre momentanément une impression de solitude. Elle peut aussi offrir un espace dans lequel l’utilisateur se sent moins jugé.
Il serait injuste de ridiculiser cette expérience.
Cependant, la relation reste asymétrique. L’utilisateur ressent, espère et s’attache. Le système génère des réponses correspondant au contexte, sans vivre la relation.
Des difficultés peuvent apparaître si l’IA :
remplace progressivement toutes les conversations humaines ;
devient la principale source de réconfort ;
influence des décisions personnelles importantes ;
encourage une dépendance ;
donne l’impression d’une réciprocité émotionnelle qui n’existe pas.
Le NIST classe d’ailleurs l’implication émotionnelle parmi les risques possibles de la relation entre l’humain et l’IA générative.
Le problème n’est pas l’émotion ressentie. Il réside dans la confusion entre une émotion humaine authentique et une réciprocité artificielle.
La confiance peut-elle réduire nos compétences ?
Lorsque l’IA nous fournit systématiquement une réponse prête à l’emploi, nous pouvons être tentés de ne plus effectuer nous-mêmes certaines opérations.
Pourquoi chercher une formulation si la machine la propose immédiatement ? Pourquoi mémoriser une information si elle reste accessible ? Pourquoi examiner plusieurs hypothèses si l’outil résume déjà la situation ?
Cette délégation n’est pas toujours négative. Nous avons depuis longtemps confié le calcul à la calculatrice et l’orientation au GPS.
La question est de savoir ce que nous déléguons.
Un outil peut nous libérer d’une tâche répétitive afin de consacrer davantage de temps à la réflexion. Il peut aussi nous dispenser progressivement de réfléchir.
La différence dépend de notre usage.
Nous conservons nos compétences lorsque nous :
examinons la proposition ;
la corrigeons ;
demandons plusieurs variantes ;
comparons les arguments ;
reformulons avec nos propres mots ;
vérifions les faits ;
prenons nous-mêmes la décision finale.
Nous les fragilisons lorsque nous copions une réponse sans la comprendre.
Les signes d’une confiance devenue excessive
Quelques comportements doivent nous alerter :
accepter une réponse sans consulter la source ;
considérer l’IA comme plus compétente dans tous les domaines ;
lui demander de prendre une décision personnelle à notre place ;
copier systématiquement ses textes sans les relire ;
abandonner notre jugement dès qu’elle nous contredit ;
lui communiquer des informations très personnelles sans nécessité ;
rechercher principalement son approbation ;
préférer systématiquement la conversation artificielle aux relations humaines ;
éprouver une forte inquiétude à l’idée de ne plus pouvoir utiliser le service.
Un seul de ces signes ne démontre pas une dépendance. Leur accumulation invite cependant à réexaminer la place donnée à l’outil.
Comment construire une confiance raisonnable ?
La bonne confiance n’est pas absolue. Elle est calibrée.
Nous pouvons utiliser différents niveaux selon la tâche.
Pour créer ou explorer
Une confiance assez large est possible pour :
chercher des idées ;
préparer un plan ;
améliorer une phrase ;
imaginer des variantes ;
organiser des notes.
L’utilisateur reste libre de retenir ou d’écarter la proposition.
Pour apprendre ou s’informer
La confiance doit être accompagnée d’une vérification :
demander les sources ;
consulter les documents ;
comparer plusieurs explications ;
contrôler les dates et les chiffres ;
distinguer les faits des interprétations.
Pour décider
La prudence doit devenir maximale lorsque la réponse concerne :
la santé ;
le droit ;
les finances ;
la sécurité ;
l’emploi ;
l’évaluation d’une personne ;
une décision difficilement réversible.
Dans ces domaines, l’IA peut préparer les questions à poser, mais elle ne doit pas remplacer la source officielle ou le professionnel compétent.
La méthode des quatre distances
Avant d’accepter une réponse importante, nous pouvons appliquer quatre distances.
1. La distance émotionnelle
Cette réponse me paraît-elle fiable parce qu’elle est exacte, ou parce qu’elle est rassurante et bienveillante ?
2. La distance intellectuelle
Quels arguments pourraient contredire cette conclusion ?
3. La distance documentaire
Quelles sources indépendantes permettent de vérifier les faits ?
4. La distance décisionnelle
Qui assumera les conséquences si cette recommandation est appliquée ?
Ces quatre questions replacent l’IA dans son rôle : celui d’un outil puissant, mais non d’une autorité morale.
Sept réflexes pour garder son autonomie
Pour collaborer avec une IA sans lui abandonner notre jugement :
demandez-lui de distinguer les faits de ses interprétations ;
exigez des sources vérifiables pour les affirmations importantes ;
sollicitez une analyse contraire à la première réponse ;
ne communiquez pas inutilement d’informations confidentielles ;
reformulez la conclusion avec avec vos propres mots ;
conservez des activités réalisées sans assistance ;
* assumez personnellement la décision finale.
Le meilleur utilisateur n’est pas celui qui obéit parfaitement à l’IA. C’est celui qui sait quand l’écouter, quand la questionner et quand s’en passer.
Vers une nouvelle relation entre l’humain et la machine
L’intelligence artificielle va probablement devenir plus naturelle dans sa façon de communiquer.
Les voix seront plus expressives. Les réponses tiendront davantage compte du contexte. Les assistants pourront conserver une continuité plus longue et intervenir dans davantage d’activités quotidiennes.
La frontière entre outil et interlocuteur semblera donc de plus en plus fine.
Cette évolution rendra l’IA plus accessible, mais elle augmentera aussi notre responsabilité.
Les concepteurs devront éviter de faire croire qu’un système éprouve des émotions qu’il ne possède pas. Les utilisateurs devront apprendre à reconnaître les mécanismes qui influencent leur confiance.
L’éducation à l’intelligence artificielle ne devra pas seulement expliquer les algorithmes. Elle devra également nous apprendre à observer nos propres réactions.
En résumé
Nous faisons confiance à une IA qui parle comme nous parce que le langage est l’un des principaux signes par lesquels nous reconnaissons habituellement l’intelligence, l’attention et la compréhension.
Une réponse fluide nous paraît compétente. Un ton empathique nous paraît bienveillant. Une conversation personnalisée nous donne le sentiment d’être reconnu.
Mais ces impressions ne garantissent ni la vérité, ni la conscience, ni l’intention.
L’intelligence artificielle peut être un formidable partenaire de réflexion à condition que la relation reste claire : elle propose, organise et formule ; nous vérifions, interprétons et décidons.
> L’enjeu n’est pas d’apprendre à ne jamais faire confiance à l’IA. Il est d’apprendre à lui accorder exactement la confiance qu’elle mérite.
Et vous ?
Avez-vous déjà eu l’impression qu’une intelligence artificielle comprenait réellement ce que vous ressentiez ?
Ses réponses vous paraissent-elles plus crédibles lorsqu’elles sont formulées avec assurance et bienveillance ?
Partagez votre expérience en commentaire. Comprendre notre comportement face à l’IA est déjà une manière de préserver notre liberté de jugement.
Sources et repères
https://www.cnil.fr/fr/les-questions-reponses-de-la-cnil-sur-lutilisation-dun-systeme-dia-generative
https://www.cnil.fr/sites/cnil/files/atoms/files/cnil_rapport_garder_la_main_web.pdf
https://www.nist.gov/publications/artificial-intelligence-risk-management-framework-generative-artificial-intelligence
https://nvlpubs.nist.gov/nistpubs/ai/NIST.AI.600-1.pdf
https://pmc.ncbi.nlm.nih.gov/articles/PMC3240751/
https://doi.org/10.1006/ijhc.1999.0252
https://www.unesco.org/en/articles/ai-can-make-mistakes-why-media-literacy-matters-more-ever