Intelligence artificielle : 80 % des utilisateurs cèdent à des recommandations erronées

L’essor fulgurant des chatbots d’intelligence artificielle transforme notre façon de penser et de décider. Mais cette révolution technologique cache un piège insidieux : notre cerveau se met en mode veille dès qu’une IA intervient. Une vaste expérimentation scientifique vient de lever le voile sur un phénomène inquiétant baptisé « reddition cognitive ».

Un protocole scientifique pour mesurer notre dépendance à l’IA

Deux chercheurs de la prestigieuse Wharton School, Steven Shaw et Gideon Nave, ont orchestré une expérience d’envergure. Leur objectif : comprendre comment nous interagissons réellement avec l’intelligence artificielle dans nos prises de décision.

Le dispositif expérimental a mobilisé 1 372 participants à travers près de 9 600 essais. Les volontaires devaient résoudre des problèmes de raisonnement tirés du Cognitive Reflection Test, certains ayant accès à ChatGPT GPT-4o, d’autres non.

L’originalité du protocole résidait dans une manipulation invisible : les scientifiques ont truqué la fiabilité du chatbot via des instructions cachées. Tantôt justes, tantôt délibérément erronées, les réponses de l’IA permettaient d’observer le comportement des participants face à un assistant numérique faillible.

Des résultats aussi spectaculaires qu’alarmants

La performance s’envole ou s’effondre selon l’IA

Les chiffres parlent d’eux-mêmes. Sans assistance artificielle, les participants atteignaient un taux de précision de 46 %. Avec une IA fiable, ce score grimpait à 71 %. Mais le revers de la médaille s’avère préoccupant.

Lorsque le chatbot fournissait des réponses fausses, la performance chutait à 31 %, soit bien en dessous du niveau obtenu en réfléchissant seul. Un effondrement qui illustre notre vulnérabilité face aux erreurs de l’intelligence artificielle.

Quatre participants sur cinq suivent aveuglément l’IA

Le constat le plus troublant concerne le taux de suivi des recommandations erronées. Dans 80 % des cas, les participants adoptaient la mauvaise réponse suggérée par l’IA sans la remettre en question.

Les chercheurs observent : « Même face à une IA délibérément faussée, 8 participants sur 10 adoptent sa réponse sans la corriger. » Cette soumission s’accompagne paradoxalement d’un gain de confiance de près de 12 points, même face à des réponses fausses.

La « reddition cognitive » : quand le cerveau abdique

Les scientifiques introduisent un concept novateur : le « Système 3 », une cognition artificielle externe au cerveau, algorithmique et mobilisable à la demande. Ce système s’ajoute aux mécanismes traditionnels de pensée intuitive et analytique.

Mais l’usage de ce Système 3 dépasse la simple assistance. Les chercheurs avertissent : « Les décideurs n’ont pas seulement utilisé le Système 3 pour les assister dans leur raisonnement : ils ont souvent capitulé face à ses résultats, qu’ils soient corrects ou erronés. »

Cette capitulation diffère fondamentalement d’un déchargement cognitif classique, comme l’utilisation d’une calculatrice. Ici, l’individu abdique son jugement plutôt que de déléguer un calcul fastidieux. Un cercle vicieux s’installe : « Plus on consulte l’IA, plus notre performance dépend de la sienne. »

Des contre-mesures inefficaces face à la séduction de l’IA

Les chercheurs ont tenté plusieurs stratégies pour briser ce schéma de dépendance. L’imposition d’un chronomètre a paradoxalement aggravé la capitulation, la pression temporelle poussant davantage vers les réponses toutes faites.

Même en rémunérant les bonnes réponses et en signalant immédiatement les erreurs, les résultats restent décevants. Certes, les participants corrigeaient davantage l’IA, mais « le fossé entre IA fiable et IA fautive reste béant ». Motivés et informés, les sujets continuent de se laisser porter.

Les profils les plus vulnérables

L’étude identifie deux catégories particulièrement exposées à la reddition cognitive. D’abord, ceux qui accordent une confiance excessive à l’IA. Ensuite, les individus qui éprouvent le moins le besoin de réfléchir par eux-mêmes.

Repenser le design pour préserver notre autonomie intellectuelle

Pour les auteurs, la conclusion est limpide : « le problème n’est pas l’IA, mais la douceur avec laquelle elle nous convainc. » Les interfaces trop fluides maintiennent notre capacité d’analyse en veille, favorisant les réflexes au détriment de la réflexion.

La solution proposée ? Introduire de la « friction » dans le design des systèmes d’IA. Des obstacles volontaires qui forceraient les utilisateurs à réengager leur esprit critique plutôt que d’accepter passivement les suggestions algorithmiques.