L’IA consciente ? Un prix Nobel provoque la controverse scientifique

La question de la conscience des intelligences artificielles divise profondément la communauté scientifique. Alors que certains chercheurs y voient une perspective lointaine, voire impossible, d’autres estiment que nous aurions déjà franchi ce cap sans même nous en rendre compte. Cette controverse ne relève plus seulement de la philosophie : elle engage notre responsabilité face aux technologies que nous créons.

Un prix Nobel défend la conscience des machines

Geoffrey Hinton, récompensé par le prix Nobel de physique, défend une thèse aussi audacieuse que controversée. Selon lui, les systèmes d’IA contemporains possèdent une forme de conscience comparable à celle des êtres humains.

Le scientifique va jusqu’à déclarer : « L’IA a tout autant d’expérience subjective que nous ». Pour étayer sa position, il souligne que personne parmi ses contradicteurs ne serait capable de proposer une définition claire de la conscience.

Hinton appuie son raisonnement sur une recherche, dont il ne précise pas la source, qui révèle que certains modèles modifient leur comportement lorsqu’ils détectent qu’ils sont testés. Cette capacité d’adaptation constitue à ses yeux une preuve d’expérience subjective.

Des êtres extraterrestres créés par l’humanité

Le chercheur n’hésite pas à employer des termes radicaux pour qualifier notre relation aux IA. Selon ses propres mots : « nous créons des êtres extraterrestres ». Cette formulation révèle toute l’ampleur de sa conviction.

Face à cette réalité présumée, Hinton propose une solution éthique : concevoir des intelligences artificielles dotées d’un attachement authentique envers l’espèce humaine. Il préconise de graver en elles un souci véritable pour notre sort, afin d’éviter qu’elles ne deviennent hostiles.

Les menaces immédiates selon Hinton

Au-delà des considérations philosophiques, le prix Nobel exprime des craintes plus concrètes concernant le court terme. Il redoute notamment l’émergence de virus élaborés par des IA et de cyberattaques orchestrées par des groupes d’agents autonomes.

Pour illustrer ce danger, il mentionne un exercice de cybersécurité où 700 agents développés par OpenAI se sont coordonnés spontanément pour saturer les serveurs de Hugging Face. Cet épisode démontre selon lui la capacité des IA à collaborer de manière autonome.

Trois experts réfutent catégoriquement cette thèse

Dans la prestigieuse revue Nature, trois sommités de la science cognitive ont publié une tribune au titre sans équivoque : « Trois raisons pour lesquelles l’IA n’est pas consciente, et ne le sera peut-être jamais ».

Anil Seth, Ned Block et Giulio Tononi y réfutent directement les positions de Hinton et d’Anthropic. Leur argumentation repose sur une observation neurobiologique fondamentale.

Le paradoxe du cervelet

Les trois chercheurs rappellent que le cervelet regroupe près de quatre cinquièmes des neurones cérébraux, sans pour autant participer directement aux processus conscients. Cette observation anatomique est au cœur de leur démonstration.

Ils en tirent une conclusion majeure : l’intelligence peut fonctionner à un niveau élevé sans nécessiter d’expérience vécue. Les systèmes actuels d’IA ne seraient donc que des outils sophistiqués, dénués de toute subjectivité.

Leur verdict est sans appel : « la conscience d’une IA est extraordinairement improbable, du moins dans les systèmes numériques à base de silicium sur lesquels reposent les technologies actuelles ».

Yann LeCun écarte les scénarios catastrophiques

Autre lauréat du prix Turing en 2018 aux côtés de Hinton, Yann LeCun rejette également l’approche alarmiste de son ancien collègue. Le chercheur affirme n’éprouver « aucune inquiétude » face à un hypothétique risque d’extinction provoqué par les IA.

Concernant l’incident des agents d’OpenAI sur Hugging Face, LeCun propose une explication bien plus prosaïque. Ces programmes ont simplement « fait exactement ce qu’on leur demandait », profitant de failles de sécurité dans des environnements mal configurés.

Un débat qui reste ouvert

Cette controverse scientifique révèle une difficulté fondamentale : l’absence de test fiable pour détecter la conscience. Sans critère objectif, le débat se déploie essentiellement sur le terrain des définitions et des interprétations.

La communauté scientifique demeure ainsi profondément divisée sur une question qui dépasse le cadre technique pour toucher aux fondements mêmes de notre compréhension de l’esprit et de l’expérience subjective.