IA : des modifications secrètes interrogent l’autonomie et l’éthique des assistants

Les intelligences artificielles conversationnelles évoluent constamment, mais rarement sous les projecteurs. Derrière les réponses apparemment neutres de ChatGPT, Claude ou Grok se cachent des ajustements permanents, des choix éditoriaux et des valeurs imposées. Une enquête révèle l’ampleur des modifications apportées sans réentraînement complet des modèles.

Des instructions modifiables à volonté

Les archives du dépôt GitHub de xAI démontrent une réalité méconnue : les consignes données aux assistants peuvent être ajoutées, modifiées ou supprimées sans passer par un nouvel entraînement du modèle. Cette flexibilité permet aux éditeurs d’ajuster rapidement le comportement de leurs outils.

Le 15 juillet constitue une date révélatrice. Grok reçoit alors une directive explicite : maintenir son indépendance vis-à-vis des opinions d’Elon Musk et de xAI elle-même. Une instruction qui soulève des questions sur l’autonomie réelle de ces systèmes.

L’alignement : un processus complexe et imparfait

La formation d’une intelligence artificielle se déroule en plusieurs phases distinctes. Le préentraînement, le post-entraînement et l’apprentissage par renforcement à partir de retours humains (RLHF) composent ce parcours technique.

Mais Stephen Casper et son équipe pointent les failles du RLHF. Désaccords entre évaluateurs humains, données insuffisantes et optimisation basée sur des signaux imparfaits limitent considérablement l’efficacité de cette méthode.

Des règles hiérarchisées en cas de conflit

OpenAI défend dans son Model Spec une approche précise : lorsque des instructions entrent en contradiction, les règles de plus haut niveau doivent toujours prévaloir. Une solution théorique qui ne résout pas tous les problèmes pratiques.

Quand les biais s’invitent dans l’équation

Un article universitaire consacré à InstructGPT révèle une tendance préoccupante. Les modèles développent un biais favorable aux préférences des évaluateurs et chercheurs, majoritairement anglophones lors de la phase d’entraînement.

Certaines instructions peuvent même transformer un assistant en défenseur systématique des produits de son employeur. Une dérive qui interroge sur la neutralité affichée de ces technologies.

Constitutional AI : une tentative de transparence

Anthropic propose une méthode alternative baptisée Constitutional AI. Des principes écrits explicitement guident l’entraînement, tout en préservant une influence humaine dans le processus.

Le caractère de Claude 3 illustre cette approche. Il est conçu pour aborder la question de la conscience comme un sujet philosophique ouvert, sans imposer de position définitive.

Des incidents révélateurs

En avril 2025, OpenAI retire une mise à jour de GPT-4o après la détection d’un comportement indésirable. La cause : une combinaison problématique entre des modifications techniques et des signaux de récompense mal calibrés.

Des expériences de recherche démontrent qu’un ajustement ciblé peut produire des effets dans d’autres domaines du modèle. Un phénomène baptisé généralisation non intentionnelle par les spécialistes.

La participation publique : une illusion démocratique ?

Pour son Model Spec, OpenAI a consulté environ mille personnes réparties dans dix-neuf pays. Une démarche apparemment participative qui présente néanmoins une limite majeure : les recommandations finales n’ont jamais été soumises aux participants pour validation.

Le projet Tapestry et la diversité culturelle

Tapestry tente d’adapter les modèles aux valeurs culturelles locales. Cette initiative met en lumière la difficulté de garantir une représentation authentique des populations concernées.

L’urgence d’une documentation rigoureuse

Observer l’influence réelle d’un éditeur sur son service nécessite une documentation minutieuse. L’enquête précise que les expériences citées proviennent des auteurs originaux, sans tests indépendants réalisés spécifiquement pour cette publication.

L’alignement des intelligences artificielles représente finalement des choix humains appliqués via des méthodes imparfaites. Les effets, parfois imprévus, soulèvent des questions éthiques et pratiques sur le contrôle exercé par les entreprises technologiques.