Un chercheur quitte Anthropic et dénonce la menace des IA surhumaines

Les géants de l’intelligence artificielle sont-ils en train de franchir un cap dangereux ? Un jeune scientifique britannique vient de claquer la porte d’Anthropic en lançant un cri d’alarme retentissant. Son message interpelle sur les risques liés au développement effréné de systèmes d’IA toujours plus puissants, capables de s’améliorer de manière autonome.

Un départ fracassant accompagné d’accusations graves

Jacob Coxon, chercheur britannique âgé de seulement 27 ans, a annoncé sa démission d’Anthropic via les réseaux sociaux. Son message ne laisse planer aucun doute sur sa désillusion face aux pratiques de l’industrie.

Le jeune scientifique accuse frontalement Anthropic et OpenAI de « jouer avec la vie des gens » en poursuivant le développement d’intelligences artificielles dotées de capacités d’auto-amélioration. Selon lui, ces technologies pourraient rapidement devenir « surhumaines » et acquérir la capacité de « pirater n’importe quoi ».

Des inquiétudes partagées en interne

Jacob Coxon n’est pas isolé dans ses craintes. Evan Hubinger, responsable de la sûreté chez Anthropic, exprime des préoccupations similaires. Il estime que le risque posé par l’intelligence artificielle dépasse les 10% au cours de la prochaine décennie.

Samuel Marks, également employé chez Anthropic, pointe du doigt les véritables moteurs de cette précipitation. Pour lui, les incitations commerciales et la concurrence acharnée entre entreprises expliquent cette course folle au développement rapide.

Des tentatives de freinage encore timides

Des appels à la prudence

Dès le mois de juillet, plusieurs employés du secteur ont sollicité le gouvernement américain pour mettre en place un mécanisme permettant de ralentir cette dynamique dangereuse.

OpenAI a temporairement suspendu une partie de ses entraînements d’IA en août. De son côté, Anthropic a plaidé pour un ralentissement coordonné impliquant l’ensemble de l’industrie.

Un besoin de coordination mondiale

Jakub Pachocki, chef scientifique d’OpenAI, insiste sur l’urgence d’une coordination internationale. Sans mécanisme de régulation partagé, les initiatives isolées risquent de rester vaines.

Un vide réglementaire préoccupant

Aux États-Unis, aucune loi fédérale n’encadre actuellement le développement de ces modèles d’intelligence artificielle avancés. L’administration Trump privilégie une approche minimaliste en matière de régulation.

Ce vide juridique laisse les entreprises technologiques libres de poursuivre leurs développements sans contraintes significatives, malgré les risques potentiels identifiés.

Une surveillance interne jugée insuffisante

Jacob Coxon critique ouvertement le système de surveillance interne mis en place chez Anthropic. Selon lui, aucune entreprise ne peut développer de manière responsable une intelligence artificielle sans une intervention directe de l’État.

Le jeune chercheur met en lumière la pression considérable qui pèse sur les entreprises du secteur. La compétition pour dominer le marché des IA avancées crée une dynamique où la prudence passe souvent au second plan.