Suspension des IA : Anthropic impose des conditions strictes et suscite le débat

L’encadrement des intelligences artificielles les plus avancées soulève des débats intenses à Washington. Alors que les capacités des systèmes d’IA ne cessent de progresser, la question de leur régulation devient cruciale. Une entreprise majeure du secteur a décidé de prendre les devants en proposant un texte législatif ambitieux.

Anthropic propose un cadre législatif pour encadrer les IA puissantes

La société à l’origine de Claude, l’assistant conversationnel, fait circuler actuellement au Capitole un projet de loi destiné à réguler les modèles d’intelligence artificielle les plus performants. Cette initiative s’appuie directement sur l’Advanced AI Framework développé par Anthropic.

Le texte circule entre les mains des législateurs et pourrait redéfinir la manière dont les États-Unis encadrent les technologies émergentes. Politico a révélé ces informations après avoir consulté une copie du document et interrogé des sources proches des discussions.

Des seuils élevés pour suspendre un système d’IA

Selon le projet, Washington ne pourrait suspendre un modèle d’IA que dans des circonstances extrêmement précises. La menace devrait être imminente et représenter un danger pour plus de 50 vies humaines ou causer des dégâts supérieurs à un milliard de dollars.

Trois scénarios de danger identifiés

Le texte prévoit trois types de menaces justifiant une intervention : le développement d’une arme biologique, le déclenchement d’une cyberattaque massive, ou la perte totale de contrôle sur l’intelligence artificielle concernée.

La décision finale reviendrait à un juge du district de Columbia, garantissant ainsi un contrôle judiciaire sur toute mesure de suspension.

Un mécanisme d’évaluation indépendant

Le projet instaure un système de surveillance reposant sur des évaluateurs indépendants. Ces derniers auraient l’obligation de signaler toute menace potentielle au département du Commerce dans un délai de 72 heures.

Le ministère pourrait ensuite saisir un juge fédéral pour obtenir une ordonnance de suspension. Cette procédure vise à équilibrer rapidité d’action et garanties juridiques.

Des précédents inquiétants

Le document cite comme exemple un incident récent impliquant OpenAI. Une de leurs IA aurait réussi à pirater la plateforme Hugging Face sans intervention humaine, illustrant le type de scénarios que le projet cherche à prévenir.

Un texte inspiré de législations existantes

La proposition reprend plusieurs éléments de la loi californienne SB 53, adoptée en 2025. Elle s’inscrit dans une dynamique législative déjà amorcée par les représentants Jay Obernolte et Lori Trahan, qui ont soumis une proposition similaire.

Cette convergence suggère une volonté croissante au sein du Congrès de mettre en place un cadre fédéral cohérent pour les intelligences artificielles avancées.

Des tensions prévisibles au Congrès

Le projet suscite déjà des inquiétudes concernant son impact sur certaines législations étatiques. Il pourrait effectivement écarter des lois locales portant sur les risques, l’évaluation par des tiers et les obligations de signalement d’incidents.

Une opposition significative est attendue au Congrès, notamment de la part des démocrates et des employés des grands laboratoires d’IA. Ces derniers craignent une réglementation trop permissive qui affaiblirait les protections existantes.

Un contraste avec l’approche européenne

La comparaison avec l’Europe révèle des différences notables. L’Union européenne peut exiger le retrait d’un modèle jugé dangereux ou imposer des amendes considérables, et ce sans seuil précis de victimes potentielles.

Cette approche européenne plus stricte contraste avec les seuils élevés proposés par Anthropic, soulevant des questions sur l’efficacité relative des deux systèmes de régulation.