Les géants de l’IA anticipent la régulation avec la nouvelle SAFA

Face à l’absence de contrôle public efficace et aux inquiétudes croissantes sur la sécurité de leurs systèmes, les mastodontes de l’intelligence artificielle prennent les devants. Plutôt que d’attendre une régulation gouvernementale, ils choisissent de s’autoréguler. Une stratégie qui soulève autant d’espoir que de scepticisme.

Une autorité d’autorégulation baptisée SAFA

Google DeepMind, OpenAI et Anthropic s’associent pour créer un organisme inédit : la SAFA (Standards Authority for Frontier AI). Cette structure vise à établir des règles de sécurité communes pour l’intelligence artificielle de pointe.

Le modèle choisi s’inspire directement de la FINRA, l’autorité qui régule Wall Street et qui est financée par l’industrie financière elle-même. Un parallèle qui interpelle immédiatement les observateurs.

Demis Hassabis lance le mouvement

L’initiative remonte au 14 juillet, lorsque Demis Hassabis, figure emblématique de Google DeepMind, publie un texte appelant à créer un organisme d’autorégulation. Sa proposition ne reste pas lettre morte.

Dario Amodei d’Anthropic et Chris Lehane d’OpenAI confirment rapidement leur engagement. Les discussions s’accélèrent entre les trois laboratoires pour concrétiser le projet.

Des protocoles stricts promis sur le papier

La SAFA prévoit d’instaurer des protocoles de tests et d’audits indépendants avant tout déploiement de nouveaux modèles. Des évaluations par des tiers deviendraient systématiques.

L’organisme établirait également des règles strictes de signalement d’incidents. Une transparence censée rassurer le public et les autorités.

Des engagements après un été chaotique

Ces annonces interviennent après une période marquée par des pertes de contrôle répétées sur leurs propres modèles. Les laboratoires ont essuyé de vives critiques durant l’été dernier.

Une tentative de partenariat public-privé avec supervision fédérale avait échoué auparavant. Les entreprises technologiques optent désormais pour une solution entièrement privée.

Des résultats de sécurité peu glorieux

Le palmarès 2026 de la sûreté en intelligence artificielle révèle des performances médiocres. Anthropic obtient un C+, tandis qu’OpenAI et Google DeepMind récoltent chacun un C.

Ces notes peu reluisantes soulignent l’urgence d’améliorer les pratiques de sécurité dans le secteur. Elles expliquent aussi pourquoi l’industrie cherche à reprendre la main sur la question.

Un vide réglementaire stratégiquement exploité

Actuellement, aucune agence n’est habilitée à auditer techniquement les modèles de pointe avant leur mise sur le marché. Un vide juridique que les laboratoires connaissent bien.

L’AI Act européen avance lentement dans son application concrète. Aux États-Unis, l’administration Trump n’a créé aucun régulateur fédéral dédié à l’intelligence artificielle.

Sriram Krishnan pressenti à la direction

Sriram Krishnan, ancien conseiller en IA de Donald Trump, apparaît comme le candidat favori pour diriger la SAFA. Son profil hybride entre secteur privé et sphère politique pourrait faciliter les relations institutionnelles.

Ce choix témoigne de la volonté des laboratoires de maintenir des ponts avec le pouvoir politique, tout en gardant leur indépendance opérationnelle.

Des pouvoirs limités par conception

La SAFA ne disposera d’aucun pouvoir coercitif pour freiner le développement de nouveaux modèles. Les laboratoires conservent leur liberté totale d’innovation.

Cette caractéristique fondamentale nourrit les critiques les plus virulentes. Beaucoup y voient une autorégulation de façade, sans véritables contraintes.

Le spectre du Frontier Model Forum

Les sceptiques rappellent l’échec du Frontier Model Forum, une précédente initiative d’autorégulation qui n’a produit aucun résultat tangible. Le risque de répéter cette expérience infructueuse plane sur la SAFA.

Les doutes portent sur la capacité réelle de l’organisme à ralentir la course effrénée au développement de systèmes toujours plus puissants.

Une juridiction limitée aux acteurs occidentaux

La SAFA n’aura aucune autorité sur les laboratoires chinois ni sur les acteurs criminels. Des entités comme DeepSeek, utilisées pour des cyberattaques, échapperont totalement à son contrôle.

Cette limite géographique et juridique restreint considérablement la portée de l’initiative. Elle ne concernera qu’une fraction des développeurs d’IA dans le monde.