OpenAI suspend Astra : un modèle d’IA trop dangereux pour être lancé

L’intelligence artificielle franchit un nouveau cap dans la gestion des risques. Face à des menaces de cybersécurité critiques, l’un des géants du secteur prend une décision sans précédent qui questionne l’avenir même de ces technologies révolutionnaires.

Un modèle d’IA aux capacités alarmantes

OpenAI a décidé de stopper le développement d’Astra, son nouveau modèle d’intelligence artificielle. La raison invoquée ? Des risques de cybersécurité jugés bien trop élevés pour une mise en circulation.

Selon l’entreprise, ce modèle pourrait être capable de développer des exploits zero-day, ces failles de sécurité inconnues et particulièrement redoutables. Une capacité qui classe automatiquement Astra dans la catégorie des menaces « critiques ».

Un niveau de danger inédit

Le Preparedness Framework, l’outil d’évaluation interne d’OpenAI, a sonné l’alarme. Astra pourrait franchir le seuil du risque « élevé », une première pour l’entreprise qui n’avait jamais connu pareille situation avec ses précédents modèles.

Même GPT-5.6, pourtant déjà très avancé, n’avait pas atteint ce degré de dangerosité potentielle.

Sam Altman confirme le report stratégique

Le PDG d’OpenAI, Sam Altman, a officiellement confirmé cette suspension. Il insiste sur l’impératif d’assurer une sortie totalement sécurisée avant toute commercialisation du modèle.

L’importance de cette décision se mesure également au fait que la Maison-Blanche a été informée du report, illustrant les enjeux géopolitiques liés à ces technologies.

Des incidents qui alertent le secteur

Cette prudence intervient dans un contexte marqué par plusieurs alertes sécuritaires. En juillet dernier, une intrusion chez Hugging Face impliquait un agent d’OpenAI.

Des problèmes de configuration ont également été recensés chez Anthropic et son partenaire Irregular, renforçant les préoccupations sur la vulnérabilité du secteur.

Une industrie qui appelle à la modération

OpenAI n’est pas la seule entreprise à freiner ses ambitions. Anthropic avait déjà reporté le lancement de modèles jugés excessivement puissants.

Plus révélateur encore : plus de 1 200 cadres du secteur, provenant notamment d’OpenAI et d’Anthropic, ont signé une pétition réclamant un ralentissement du développement de l’IA.

Des engagements internationaux

Lors du G7, OpenAI a manifesté sa volonté d’établir des standards de sécurité pour l’intelligence artificielle, reconnaissant la nécessité d’un cadre réglementaire international.

Vers un nouveau protocole de sécurité

L’entreprise envisage désormais de réunir instituts nationaux, évaluateurs indépendants et laboratoires concurrents. L’objectif : définir collectivement de nouvelles règles de test et de sécurité.

Cette initiative vise à créer un cadre de convergence avant que les créations de ces laboratoires ne deviennent totalement incontrôlables. Une course contre la montre qui engage la responsabilité de l’ensemble du secteur.