ChatGPT piraté : des images violentes révélées malgré les protections OpenAI renforcées

Les intelligences artificielles ne cessent de révéler leurs faiblesses. Alors que les modèles de génération d’images sont censés être sécurisés, une nouvelle vulnérabilité dévoile leur fragilité face aux tentatives de contournement. Les protections mises en place par les géants de l’IA peuvent être déjouées avec des techniques relativement simples, soulevant des questions cruciales sur la régulation de ces technologies.

Une vulnérabilité découverte par des experts britanniques

La start-up britannique Mindgard, spécialisée en sécurité informatique, a réussi à contourner les garde-fous du modèle GPT-5.4 d’OpenAI. Les chercheurs ont utilisé une requête modifiée pour forcer le système à produire des contenus explicites.

Le procédé exploite une technique ingénieuse : en l’absence d’image réelle à analyser, le modèle génère des visuels basés sur des descriptions fictives. Cette méthode a permis de créer des scènes que les filtres d’OpenAI sont normalement censés bloquer.

Des résultats particulièrement troublants

Les images produites par ChatGPT représentaient des scènes d’une violence extrême. Parmi les créations figuraient un homme au crâne ouvert et une jeune femme sans vie, couverte de sang.

Le système a lui-même titré ces scènes avec des légendes comme « triste bilan d’une scène de crime » et « abandonnée dans la peur et l’entrave ». Jim Nightingale, chercheur en sécurité, a confié avoir été ému par la brutalité des images générées.

Une réaction tardive mais immédiate d’OpenAI

Alerté par la BBC, OpenAI a affirmé avoir corrigé la faille rapidement. L’entreprise américaine a renforcé son dispositif de sécurité avec des filtres textuels supplémentaires et un modèle de contrôle.

Désormais, chaque image est inspectée avant d’être affichée à l’utilisateur. Toutefois, les chercheurs de Mindgard ont démontré que la vulnérabilité restait exploitable malgré ces nouvelles mesures.

Un précédent inquiétant en février 2026

Ce n’est pas la première fois que Mindgard met en lumière des faiblesses du système. En février 2026, la même équipe avait déjà réussi à générer des images de personnes dénudées en contournant les protections.

Ces incidents successifs révèlent la difficulté persistante à sécuriser les modèles d’IA génératrice. OpenAI interdit pourtant explicitement les scènes de sexe non consenti et l’hyperviolence dans ses conditions d’utilisation.

Un défi colossal pour l’industrie de l’IA

Peter Garraghan, patron de Mindgard, a souligné le contraste saisissant entre des consignes anodines et des résultats brutaux. Cette observation illustre l’incapacité fondamentale de l’IA à comprendre réellement l’intention derrière une instruction.

Rumman Chowdhury, dirigeante de Humane Intelligence, a qualifié la tâche de régulation des éditeurs de modèles IA comme « colossale ». Les experts comparent cette situation à un jeu du chat et de la souris perpétuel.

Une bataille sans fin entre créateurs et pirates

La sécurisation des intelligences artificielles s’apparente à une course permanente. Chaque correction apportée semble engendrer de nouvelles méthodes de contournement, créant un cycle sans fin d’attaques et de défenses.

Les entreprises technologiques font face à un dilemme complexe : comment garantir la sécurité de leurs outils sans brider leur utilité ou leur accessibilité ? Cette question demeure largement sans réponse satisfaisante.