L’outil d’Anthropic pour traquer l’IA : une vulnérabilité révélée

La prolifération des contenus générés par intelligence artificielle soulève des questions cruciales d’authenticité et de traçabilité. Face à cette problématique grandissante, les entreprises technologiques tentent de développer des solutions pour identifier l’origine des fichiers numériques. Une démarche qui s’avère plus complexe qu’il n’y paraît.

Une nouvelle solution de vérification signée Anthropic

Le 2 septembre dernier, Anthropic a mis en ligne un dispositif baptisé « Check if a file was made with Claude ». Cet instrument permet aux internautes de vérifier si un document porte la marque distinctive d’une production assistée par leur intelligence artificielle.

Le système analyse la présence d’un « content credential » intégré dans les métadonnées du fichier. Cette signature cryptographique constitue une sorte de certificat d’authenticité numérique, attestant de l’intervention de Claude dans le processus de création.

Un fonctionnement respectueux de la confidentialité

L’outil se distingue par son mode opératoire : il s’exécute entièrement dans le navigateur de l’utilisateur. Aucune donnée n’est transmise aux serveurs d’Anthropic, garantissant ainsi une confidentialité totale lors de la vérification.

Le verdict délivré reste binaire : présence ou absence du certificat numérique. En revanche, l’instrument ne fournit aucune information concernant le contenu textuel lui-même.

Le standard C2PA au cœur du dispositif

Cette signature numérique repose sur le standard C2PA, déjà adopté par les fabricants d’appareils photographiques professionnels. La technologie inscrit une note signée cryptographiquement dans les métadonnées lors du téléchargement du fichier.

Il convient de distinguer cette approche du filigrane textuel, qui intervient durant la phase de génération en influençant les choix lexicaux de l’algorithme. Le content credential constitue une couche de traçabilité supplémentaire, appliquée en aval du processus.

Des résultats variables révélant les limites techniques

Un test réalisé sur une check-list enregistrée au format WEBP a mis en évidence des disparités troublantes. Deux utilisateurs distincts ont obtenu des résultats contradictoires pour un fichier identique, soulevant des interrogations sur la fiabilité du système.

Anthropic anticipe ces variations, précisant que l’édition, la conversion ou la compression d’un fichier peuvent altérer la signature numérique. Cette fragilité illustre les difficultés persistantes dans la détection des contenus générés par IA.

Des contraintes techniques importantes

L’outil n’accepte qu’une sélection restreinte de formats image, vidéo et audio. La taille maximale autorisée s’établit à 100 Mo par fichier, excluant de facto les productions volumineuses.

Par ailleurs, la présence du certificat signale uniquement une participation à la production, sans garantir que Claude ait créé l’intégralité du contenu. Le système ne permet pas non plus d’identifier l’utilisateur spécifique, préservant ainsi l’anonymat.

Un défi technologique toujours d’actualité

Depuis 2023, une multitude d’outils destinés à repérer les contenus générés par intelligence artificielle ont vu le jour. Malgré cette effervescence, aucune solution n’a encore démontré une fiabilité constante face à la sophistication croissante des algorithmes.

Cette nouvelle initiative d’Anthropic s’inscrit dans cette course à la transparence, tout en soulignant que le chemin vers une détection infaillible reste semé d’embûches techniques et méthodologiques.