Espionnage technologique : 25 000 comptes fictifs pour infiltrer l’IA d’Anthropic

Les accusations portées par Anthropic contre le géant chinois Alibaba révèlent une nouvelle dimension de l’espionnage technologique à l’ère de l’intelligence artificielle. Cette affaire met en lumière les vulnérabilités des systèmes d’IA les plus avancés face aux techniques d’extraction massive de données.

Une opération d’envergure dévoilée par Anthropic

L’entreprise américaine Anthropic a révélé une vaste campagne d’extraction frauduleuse visant ses modèles d’intelligence artificielle Claude. Selon une lettre datée du 10 juin adressée à des membres influents de la commission des affaires bancaires du Sénat américain, près de 25 000 comptes frauduleux auraient été créés dans ce but précis.

L’opération s’est déroulée entre le 22 avril et le 5 juin, générant au total plus de 28,8 millions d’interactions avec les systèmes Claude. Ces informations, rapportées par Reuters, témoignent de l’ampleur exceptionnelle de cette tentative de détournement technologique.

La technique de la distillation au cœur du scandale

Les opérateurs présumés, affiliés à Alibaba et à Qwen, le laboratoire d’IA du conglomérat chinois, auraient utilisé une méthode appelée « distillation ». Cette technique consiste à entraîner un modèle d’intelligence artificielle moins performant en s’appuyant sur les réponses fournies par un système plus avancé.

Anthropic estime que cette campagne aurait pu permettre à la Chine d’accélérer significativement ses capacités pour atteindre le niveau de performance de son modèle avancé Mythos Preview. Un raccourci technologique aux implications considérables pour la compétition mondiale dans le secteur de l’IA.

Un phénomène déjà observé avec d’autres acteurs chinois

Cette affaire n’est pas un cas isolé. En février dernier, Anthropic avait déjà identifié des campagnes similaires menées par d’autres entreprises chinoises. DeepSeek aurait généré plus de 150 000 interactions, tandis que MiniMax aurait atteint le chiffre impressionnant de plus de 13 millions d’interactions.

Alibaba n’a pas répondu immédiatement aux demandes de commentaires formulées par les médias concernant ces accusations graves.

Des enjeux financiers et stratégiques majeurs

Anand Joshi, analyste IA chez TechInsights, souligne la gravité potentielle de ces faits. Si les accusations sont fondées, cette campagne aurait pu donner à Alibaba l’opportunité de développer rapidement un modèle comparable à un coût bien inférieur à celui d’un développement traditionnel.

Le scraping de modèles d’intelligence artificielle devient un phénomène de plus en plus fréquent selon les experts du secteur, révélant une nouvelle forme de cybercriminalité industrielle.

Une menace pour la gouvernance de l’IA

Sanchit Vir Gogia, analyste en chef chez Greyhound Research, tire la sonnette d’alarme : « La chaîne d’approvisionnement des entreprises ne se limite plus aux logiciels, aux API et aux régions cloud. Elle inclut désormais de l’intelligence louée, et cette intelligence louée peut être copiée puis redéployée bien au-delà des mécanismes de contrôle et de sécurité qui l’ont vue naître. »

Selon lui, la distillation devrait désormais figurer parmi les préoccupations des conseils d’administration. Un modèle entraîné par cette méthode peut hériter des capacités d’un système avancé sans bénéficier de ses mécanismes de gouvernance et de garde-fous essentiels.

Des risques concrets pour les entreprises utilisatrices

Pareekh Jain, CEO de Pareekh Consulting, met en garde contre les dangers de cette rétro-ingénierie à grande échelle. Il avertit : « Si un concurrent peut cloner le cerveau même de l’IA sur laquelle votre entreprise s’appuie, il peut facilement en identifier les failles, compromettre vos systèmes automatisés ou pousser le fournisseur à suspendre des services essentiels à votre activité. »

Ces accusations révèlent une vulnérabilité structurelle qui pourrait affecter l’ensemble de l’écosystème de l’intelligence artificielle commerciale.

Les recommandations des experts pour se protéger

Côté fournisseurs : renforcer la surveillance

Pour Pareekh Jain, les fournisseurs doivent impérativement adapter leurs dispositifs de sécurité. Il recommande : « Les fournisseurs devraient proposer des comptes vérifiés, des limitations intelligentes du trafic, des mécanismes de détection des abus, une surveillance des usages, des interdictions contractuelles de la distillation, des procédures de divulgation des incidents et des droits d’audit. »

Côté entreprises : exiger des garanties contractuelles

Les entreprises utilisatrices ne doivent pas rester passives face à ces menaces. Pareekh Jain conseille : « Les entreprises devraient demander comment le fournisseur détecte et bloque les tentatives d’extraction de modèles à grande échelle, et exiger des contrats garantissant des plans de secours ainsi que des compensations financières en cas d’attaque ou d’interruption brutale du service. »

Transparence et traçabilité : des exigences incontournables

Anand Joshi insiste sur la nécessité d’une transparence totale : « Les entreprises doivent demander quelles données ont servi à l’entraînement du modèle, comment celui-ci a été formé, quels garde-fous existent et comment ils peuvent être audités. »

L’analyste évoque également le développement nécessaire de technologies de tatouage numérique (watermarking) dans les modèles eux-mêmes et dans leurs réponses. Ces marqueurs permettraient d’identifier l’auteur du vol en cas d’utilisation frauduleuse.

Un contexte géopolitique tendu

Cette affaire s’inscrit dans un contexte de tensions technologiques croissantes entre les États-Unis et la Chine. La course à la suprématie dans le domaine de l’intelligence artificielle devient un enjeu stratégique majeur, où tous les moyens semblent bons pour rattraper son retard ou maintenir son avance.

L’implication du Sénat américain dans cette affaire témoigne de la dimension politique que prend désormais la protection des innovations en matière d’IA.