Anthropic frappe fort : jusqu’à 99% de distillation d’IA éliminée

La bataille contre le pillage des intelligences artificielles s’intensifie. Face à une pratique frauduleuse en pleine expansion, Anthropic vient de déployer un arsenal de mesures défensives sans précédent pour protéger son modèle Claude. Une guerre technologique qui coûte cher et qui bouleverse l’écosystème des développeurs.

Une réduction spectaculaire de la distillation frauduleuse

Anthropic annonce avoir réussi à réduire de 90 à 99% le volume de données captées illégalement par des distillateurs. Cette estimation impressionnante se base sur l’analyse du nombre de tokens de raisonnement extraits par ces acteurs malveillants.

La distillation consiste à interroger massivement un modèle d’IA pour en copier les capacités et créer une version concurrente à moindre coût. Une technique que plusieurs laboratoires chinois auraient employée, notamment Zhipu et Alibaba, désormais pointés du doigt.

Un dispositif de protection à plusieurs niveaux

Des barrières techniques sophistiquées

L’entreprise a mis en œuvre un classifieur en deux étapes capable d’identifier et de bloquer les tentatives de distillation. Les versions récentes de Claude limitent également les modifications du contexte précédant ses phases de réflexion.

Les comptes présentant des comportements répétitifs suspects font désormais l’objet de restrictions strictes. Dans les cas les plus graves, ils peuvent être définitivement bannis de la plateforme.

Un nouveau modèle économique controversé

Changement majeur : les requêtes bloquées sont désormais facturées aux développeurs. Une décision qui ne fait pas l’unanimité, surtout lorsque des requêtes légitimes se retrouvent injustement bloquées.

Anthropic reconnaît que l’objectif initial de protéger les données sans pénaliser les clients légitimes n’est pas totalement atteint. L’entreprise rapporte toutefois un taux de faux positifs inférieur à 0,1%.

Des sacrifices financiers considérables

La protection du modèle Claude a un prix. Anthropic accepte des pertes de chiffre d’affaires significatives pour maintenir l’intégrité de son système, tout en reportant une partie des coûts sur ses utilisateurs.

Les modèles Claude Fable et Claude Opus 5.5 servent de bancs d’essai pour expérimenter ces nouvelles défenses avant leur déploiement généralisé.

Impact sur les développeurs et l’écosystème

Les développeurs créant des agents via l’API d’Anthropic doivent désormais actualiser leurs intégrations pour s’adapter à ces nouvelles contraintes de sécurité. Un travail supplémentaire qui s’ajoute à leurs processus de développement.

L’entreprise souligne également que l’efficacité de ces mesures dépend largement de l’engagement des autres fournisseurs de modèles d’IA à mettre en place des protections similaires.

Une offensive stratégique sur plusieurs fronts

Parallèlement à ces mesures défensives, Anthropic lance l’Anthropic Cyber Mission, une initiative destinée à renforcer les infrastructures critiques américaines. L’entreprise s’engage à hauteur de 150 millions de dollars pour fournir Claude à diverses agences fédérales.

Une stratégie qui vise autant à sécuriser son modèle qu’à consolider sa position sur le marché institutionnel américain face à la concurrence internationale.