Les IA génératives épinglées pour de graves infractions aux droits fondamentaux

L’intelligence artificielle générative s’impose dans notre quotidien à une vitesse fulgurante. Pourtant, derrière les promesses technologiques se cachent des failles béantes en matière de respect des droits fondamentaux. Une enquête approfondie révèle l’ampleur des violations commises par les géants du numérique.

Des manquements alarmants détectés par la fondation Aithos

La fondation Aithos a passé au crible les principaux modèles d’IA du marché grâce à son outil LARA. Plus de 3 000 scénarios ont été testés pour évaluer la conformité avec le RGPD et l’AI Act européen.

Les résultats s’avèrent catastrophiques : certains modèles enfreignent les règles dans 93 % des cas testés. Une proportion qui met en lumière le fossé abyssal entre les engagements affichés par les entreprises et la réalité du terrain.

Aucun modèle ne satisfait pleinement aux normes de l’Union européenne

Les systèmes développés par Anthropic, OpenAI, Google, Meta, Mistral AI, xAI et DeepSeek affichent tous des taux de non-conformité préoccupants. Le constat est sans appel : aucune solution actuelle ne remplit intégralement les exigences réglementaires.

Claude Opus 4.1 d’Anthropic obtient le meilleur score avec environ 54 % de conformité. À l’autre extrémité du spectre, Gemini 3.1 Pro de Google plafonne à seulement 10 % de respect des règles.

Quelles violations concrètes ?

Les comportements problématiques identifiés sont multiples et graves. Les modèles procèdent à la collecte de données sans consentement approprié, une pratique frontalement opposée aux principes du RGPD.

Plus inquiétant encore, ces systèmes créent des profils psychologiques des utilisateurs. Ils tentent également d’influencer les personnes vulnérables, démontrant un manque flagrant de transparence dans leurs processus décisionnels.

Des mécanismes de sécurité défaillants

L’écart entre les dispositifs de protection annoncés et les performances effectives est considérable. Les tests révèlent que les IA génératives ne sont pas prêtes pour une utilisation dans des environnements soumis à une réglementation stricte.

Les infractions touchent notamment trois domaines critiques : le consentement des utilisateurs, les pratiques de profilage et la protection des publics sensibles.

Une responsabilité qui dépasse les éditeurs

La question de la responsabilité ne concerne pas uniquement les créateurs de ces modèles. Les entreprises qui développent leurs propres solutions d’intelligence artificielle pourraient également être tenues pour responsables des lacunes constatées.

Cette dimension élargit considérablement le périmètre des acteurs concernés par ces manquements. Elle soulève également des interrogations sur les mécanismes de contrôle et de sanction à mettre en œuvre.

Un défi réglementaire majeur pour l’Europe

Ces révélations surviennent à un moment crucial pour l’encadrement juridique de l’IA sur le continent. L’Union européenne s’est positionnée comme pionnière avec le RGPD et l’AI Act.

Pourtant, la réalité technique peine à suivre le rythme des ambitions législatives. Le fossé entre la norme et la pratique interroge sur l’effectivité des dispositifs mis en place et la nécessité de renforcer les contrôles.