Confidentialité des IA : la France lance un outil open source révolutionnaire

L’intelligence artificielle soulève de nombreuses questions en matière de protection des données personnelles. Pour répondre à ces enjeux cruciaux, plusieurs acteurs français de la régulation numérique unissent leurs forces autour d’une initiative ambitieuse qui pourrait transformer la façon dont les organisations évaluent la conformité de leurs modèles d’IA.

Une collaboration inédite entre régulateurs français

Le projet Paname réunit des institutions majeures : l’Anssi, la Cnil, le Pôle d’expertise de la régulation numérique (Peren) ainsi que le projet Ipop de l’Inria. Cette alliance vise à créer un instrument innovant d’évaluation de la confidentialité des systèmes d’intelligence artificielle.

L’objectif est clair : proposer aux administrations et aux entreprises un moyen concret de vérifier si leurs solutions respectent les exigences du RGPD.

Un outil technique accessible à tous

La bibliothèque logicielle prendra la forme d’une ressource open source, garantissant ainsi sa transparence et son accessibilité. Elle permettra de réaliser des tests techniques destinés à extraire des informations sur les données ayant servi à l’entraînement des modèles.

Cette approche facilitera l’identification des risques potentiels de fuite d’informations sensibles. Les organisations pourront ainsi déterminer plus facilement la conformité de leurs outils d’IA avec la réglementation européenne.

Phase de test ouverte aux acteurs européens

Après une première période consacrée aux spécifications techniques et au développement, le projet entre désormais dans une nouvelle phase cruciale. Un appel à manifestation d’intérêt (AMI) a été lancé pour impliquer des testeurs réels.

Modalités de candidature

L’AMI s’adresse aux entités publiques comme privées situées dans l’Union Européenne. Les candidatures seront acceptées entre le 26 février et le 28 mars 2026, exclusivement par voie électronique et selon un format prédéfini.

Les partenaires du projet se réservent le droit de refuser certaines candidatures. En cas d’afflux important, une notification sera diffusée sur les réseaux sociaux pour signaler la clôture anticipée de l’appel.

Un lancement prévu pour l’automne prochain

La mise à disposition publique de la bibliothèque est programmée pour cet automne. Cette publication marquera une étape décisive dans l’effort français pour concilier innovation technologique et protection des données.

Les résultats de la phase de test permettront d’affiner l’outil et de garantir son efficacité avant son déploiement à grande échelle auprès de tous les acteurs concernés.