OpenAI met en œuvre textGrain pour répondre aux normes européennes sur l’IA

L’intelligence artificielle générative bouleverse la production de contenus, mais pose un défi majeur : comment distinguer ce qui est créé par une machine de ce qui vient d’un humain ? Face aux nouvelles obligations européennes, les géants de l’IA doivent désormais marquer leurs productions. OpenAI vient de franchir une étape décisive avec textGrain, une technologie de marquage statistique destinée à identifier les textes issus de ses modèles.

Une technologie de marquage statistique révélée en octobre

Le 5 octobre dernier, OpenAI a publié un rapport technique détaillé de 20 pages consacré à textGrain. Ce document, cosigné par cinq chercheurs de l’entreprise et quatre universitaires des prestigieuses universités de Pennsylvanie et de Yale, explique comment fonctionne ce filigrane appliqué aux textes produits par ChatGPT et Codex.

L’annonce a été relayée simultanément sur le réseau social X, à 15 heures UTC. Dans un billet intitulé « Our approach to EU text provenance rules », l’entreprise californienne précise que le marquage sera effectif « au cours des prochaines semaines » pour respecter la réglementation européenne.

Un déploiement progressif et sélectif

Depuis le 5 octobre, les clients de l’API peuvent activer cette fonctionnalité dans le monde entier pour certains modèles. Toutefois, elle reste désactivée par défaut. La couverture s’étendra progressivement aux versions plus anciennes dans les semaines à venir, comme l’indique une mise à jour prévue du rapport.

Comment fonctionne textGrain ?

Le principe repose sur une modification subtile du processus de génération de texte. textGrain remplace une fraction de l’aléatoire intervenant dans le choix des mots par des valeurs pseudo-aléatoires calculées à partir d’une clé secrète et des termes précédents.

Le rapport décrit un découpage du vocabulaire en blocs. Un problème de transport optimal à coûts de Gumbel oriente ensuite le choix du bloc. Les mots à l’intérieur du bloc sélectionné conservent leurs probabilités relatives initiales.

Un budget d’entropie maîtrisé

L’ensemble du système s’articule autour d’un « budget d’entropie », soit la part de hasard sacrifiée pour créer le signal. Les auteurs présentent cette approche comme une amélioration du filigrane Gumbel-max, qui pouvait générer des réponses identiques avec une même clé et consigne.

Contrairement à d’autres méthodes, aucun caractère caché ni espace invisible n’est ajouté. Le signal est intégré directement dans les mots sélectionnés.

Détecter le filigrane : possibilités et limites

La détection ne nécessite que le texte et la clé secrète. Le taux de faux positifs théorique s’appuie sur des hypothèses d’indépendance, mais toute clé déployée doit être calibrée empiriquement pour garantir sa fiabilité.

textGrain a été conçu pour résister aux modifications légères et au copier-coller. Cependant, une paraphrase substantielle ou une traduction peut le rendre indétectable.

Des performances variables selon les langues

Le centre d’aide d’OpenAI présente des taux mesurés sur des réponses tirées du jeu de données anglophone ELI5, avec un détecteur calibré pour viser 1 % de faux positifs.

Pour les 23 autres langues officielles de l’Union européenne, la détection varie considérablement : de 42,2 % en roumain à 69,0 % en espagnol, toujours au seuil de 1 % de faux positifs. OpenAI a renforcé le signal pour les langues sous la barre des 60 % grâce à un paramètre de force réglable.

Une obligation européenne stricte

L’article 50, paragraphe 2 du règlement (UE) 2024/1689 impose aux fournisseurs de systèmes d’IA générant du texte, de l’image, du son ou de la vidéo de marquer leurs sorties. Ces productions doivent être « marquées dans un format lisible par machine et identifiables comme ayant été générées ou manipulées par une IA ».

Des délais de conformité précis

Cette obligation s’applique depuis le 2 août 2026. Le règlement (UE) 2026/1744 du 8 juillet 2026, dit omnibus numérique sur l’IA, a ajouté un paragraphe 4 à l’article 111.

Les systèmes commercialisés avant le 2 août 2026 bénéficient d’un délai supplémentaire jusqu’au 2 décembre 2026 pour se conformer. Les « prochaines semaines » annoncées par OpenAI pour ChatGPT et Codex s’inscrivent dans cette fenêtre.

Un code de bonnes pratiques détaillé

La Commission européenne a publié le 10 juin le code de bonnes pratiques, suivi le 20 juillet de lignes directrices sur l’article 50. OpenAI figure parmi les signataires de la section 1 des fournisseurs.

Le code exempte de filigrane les textes très courts, de moins de 200 jetons. Au-delà de ce seuil, le marquage reste obligatoire même si la fiabilité est moindre.

Responsabilités et exceptions réglementaires

Les lignes directrices de la Commission qualifient de fournisseur l’organisation qui met un système d’IA sur le marché ou en service sous son nom ou sa marque. Un fournisseur peut s’appuyer sur le marquage du modèle amont, mais cela ne le décharge pas de sa propre responsabilité.

Un intégrateur qui conserve le réglage par défaut — filigrane désactivé dans l’API — ne peut pas invoquer le filigrane d’OpenAI. Il doit l’activer ou marquer les sorties par un autre moyen.

Cas particuliers et obligations pour les déployeurs

Les fonctions d’assistance à la mise en forme standard et les outils qui ne modifient pas substantiellement les données fournies échappent à l’article 50.

L’article 50, paragraphe 4 ajoute une obligation distincte pour les déployeurs qui publient un texte généré afin d’informer le public sur des questions d’intérêt public, sauf relecture humaine et responsabilité éditoriale. Cette disposition vise également les hypertrucages.

Un accès au détecteur strictement contrôlé

OpenAI a ouvert le 5 octobre les candidatures pour accéder à son détecteur. L’accès initial est réservé « à des chercheurs et organisations expertes approuvés » en raison des limites mesurées.

Le centre d’aide cite des partenaires à Cornell, à l’ETH Zurich et à KInIT. L’accès reste soumis à candidature, y compris pour les clients de l’API.

Un cadre européen exigeant

Le code européen autorise ce verrou pour le texte libre, jugé moins fiable, mais l’encadre strictement. Les signataires doivent ouvrir un accès contrôlé et gratuit aux autorités de surveillance du marché, régulateurs, forces de l’ordre, médias, vérificateurs de faits, signaleurs de confiance, chercheurs indépendants, établissements d’enseignement et de recherche et la société civile.

La restriction doit être limitée dans le temps. Les lignes directrices demandent aux fournisseurs de rendre les moyens de détection accessibles aux personnes exposées aux contenus.

La concurrence adopte des stratégies divergentes

Anthropic a annoncé le 14 août un filigrane dérivé de SynthID-Text, appliqué mondialement « parce que nous n’avons pas encore de moyen durable de le limiter par région ». Son API de détection reste en aperçu privé, ouverte à des catégories similaires à celles définies par l’UE pour OpenAI.

Google avait rendu SynthID Text open source en 2024. Le 24 septembre, vLLM a décrit l’intégration d’un filigrane Gumbel-max dans son moteur d’inférence.

Des approches contrastées

OpenAI prévoit de publier textGrain en open source, sans date précise, et affirme qu’il a égalé ou dépassé SynthID pour le texte dans ses évaluations.

L’entreprise se distingue par un marquage limité au territoire où la loi l’impose, contrairement à Anthropic qui l’applique partout.

Un avertissement crucial pour les utilisateurs

Les deux entreprises convergent sur un point fondamental : « l’absence de filigrane détecté ne prouve pas que le texte est d’origine humaine ».

Le texte peut être trop court, édité ou traduit. Il peut également provenir d’un modèle non pris en charge ou d’un autre éditeur, ou encore dater d’avant le marquage. Cette mise en garde rappelle les limites inhérentes à toute technologie de détection, aussi sophistiquée soit-elle.