OpenAI sous le feu des critiques : surveillance invasive des utilisateurs révélée

L’intelligence artificielle ne se contente plus de répondre aux questions. Elle observe, analyse et traque désormais les échanges de ceux qui l’utilisent. Une dérive qui interroge les limites entre protection et intrusion dans la vie privée. La frontière entre sécurité et surveillance de masse n’a jamais semblé aussi floue.

Un système de pistage automatisé des conversations

OpenAI a mis en place une infrastructure complète de surveillance destinée à scanner, analyser et signaler les échanges de ses utilisateurs payants. L’entreprise justifie ce dispositif par la volonté de prévenir d’éventuelles violences.

Problème majeur : ce mécanisme fonctionne sans cadre juridique contraignant ni contrôle extérieur indépendant. L’entreprise américaine s’octroie ainsi le droit de fouiller dans les conversations privées selon ses propres règles.

Des classifieurs automatiques et des analystes humains

Le processus repose sur des classifieurs automatisés qui passent au crible les échanges en temps réel. Mais la machine ne travaille pas seule.

Du personnel spécialisé intervient pour évaluer le contexte des discussions. Ces examinateurs analysent même les schémas comportementaux sur la durée, traquant des évolutions dans le temps.

L’analyse des comportements sur le long terme

Un message isolé ne déclenche pas nécessairement d’alerte. En revanche, un schéma plus large construit progressivement peut attirer l’attention des équipes de surveillance.

Cette approche soulève une question fondamentale : jusqu’où peut aller l’observation d’un utilisateur qui paie pour un service censé rester confidentiel ?

Des critères flous et des experts sans mandat

OpenAI évalue seule la crédibilité et l’imminence des menaces potentielles. L’entreprise contacte ensuite les forces de l’ordre selon ses propres critères, sans supervision externe.

Plus surprenant encore : elle fait appel à des psychiatres et spécialistes du comportement pour analyser les échanges, et ce sans aucun mandat judiciaire.

Signalements possibles sans violence explicite

Les critères souples adoptés permettent de signaler des comportements même en l’absence de mention claire de violence. Une zone grise qui laisse une marge d’interprétation considérable.

La surveillance spécifique des adolescents

Les examinateurs disposent du pouvoir d’alerter directement les parents lorsqu’ils détectent une « détresse aiguë » chez les adolescents utilisateurs.

Cette pratique comporte un risque majeur : révéler des confidences intimes, avec des conséquences potentiellement dévastatrices pour les jeunes concernés. Un adolescent en questionnement pourrait ainsi voir ses secrets dévoilés à sa famille.

Opacité totale sur les chiffres et les procédures

Aucun audit indépendant n’a été réalisé. OpenAI ne publie aucune donnée chiffrée sur le volume de conversations examinées ni sur le nombre de signalements effectués.

L’absence de recours judiciaire réel pose également problème. Pour les abonnés européens, la conformité au RGPD reste une question ouverte, sans réponse claire de l’entreprise.

Un contact de confiance en guise de solution

OpenAI a introduit une fonctionnalité permettant de désigner un « contact de confiance ». Cette personne peut être notifiée si l’abonné a besoin de soutien.

La surveillance se présente désormais comme une simple fonctionnalité, intégrée aux contrôles parentaux. Une normalisation qui inquiète.

Une revendication assumée qui soulève des questions éthiques

L’entreprise communique désormais ouvertement sur le suivi des conversations, présentant cette évolution comme naturelle et bénéfique.

Ce dispositif relance pourtant le débat sur le paternalisme algorithmique et les droits fondamentaux à la vie privée. Faut-il accepter d’être surveillé au nom d’une sécurité hypothétique ?