ChatGPT : OpenAI en crise face aux risques du « mode adulte »
L’intelligence artificielle conversationnelle s’apprête à franchir une nouvelle étape controversée. OpenAI, concepteur de ChatGPT, planche sur une fonctionnalité inédite qui pourrait transformer radicalement sa politique de modération. Cette initiative soulève toutefois d’importantes questions éthiques et techniques.
Une ouverture contrôlée vers des contenus suggestifs
La société dirigée par Sam Altman développe actuellement ce qu’elle appelle un « mode adulte » pour son assistant virtuel. Contrairement aux craintes initiales, il ne s’agit nullement de basculer vers une plateforme à caractère pornographique.
Un porte-parole interrogé par le Wall Street Journal a précisé les contours de cette nouveauté. Le contenu autorisé s’apparenterait davantage à de l’érotisme suggestif qu’à de la pornographie explicite. La nuance reste subtile mais déterminante dans l’approche choisie.
Cette ouverture concernera exclusivement les échanges textuels. La création d’images, de contenus vocaux ou vidéo à connotation sexuelle demeurera totalement interdite.
La protection des mineurs, un casse-tête technologique majeur
Le calendrier initialement prévu pour le premier trimestre 2026 a été abandonné. Un obstacle considérable freine le déploiement : la vérification fiable de l’âge des utilisateurs.
Les ingénieurs d’OpenAI travaillent sur un système innovant capable d’estimer la maturité d’un internaute sans recourir à une pièce d’identité. Les premiers essais révèlent toutefois des failles préoccupantes.
Un taux d’erreur inquiétant
L’algorithme développé aurait classé à tort des mineurs dans la catégorie adulte dans environ 12 % des situations testées. Cette marge d’erreur devient dramatique à l’échelle de ChatGPT.
Avec plus de 100 millions d’adolescents utilisant l’outil chaque semaine, ce pourcentage d’échec exposerait potentiellement des millions de jeunes à des contenus inappropriés. Un risque qu’OpenAI ne peut se permettre de prendre.
Une philosophie assumée mais prudente
Sam Altman défend une vision claire de cette évolution. Son objectif consiste à « traiter les adultes comme des adultes », tout en garantissant la sécurité des populations vulnérables.
Cette démarche s’inscrit dans un contexte concurrentiel particulier. Le lancement récent du mode « spicy » sur Grok, l’intelligence artificielle développée par Elon Musk, a manifestement accéléré la réflexion d’OpenAI.
Des cicatrices encore visibles
La société reste marquée par d’anciennes controverses liées à la santé mentale et aux risques de dépendance affective envers les chatbots. Ces précédents expliquent en partie la prudence extrême adoptée.
Des tensions internes sur les questions éthiques compliquent également la prise de décision. Le projet demeure donc suspendu, sans échéance précise de déploiement.
Un équilibre délicat entre innovation et responsabilité
OpenAI cherche à ne pas se laisser distancer sur le terrain de la personnalité des intelligences artificielles. Cette course à l’innovation doit néanmoins s’accompagner de garanties solides.
Le mode adulte restera dans les tiroirs tant que des garde-fous infaillibles n’auront pas été mis au point. La protection des mineurs constitue la priorité absolue avant toute commercialisation.
Cette petite révolution dans la politique de modération marque un tournant potentiel pour l’industrie de l’IA conversationnelle. Son déploiement effectif dépendra de la capacité d’OpenAI à résoudre les défis techniques et éthiques qui se dressent encore sur sa route.
Laisser un commentaire