Deux ans de travail perdus : l’IA d’OpenAI confrontée à ses failles

L’intelligence artificielle s’impose aujourd’hui comme un outil de travail incontournable pour de nombreux professionnels. Mais cette dépendance croissante soulève des questions cruciales sur la fiabilité et la sécurité des plateformes utilisées au quotidien. Un incident récent impliquant un universitaire allemand vient illustrer les risques méconnus de ces technologies.

Deux années de travail effacées instantanément

Marcel Bucher, scientifique et professeur d’université allemand, a vécu une mésaventure qui pourrait faire frémir n’importe quel chercheur. En août dernier, ce dernier a perdu l’intégralité de son historique de conversations sur le chatbot d’OpenAI.

Cette suppression massive a emporté avec elle des éléments essentiels de son activité académique : demandes de subventions, contenus pédagogiques destinés à ses étudiants, ébauches d’articles scientifiques et autres travaux de recherche. Deux années complètes de production intellectuelle se sont ainsi volatilisées.

Une simple modification de paramètres en cause

La catastrophe est survenue après une action en apparence anodine. Le professeur avait choisi de désactiver l’option permettant à OpenAI d’exploiter ses données pour perfectionner ses modèles d’intelligence artificielle.

Cette manipulation, effectuée dans un souci légitime de confidentialité, a déclenché l’effacement automatique de toutes ses échanges antérieurs avec la plateforme. Un résultat pour le moins inattendu et dévastateur.

OpenAI invoque sa politique de confidentialité

Face à cette situation, Marcel Bucher a naturellement tenté de récupérer ses précieuses informations. Ses démarches auprès d’OpenAI se sont cependant heurtées à un mur.

L’entreprise américaine a justifié l’impossibilité de restaurer les données en invoquant son principe de « Privacy by Design ». Selon cette politique stricte de confidentialité, les informations supprimées le sont définitivement, sans aucune possibilité de récupération.

Une fiabilité professionnelle remise en question

Cette expérience malheureuse a conduit le chercheur à s’exprimer publiquement dans la revue Nature. Son témoignage sonne comme un avertissement pour la communauté scientifique.

« Si un simple clic peut effacer de manière irrévocable des années de travail, ChatGPT ne peut pas, à mon avis, sur la base de mon expérience, être considéré comme totalement sûr pour un usage professionnel », a-t-il déclaré sans ambiguïté.

Des manquements aux règles élémentaires de sauvegarde

Si le dysfonctionnement soulève des interrogations légitimes, l’incident révèle également certaines lacunes en matière de sécurité numérique de la part de l’universitaire lui-même.

Les experts rappellent qu’avant toute modification sensible de paramètres, le téléchargement préventif d’une copie des données constitue une précaution élémentaire. Une règle de base de la sauvegarde informatique que le professeur semble avoir négligée.

Un cas isolé ou un problème plus large ?

L’affaire soulève néanmoins des questions sur le fonctionnement réel de la plateforme. Un test réalisé par le site spécialisé Notebookcheck apporte un éclairage intéressant mais troublant.

Selon leurs vérifications, la désactivation du partage des données destinées à l’entraînement des modèles d’IA ne provoque normalement pas l’effacement des conversations existantes. Ce résultat contradictoire alimente les incertitudes.

Impossible à ce stade de déterminer si Marcel Bucher a été victime d’un bug informatique ou s’il s’agit d’un incident unique. Cette zone d’ombre reste entière et préoccupante pour les utilisateurs professionnels du chatbot basé sur le modèle GPT, disponible gratuitement en ligne et capable de répondre à une multitude de requêtes.