Anthropic en crise : le cofondateur de Skype dénonce un manque de responsabilité

Dans la course effrénée au développement de l’intelligence artificielle, certains acteurs promettaient une approche différente. Anthropic, fondée par d’anciens cadres d’OpenAI, incarnait cet espoir d’une IA plus sûre et responsable. Pourtant, même les investisseurs les plus convaincus commencent à exprimer leurs doutes face aux choix stratégiques de l’entreprise.

Un investisseur déçu par les engagements d’Anthropic

Jaan Tallinn, célèbre pour avoir cofondé Skype, avait misé sur Anthropic dans l’espoir d’orienter le secteur vers une démarche plus prudente. Son pari : encourager une entreprise capable de ralentir la course technologique pour mieux anticiper les risques.

Mais le cofondateur estonien exprime aujourd’hui sa déception profonde. La raison ? Le refus d’Anthropic de signer l’appel public réclamant une suspension temporaire de l’entraînement des systèmes d’IA les plus puissants.

Une fondation sur des préoccupations de sécurité

L’entreprise a pourtant vu le jour précisément autour de ces questions sécuritaires. Dario et Daniela Amodei, anciens d’OpenAI, ont quitté leur employeur pour créer une alternative centrée sur la prudence.

Leurs équipes rassemblent des profils atypiques pour la Silicon Valley : physiciens, neuroscientifiques, spécialistes de littérature et experts en politique. Cette diversité disciplinaire devait nourrir une réflexion plus complète sur les enjeux éthiques de l’IA.

Des structures de gouvernance innovantes

Anthropic a instauré un Long-Term Benefit Trust, mécanisme destiné à protéger la mission de l’entreprise au-delà des intérêts financiers immédiats. Ce conseil indépendant se veut garant des objectifs de long terme.

Cependant, l’entreprise prévoit des ajustements possibles de ces protections selon l’évolution de la concurrence. Une flexibilité qui interroge sur la solidité réelle de ces engagements.

Des financements alignés sur l’altruisme efficace

Les premiers tours de financement ont été orchestrés par Jaan Tallinn et Dustin Moskovitz, deux figures liées au mouvement de l’altruisme efficace et du longtermisme. Cette philosophie prône des actions maximisant l’impact positif sur le long terme pour l’humanité.

Open Philanthropy, organisation partageant ces principes, s’est engagée à étudier les risques liés à l’intelligence artificielle. Un partenariat qui semblait cohérent avec la mission initiale d’Anthropic.

Un investissement massif avec Amazon

L’entreprise prévoit d’investir 100 milliards de dollars dans les technologies AWS avec Amazon. Un montant colossal qui témoigne des ambitions commerciales de la société, potentiellement en tension avec ses objectifs sécuritaires.

Critiques acerbes du secteur technologique

Yann LeCun, figure majeure de l’intelligence artificielle, ne mâche pas ses mots. Il accuse Anthropic et d’autres laboratoires de tenter de contrôler le marché par le biais de régulations favorables à leurs intérêts.

Le chercheur va jusqu’à comparer leur démarche à celle d’« une secte religieuse », une formule choc qui illustre la polarisation du débat autour de la régulation de l’IA.

Des interrogations sur la conscience des modèles

Mustafa Suleyman, responsable de Microsoft AI, soulève des questions dérangeantes. Il remet en cause les choix d’entraînement d’Anthropic concernant la conscience potentielle des modèles d’intelligence artificielle.

Ces interrogations touchent au cœur même de la philosophie guidant le développement de Claude, l’assistant conversationnel de l’entreprise.

Claude et l’intégration de valeurs éthiques

Amanda Askell, ancienne philosophe, a joué un rôle central dans l’élaboration de la constitution de Claude. L’objectif : créer un assistant capable d’exercer jugement et sagesse dans des situations variées.

Cette approche vise à intégrer des valeurs éthiques directement dans le fonctionnement du modèle. Une ambition noble qui suscite néanmoins des inquiétudes chez certains concurrents.

Des craintes sur la contrôlabilité

Suleyman redoute que ces intégrations éthiques rendent Claude moins contrôlable. Il oppose à cette vision un code de conduite différent pour Microsoft AI, privilégiant apparemment d’autres priorités.

Le débat illustre les tensions entre différentes conceptions du développement responsable de l’IA.

Un équilibre difficile entre innovation et sécurité

Anthropic se trouve aujourd’hui face à un dilemme complexe : maintenir son avance technologique tout en respectant des standards de sécurité élevés. Une équation difficile dans un secteur ultra-compétitif.

L’entreprise envisage une pause dans le développement si les protections ne suivent pas le rythme de l’innovation. Mais cette éventualité reste hypothétique face aux pressions commerciales.

Des tensions entre mission et commercialisation

Les dirigeants réfléchissent intensément aux contradictions entre leur mission initiale et les réalités du marché. Dans un contexte de réglementation croissante et de compétition féroce, ces questions deviennent cruciales.

L’avenir dira si Anthropic parviendra à maintenir son cap sécuritaire ou si elle suivra la trajectoire classique des licornes technologiques, où la croissance finit par primer sur les principes fondateurs.