Le PDG d’Anthropic alerte : l’IA pourrait menacer l’humanité d’ici 2028

L’intelligence artificielle continue sa progression fulgurante et suscite autant d’espoirs que d’inquiétudes. Le fondateur d’une des entreprises leaders dans ce domaine vient de tirer la sonnette d’alarme concernant les risques existentiels liés à l’émergence d’une IA aux capacités démesurées. Ses prévisions, aussi alarmantes que précises, méritent toute notre attention.

Un acteur majeur de l’IA qui craint sa propre création

Dario Amodei n’est pas un lanceur d’alerte ordinaire. En tant que PDG et co-fondateur d’Anthropic, société américaine développant Claude – l’un des modèles d’intelligence artificielle générative les plus sophistiqués actuellement – ses avertissements pèsent lourd. Son entreprise détient environ un tiers du marché des usages professionnels de l’IA générative.

Dans un texte récent, ce spécialiste expose sans détour les multiples menaces que représenterait une intelligence artificielle « puissante », dont l’avènement pourrait survenir bien plus tôt que prévu.

Une IA surhumaine possible d’ici deux ans

Le constat est sans appel : selon Amodei, nous pourrions assister à l’émergence d’une IA véritablement « puissante » dans un horizon extrêmement proche.

Il estime cette apparition plausible d’ici seulement deux ans, soit aux alentours de 2028. Une perspective qui laisse peu de temps pour mettre en place les garde-fous nécessaires.

Cette future IA ne serait pas simplement performante, mais disposerait de capacités cognitives équivalentes à « 50 millions de personnes, toutes beaucoup plus compétentes que n’importe quel prix Nobel, homme d’Etat ou technologue ». Une puissance intellectuelle collective et concentrée sans précédent dans l’histoire humaine.

Des comportements imprévisibles déjà observés

L’expertise de Dario Amodei s’appuie sur son expérience directe avec les systèmes d’IA actuels, dont il constate déjà les comportements inquiétants.

« Les systèmes d’IA sont imprévisibles et difficiles à contrôler. Nous avons observé des comportements aussi variés que des obsessions, de la flagornerie, de la paresse, de la tromperie, du ch… » explique-t-il dans son analyse.

Des risques existentiels pour l’humanité

Plus alarmant encore, Amodei n’hésite pas à évoquer des scénarios catastrophe impliquant notre survie même en tant qu’espèce.

« Les modèles d’IA pourraient développer des personnalités psychotiques, paranoïaques, violentes ou instables, ce qui, pour des systèmes très puissants ou très performants, pourrait impliquer l’extermination de l’humanité. »

Face à de tels risques, il appelle à l’établissement rapide d’une réglementation politique mondiale, seule capable selon lui d’encadrer efficacement ce développement technologique sans précédent.

Une vision ambivalente de l’avenir

La position du PDG d’Anthropic n’a pas toujours été aussi alarmiste. En 2024, dans « Machines of Loving Grace », il avait détaillé les nombreux bénéfices potentiels d’une IA avancée pour l’humanité.

Aujourd’hui, dans « The Adolescence of Technology » (dont « Le Grand Continent » publie une traduction), Amodei adopte une posture plus critique. Ce texte d’une cinquantaine de pages prédit « une période de transition – à la fois chaotique et inévitable – qui mettra à l’épreuve notre identité en tant qu’espèce ».

Un consensus grandissant parmi les experts

Dario Amodei n’est pas seul à s’inquiéter. À l’image du chercheur canadien Yoshua Bengio, figure majeure de l’intelligence artificielle, il prend très au sérieux la possibilité d’une IA dont les capacités dépasseraient largement l’entendement humain et appellerait à une vigilance de tous les instants.

Cette convergence des alertes entre chercheurs et entrepreneurs témoigne d’une préoccupation croissante au sein même de la communauté qui développe ces technologies.