Intelligence artificielle : le cri d’alarme d’un pionnier sur les dangers futurs

L’un des pionniers mondiaux de l’intelligence artificielle tire la sonnette d’alarme. Reconnu pour son expertise dans le domaine de l’apprentissage profond, ce chercheur de renom met en garde contre les dérives potentielles d’une technologie qui évolue à vitesse grand V, sans garde-fous suffisants. Ses préoccupations rejoignent celles d’autres figures éminentes du secteur qui s’inquiètent d’un développement trop rapide et insuffisamment encadré.

Un expert mondial préoccupé par l’avenir de l’IA

Yoshua Bengio n’est pas un observateur comme les autres. À 61 ans, ce directeur scientifique de l’institut d’IA MILA et professeur à l’Université de Montréal compte parmi les cerveaux les plus brillants dans le domaine de l’intelligence artificielle. Son rôle déterminant dans le développement de « l’apprentissage profond » a directement contribué à l’émergence des IA génératives que nous connaissons aujourd’hui, comme ChatGPT.

Rencontré à Paris lors du Forum de la Paix, ce chercheur canadien partage sans détour ses inquiétudes croissantes face aux évolutions technologiques qu’il a lui-même contribué à mettre au point.

Les risques d’une « superintelligence » non maîtrisée

Au cœur des préoccupations de Bengio se trouve le concept de « superintelligence artificielle », dont il redoute l’émergence dans un avenir plus proche qu’on ne pourrait le penser.

« Nous risquons de sortir le génie de sa bouteille », prévient-il, utilisant cette métaphore percutante pour illustrer les dangers d’une technologie qui pourrait échapper à tout contrôle humain.

Le scientifique s’inquiète particulièrement d’une superintelligence qui ne serait pas alignée avec les valeurs morales de l’humanité. Cette divergence entre capacités technologiques avancées et principes éthiques représente selon lui un danger existentiel qui mérite toute notre attention.

Une industrie en roue libre

Bengio ne mâche pas ses mots concernant les acteurs majeurs du secteur. Il dénonce ouvertement une industrie dont les leaders développent l’IA de manière « incontrôlée et dangereuse », privilégiant la course à l’innovation et aux profits au détriment d’une réflexion approfondie sur les implications éthiques et sociétales.

Un engagement personnel face à l’urgence

Face à ces défis colossaux, le chercheur ne se contente pas de tirer la sonnette d’alarme. Il s’engage personnellement pour tenter de remédier aux risques qu’il identifie, notamment concernant l’émergence d’une superintelligence artificielle potentiellement dangereuse.

Son diagnostic sur la situation actuelle est sans appel : nous serions, selon ses propres termes, dans une « situation de guerre ». Une formulation forte qui traduit l’urgence qu’il ressent face aux enjeux technologiques contemporains.

Vers une régulation internationale

Le professeur Bengio plaide pour une approche concertée et internationale face aux défis posés par l’IA. La collaboration entre chercheurs, gouvernements et entreprises lui semble essentielle pour développer des technologies bénéfiques tout en minimisant leurs risques potentiels.

Son expertise et sa vision sont d’autant plus précieuses qu’elles émanent d’un acteur ayant contribué aux fondements mêmes des technologies qu’il critique aujourd’hui, offrant ainsi un regard à la fois informé et réflexif sur leur évolution.