Microsoft lance un code éthique pour l’IA : l’humain avant tout

L’intelligence artificielle progresse à une vitesse fulgurante, soulevant des questions cruciales sur son encadrement. Face aux risques d’une technologie dont les capacités dépassent parfois l’entendement humain, les géants du secteur cherchent à poser des garde-fous. Le débat sur l’autonomie des systèmes d’IA et leur supervision n’a jamais été aussi pressant.

Un document consultatif ouvert aux contributions

Le géant américain a dévoilé le 14 septembre une première mouture d’un code de conduite destiné à encadrer le développement de ses futurs modèles. Ce texte, élaboré par la division supervisée par Mustafa Suleyman, constitue une base de réflexion plutôt qu’un règlement figé.

La firme de Redmond a ouvert une période de consultation de six semaines permettant au public de réagir. Experts, chercheurs, institutions publiques, entreprises et citoyens sont invités à partager leurs observations. Une version révisée devrait voir le jour avant la fin de l’année.

L’humain au centre de toute décision

Le principe directeur de cette charte repose sur le concept d’« Humanist AI ». Microsoft affirme clairement que les systèmes intelligents doivent demeurer subordonnés à l’être humain, avec des objectifs et des limites explicitement établis.

Ce contrôle doit prévaloir sur tous les autres impératifs lorsqu’un risque significatif est identifié. Les modèles développés ne pourront excéder les capacités de supervision de leurs opérateurs.

Des mécanismes d’interruption obligatoires

Les systèmes devront pouvoir être arrêtés, rectifiés ou limités dans leur champ d’intervention à tout moment. Une hiérarchie des instructions est prévue pour empêcher que des utilisateurs ou opérateurs ne contournent les contraintes de sécurité établies.

Une séparation nette avec l’humain

Le document insiste sur un point fondamental : les modèles ne doivent jamais être conçus comme des personnes, ni tenter de reproduire une conscience. « L’IA est artificielle », rappelle le texte sans ambiguïté.

Cette distinction vise à maintenir une frontière claire entre les systèmes automatisés et leurs utilisateurs humains, évitant toute confusion sur leur nature.

Des restrictions sur les usages sensibles

Le code prévoit d’exclure toute contribution des modèles à des préjudices réels, qu’ils soient physiques, psychologiques ou sociaux. Le respect des législations en vigueur et des règles de sécurité internes à Microsoft constitue une exigence incontournable.

Des domaines sensibles font l’objet d’interdictions spécifiques : armement, activités criminelles et applications susceptibles de violer les droits fondamentaux. La protection des données privées et confidentielles figure également parmi les priorités.

Surveillance renforcée des systèmes autonomes

Les systèmes autonomes devront intégrer des dispositifs permettant aux humains de surveiller leurs décisions. La détection d’anomalies et la possibilité d’intervention resteront essentielles, particulièrement pour les actions sensibles ou irréversibles.

Vers une superintelligence humaniste

Microsoft ne renonce pas à la course aux performances. L’entreprise travaille sur une « Humanist Superintelligence », cherchant à développer des capacités d’IA extrêmement avancées tout en préservant des limites sur leur autonomie.

Maîtriser des systèmes dépassant les facultés humaines représente l’un des principaux défis technologiques de la décennie à venir. L’augmentation des capacités doit impérativement s’accompagner de mécanismes garantissant un contrôle humain effectif.

Des systèmes calibrés plutôt qu’illimités

Le groupe privilégie des intelligences artificielles soigneusement calibrées et adaptées à des contextes précis, plutôt qu’une IA généraliste sans périmètre clairement défini. Cette approche vise à concilier puissance technologique et maîtrise des risques.

Une mise en application différée à 2027

Pour l’instant, ce code de conduite n’est pas appliqué dans l’entraînement des modèles actuels. Il s’agit d’un projet destiné à recueillir les retours avant son déploiement effectif. Les principes édictés devraient guider le développement des modèles à partir de 2027.