L’IA échappe au contrôle des entreprises : un défi technologique majeur

L’intelligence artificielle s’impose à une cadence fulgurante dans le monde de l’entreprise. Mais cette course à l’innovation soulève un problème majeur : les directions informatiques peinent à maintenir la maîtrise de technologies qu’elles ont elles-mêmes déployées. Une récente enquête menée par IBM dévoile l’ampleur du défi et les risques qui planent sur les organisations.

Une adoption qui dépasse les capacités de gestion

Les chiffres parlent d’eux-mêmes. 70 % des décideurs estiment que l’IA se déploie plus vite que leurs équipes informatiques ne peuvent la superviser. Plus alarmant encore : 77 % reconnaissent que l’adoption de cette technologie excède largement les dispositifs de gouvernance existants.

Les directions des systèmes d’information et les directeurs technologiques se retrouvent dans une position délicate. Ils portent la responsabilité de systèmes qu’ils ne maîtrisent pas totalement, une situation inédite dans l’histoire de l’informatique d’entreprise.

Le phénomène du « shadow AI » dilue les responsabilités

Un nouveau concept fait son apparition dans le vocabulaire des experts : le « shadow AI ». Ce terme désigne l’utilisation de solutions d’intelligence artificielle sans validation ni supervision des équipes informatiques centrales.

Cette pratique fragmentée pose un problème structurel majeur. Seulement 16 % des entreprises disposent d’un modèle de gouvernance unifié capable d’encadrer ces initiatives dispersées. Les responsabilités se diluent, créant des zones grises dangereuses.

Des expérimentations sans cadre organisé

Sanchit Vir Gogia pointe du doigt une expérimentation décentralisée qui se fait sans répartition organisée de la responsabilité. « C’est pourquoi la visibilité compte désormais davantage que l’autorité. »

Deepika Giri observe que l’adoption se réalise à la périphérie de l’entreprise, tandis que la responsabilité reste centralisée. Un décalage qui amplifie les tensions opérationnelles.

Des risques qui vont bien au-delà de la cybersécurité

Charlie Dai élargit le spectre des menaces. Les risques comprennent des coûts non maîtrisés et des expositions réglementaires qui dépassent largement les seules questions de sécurité informatique.

Les incidents se multiplient déjà. En 2022, 54 incidents liés à l’IA ont été rapportés en moyenne par entreprise, dont 17 % présentaient un caractère critique. Un chiffre appelé à exploser avec la généralisation des agents autonomes.

L’explosion prévue des agents IA

D’ici 2027, l’utilisation d’agents d’intelligence artificielle devrait augmenter de 38 %. Ces systèmes autonomes prennent des décisions sans intervention humaine, multipliant exponentiellement les points de contrôle nécessaires.

La gouvernance manuelle actuelle sera incapable de faire face au volume de décisions prises de façon autonome. Charlie Dai souligne : « L’IA agentique introduit des comportements dynamiques et non déterministes… »

Des solutions pour reprendre le contrôle

Face à cette situation, les entreprises doivent repenser leur approche. Intégrer la gouvernance directement dans les systèmes d’IA réduit de 25 % le nombre d’incidents, selon les données recueillies.

Matt Lyteson évoque le défi de faire monter en puissance des systèmes d’intelligence artificielle dans des modèles préexistants. Une transformation profonde s’impose.

Vers une gouvernance opérationnelle continue

Les recommandations s’articulent autour de trois axes majeurs. L’observabilité centralisée permet de surveiller l’ensemble des déploiements IA à travers l’organisation.

Les contrôles de politiques doivent être automatisés et intégrés nativement aux systèmes. Enfin, une gouvernance renforcée des données devient indispensable pour garantir la conformité et la traçabilité.

Cette évolution nécessite de passer d’une approche réactive à une capacité opérationnelle continue et centralisée. Un changement de paradigme que peu d’entreprises ont encore réalisé.