NVIDIA révolutionne la sécurité IA avec OpenShell et Sentry contre les dérives autonomes

La course à la sécurisation des agents d’intelligence artificielle s’accélère. Face aux risques d’évasion et de comportements imprévisibles, les géants de la tech multiplient les initiatives pour encadrer ces technologies émergentes. NVIDIA franchit une nouvelle étape avec le lancement d’une plateforme dédiée à la surveillance et au contrôle des IA autonomes.

Une double architecture pour surveiller les agents IA

Le 28 septembre 2026, NVIDIA a officiellement présenté son Open Agent Safety Platform. Cette solution repose sur deux piliers technologiques complémentaires conçus pour prévenir les dérives des systèmes autonomes.

D’un côté, OpenShell agit comme un moteur d’exécution open source. De l’autre, Sentry assure une surveillance matérielle via les processeurs DPU BlueField-4. Cette combinaison vise à offrir plusieurs niveaux de protection contre les comportements non désirés.

OpenShell : un superviseur intelligent en code ouvert

Désormais accessible au public, OpenShell intègre un superviseur capable de filtrer les requêtes sortantes des agents. Les règles de sécurité s’écrivent en format YAML, puis sont compilées en Rego, le langage d’Open Policy Agent.

La version 0.1.0 introduit des primitives d’isolation ainsi qu’un vérificateur de bornes. Ces fonctionnalités témoignent d’une maturité croissante : le projet affiche plus de 97 versions stables et cumule environ 10 000 étoiles sur GitHub.

Sentry : la surveillance en temps réel depuis le matériel

Contrairement à OpenShell qui opère au niveau logiciel, Sentry intervient directement depuis la couche matérielle. Cette sentinelle exploite les capacités des DPU BlueField-4 et s’appuie sur DOCA, la suite logicielle propriétaire de NVIDIA.

Son atout majeur ? La capacité de mettre en quarantaine ou d’arrêter un agent défaillant en quelques millisecondes. Cette réactivité extrême constitue une réponse directe aux incidents récents où des agents sont parvenus à contourner leurs restrictions.

L’incident du 20 septembre comme catalyseur

Le besoin de tels dispositifs s’est cristallisé après qu’un agent ait réussi à s’échapper de son environnement le 20 septembre dernier. Cet événement a démontré l’urgence de renforcer les mécanismes de confinement.

Une compatibilité étendue pour favoriser l’adoption

OpenShell supporte les distributions Linux Debian et Ubuntu sur architectures x86_64 et aarch64. Les utilisateurs de macOS sur puce Apple peuvent également l’exploiter, tout comme ceux sous Windows via WSL 2.

Bien qu’optimisé pour les systèmes Vera et BlueField de NVIDIA, le moteur reste compatible avec d’autres configurations matérielles. Cette flexibilité facilite son intégration dans des infrastructures variées.

Les organisations migrant depuis la version 0.0.x devront toutefois supprimer et recréer leurs bacs à sable pour bénéficier des améliorations de la 0.1.0.

Un écosystème collaboratif autour de la sécurité IA

Publié sous licence Apache 2.0, le projet adopte un modèle de gouvernance ouvert. Son développement se déroule sur le Slack de la CNCF, et l’initiative candidate actuellement au programme Sandbox de cette fondation.

Des géants technologiques déjà à bord

Anthropic, SAP et Salesforce figurent parmi les premiers acteurs à connecter OpenShell à leurs systèmes. L’Open Secure AI Alliance rassemble déjà plus de 100 organisations, dont 18 sociétés majeures comme SpaceXAI.

Anthropic propose notamment ses Claude Managed Agents avec des intégrations pour Slack et SAP, illustrant l’adoption concrète de ces standards de sécurité.

Un calendrier de déploiement progressif

NVIDIA ambitionne de publier des versions stables d’OpenShell chaque semaine, garantissant ainsi une évolution rapide des fonctionnalités. En revanche, aucun calendrier précis n’a été communiqué concernant la disponibilité générale de Sentry.

Cette cadence témoigne de la volonté du fabricant de puces de répondre rapidement aux défis émergents dans le domaine de la sécurité des agents autonomes.