Nvidia a présenté le 28 septembre Open Agent Safety Platform, un ensemble destiné à encadrer les agents d’intelligence artificielle lorsqu’ils utilisent des outils et agissent sur des systèmes informatiques. L’annonce associe un logiciel ouvert, OpenShell, et un modèle d’architecture matérielle, Sentry.
L’objectif est concret : limiter ce qu’un agent peut faire, même lorsqu’il reçoit une instruction problématique ou produit une action inattendue. La sûreté ne dépendrait donc pas uniquement du comportement du modèle. Elle reposerait aussi sur des permissions appliquées à l’environnement dans lequel il travaille.
Des accès explicitement délimités
La documentation d’OpenShell décrit des espaces d’exécution isolés et des règles déclaratives. Les fichiers accessibles, les destinations réseau autorisées et certaines opérations des processus peuvent être encadrés séparément. Les connexions sortantes non approuvées sont bloquées selon la politique définie.
Le logiciel prévoit également des restrictions sur l’utilisation des identifiants et des fournisseurs de modèles. Certaines règles, notamment réseau, peuvent évoluer pendant l’exécution, tandis que d’autres protections sont fixées lors de la création de l’environnement. Ces différences comptent pour les équipes qui doivent modifier des accès sans interrompre tous leurs agents.
Un surveillant séparé de l’agent
Sentry ajoute, dans la conception présentée par Nvidia, un dispositif de surveillance distinct fonctionnant sur ses processeurs BlueField-4. Le fabricant affirme qu’il peut isoler en quelques millisecondes un agent qui tente de franchir les limites prévues. Ce délai est une capacité annoncée par Nvidia, pas une performance mesurée indépendamment dans cet article.
Il faut aussi distinguer les deux composants : OpenShell est un logiciel disponible avec sa documentation, tandis que Sentry est présenté comme une architecture de référence. Une annonce de plateforme ne signifie pas que tous les systèmes d’une entreprise disposent déjà de ces protections.
La portée de ces outils dépendra enfin des droits effectivement accordés et de leur configuration. Le communiqué et la documentation expliquent le mécanisme proposé, mais proviennent du même fournisseur. Ils ne constituent pas deux audits indépendants de sécurité.
