01 Ce qui s’est passé

NVIDIA a annoncé l’Open Agent Safety Platform, une plateforme logicielle ouverte et un système de référence conçus pour renforcer la sécurité des agents d’IA, des tests au déploiement.

02 Les points essentiels

  • OpenShell est un logiciel open source qui définit des limites d’exécution, trace les actions des agents et applique des politiques lorsqu’ils fonctionnent sur des processeurs NVIDIA Vera.
  • Le système de référence Sentry utilise un mécanisme de surveillance hors bande sur des DPU NVIDIA BlueField-4 pour suivre en continu le comportement des agents.
  • Si un agent tente de dépasser les limites de son environnement logiciel, Sentry le met en quarantaine et l’arrête en quelques millisecondes.

03 Pourquoi c’est important

La plateforme ajoute des mécanismes de gouvernance au-delà du modèle et de l’environnement logiciel de l’agent, notamment au niveau de l’infrastructure. Les organisations peuvent ainsi définir et faire respecter des limites d’action.

04 Pour qui c’est utile

Développeurs en IA, spécialistes de la sécurité de l’information et architectes informatiques.

Source originale
NVIDIA