01 Что произошло

NVIDIA объявила об Open Agent Safety Platform — открытой программной платформе и эталонном дизайне системы для повышения безопасности AI-агентов от тестирования до внедрения.

02 Ключевые детали

  • OpenShell — программное обеспечение с открытым исходным кодом, которое задаёт границы выполнения, отслеживает действия агентов и обеспечивает соблюдение политик на CPU NVIDIA Vera.
  • Эталонный дизайн Sentry использует внешнюю по отношению к агенту систему мониторинга на NVIDIA BlueField-4 DPU для непрерывного наблюдения за его поведением.
  • Если агент пытается выйти за границы своего программного окружения, Sentry изолирует и останавливает его за миллисекунды.

03 Почему это важно

Платформа добавляет средства управления за пределами модели и программной оболочки агента, включая контроль на уровне инфраструктуры. Это помогает организациям задавать и применять границы работы автономных агентов.

04 Кому полезно

ИИ-разработчики, специалисты по информационной безопасности и ИТ-архитекторы.

Первоисточник
NVIDIA