01 Что произошло
NVIDIA объявила об Open Agent Safety Platform — открытой программной платформе и эталонном дизайне системы для повышения безопасности AI-агентов от тестирования до внедрения.
02 Ключевые детали
- OpenShell — программное обеспечение с открытым исходным кодом, которое задаёт границы выполнения, отслеживает действия агентов и обеспечивает соблюдение политик на CPU NVIDIA Vera.
- Эталонный дизайн Sentry использует внешнюю по отношению к агенту систему мониторинга на NVIDIA BlueField-4 DPU для непрерывного наблюдения за его поведением.
- Если агент пытается выйти за границы своего программного окружения, Sentry изолирует и останавливает его за миллисекунды.
03 Почему это важно
Платформа добавляет средства управления за пределами модели и программной оболочки агента, включая контроль на уровне инфраструктуры. Это помогает организациям задавать и применять границы работы автономных агентов.
04 Кому полезно
ИИ-разработчики, специалисты по информационной безопасности и ИТ-архитекторы.
Первоисточник