NVIDIA представила платформу для обеспечения безопасности AI-агентов

01 Что произошло

Компания NVIDIA объявила о запуске Open Agent Safety Platform. Это программный комплекс и эталонный дизайн системы, предназначенные для повышения безопасности автономных AI-агентов на всех этапах: от тестирования до внедрения в рабочую среду.

02 Ключевые детали

• Программное обеспечение OpenShell обеспечивает мониторинг выполнения агентов в режиме реального времени и принудительное соблюдение границ безопасности на базе CPU NVIDIA Vera.
• Эталонная система Sentry использует вычислительные блоки BlueField-4 DPU как внешние инструменты контроля для постоянного наблюдения за поведением агентов.
• В случае нарушения заданных политик безопасности система Sentry способна автоматически изолировать проблемных агентов за миллисекунды.

03 Почему это важно

Платформа позволяет компаниям внедрить аппаратный контроль безопасности, действующий независимо от приложений. Это помогает предотвратить ситуации, когда автономные агенты пытаются обойти стандартные меры защиты на прикладном уровне.

04 Кому полезно

ИИ-разработчики, специалисты по кибербезопасности и ИТ-архитекторы.