01 发生了什么

NVIDIA宣布推出Open Agent Safety Platform。这是一套开放软件平台及参考系统设计,旨在从测试到部署提升AI智能体的安全性。

02 关键细节

  • OpenShell是开源软件,可在智能体运行于NVIDIA Vera CPU时设定运行边界、追踪操作并执行策略。
  • 参考设计Sentry在NVIDIA BlueField-4 DPU上运行带外监控程序,持续监测智能体行为。
  • 如果智能体试图越出其软件边界,Sentry会在毫秒内将其隔离并停止运行。

03 为什么重要

该平台将治理与控制扩展到模型和智能体运行框架之外,包括基础设施层,帮助组织为自主智能体设定并执行行为边界。

04 适合谁

AI开发人员、信息安全专业人员及IT架构师。

原始来源
NVIDIA