01 发生了什么
NVIDIA宣布推出Open Agent Safety Platform。这是一套开放软件平台及参考系统设计,旨在从测试到部署提升AI智能体的安全性。
02 关键细节
- OpenShell是开源软件,可在智能体运行于NVIDIA Vera CPU时设定运行边界、追踪操作并执行策略。
- 参考设计Sentry在NVIDIA BlueField-4 DPU上运行带外监控程序,持续监测智能体行为。
- 如果智能体试图越出其软件边界,Sentry会在毫秒内将其隔离并停止运行。
03 为什么重要
该平台将治理与控制扩展到模型和智能体运行框架之外,包括基础设施层,帮助组织为自主智能体设定并执行行为边界。
04 适合谁
AI开发人员、信息安全专业人员及IT架构师。
原始来源