Cohere Model Vault 保密计算功能在 Azure NVIDIA H100 GPU 上进入公开测试

01 发生了什么

Cohere 宣布 Model Vault 的保密计算功能已在 Microsoft Azure 上以 NVIDIA H100 GPU 进入公开测试。该系统使用硬件隔离和远程认证，让客户在发送敏感数据前验证环境。

02 关键细节

• Cohere Model Vault 的保密计算现在在 Microsoft Azure 上以 NVIDIA H100 GPU 公开测试。
• 该系统保护 GPU 内存，通过 OHTTP 加密请求，并在处理前进行远程认证。
• 客户控制认证策略并可独立验证测量结果。
• Cohere 计划开源推理堆栈并在正式发布前支持 NVIDIA Blackwell B200。

03 为什么重要

企业需要可信赖的保证，确保 AI 推理对基础设施操作者保持机密。Cohere 的方法让信任边界明确且可测量。

04 适合谁

AI安全团队、合规官及在Azure部署机密工作负载的开发人员。