01 发生了什么

Google Cloud 宣布配备 NVIDIA RTX PRO 6000 Blackwell Server GPU 的 Confidential G4 实例正式商用,在 36 个区域为 AI 推理提供硬件级加密。

02 关键细节

  • 配备 NVIDIA Blackwell GPU 的 Confidential G4 实例已在 36 个区域正式商用。
  • 基准测试显示对 Llama 3、Llama 3.3、Resnet-50、SDXL 的吞吐量损失低于 3.5%。
  • 无需修改代码,使用标准 Ubuntu 镜像和 NVIDIA 驱动。
  • 客户 Vertebrae 报告延迟增加 5.2%,同时获得硬件级隐私保障。
  • 面向安全多方数据共享的 Confidential Space 支持将在未来几周内全面上市。

03 为什么重要

组织可在计算过程中通过可验证的硬件隔离保护模型权重和用户数据,以最小的性能代价满足合规要求。

04 适合谁

企业及AI开发人员。

原始来源
Google Cloud