01 发生了什么
在 KubeCon + CloudNativeCon North America 2026 上，Google Cloud 介绍了并扩展了一套面向 Kubernetes 和 Google Kubernetes Engine 的开源 AI 原生组件。 新的 CNCF Sandbox 项目包括：OpenRL，一个 Kubernetes 原生 RL 后训练服务，可最大化加速器利用率；llm-d 1.0，一个分布式推理控制平面，由 Google Cloud、Red Hat、IBM Research、CoreWeave 和 NVIDIA 共同创立；以及 Agent Substrate，一个面向多轮 AI 代理的工作流编排运行时。 Google Cloud 继续为 gVisor 做出核心贡献，gVisor 是一款内核级容器沙箱。 公司报告称，在 Harvey.ai 的法律代理基准测试中测试了 Gemma 4：标准 SFT 的准确率停滞在约 50%，而使用 OpenRL 的 RL 循环后，准确率提升至 70%。 在生产部署中，llm-d 的前缀感知路由将 KV 缓存命中率从 35% 翻倍至 70% ，并将多轮代理工作负载的中位数首次响应时间降低了 70–85%。
02 关键细节
- Google Cloud 在 KubeCon 2026 上推出 OpenRL（CNCF Sandbox），一个使用协作加速器时间分片和增量权重同步的 Kubernetes 原生 RL 后训练服务。
- llm-d 1.0（CNCF Sandbox）由 Google Cloud、Red Hat、IBM Research、CoreWeave 和 NVIDIA 共同开发，提供前缀感知路由和三层 KV 缓存卸载。
- Agent Substrate（CNCF Sandbox）作为面向多轮 AI 代理的开放编排运行时启动；Google Cloud 继续为 gVisor 做出核心贡献。
- 在 Harvey.ai 的法律代理基准测试中，使用 OpenRL 的 RL 循环将 Gemma 4 的准确率从约 50%（SFT）提升至 70%。
03 为什么重要
Google Cloud 将 RL 后训练、分布式推理和代理安全整合到单个开放 Kubernetes 技术栈中，承诺提高加速器利用率并降低延迟，而无需锁定供应商。
04 适合谁
平台工程师、人工智能研究人员、人工智能代理开发人员、devOps专家及IT架构师。
原始来源