01 Was passiert ist
Auf der KubeCon + CloudNativeCon North America 2026 führt Google Cloud einen einheitlichen, Open-Source AI-nativen Stack für Kubernetes und Google Kubernetes Engine (GKE) ein und erweitert diesen. Zu den neuen CNCF-Sandbox-Projekten gehören OpenRL, ein Kubernetes-nativer Post-Training-Dienst für Reinforcement Learning; llm-d 1.0, eine verteilte Inferenz-Steuerungsebene, die mit Red Hat, IBM Research, CoreWeave und NVIDIA gemeinsam entwickelt wurde; und Agent Substrate, eine Orchestrierungslaufzeit für mehrschrittige KI-Agenten. Google Cloud setzt zudem seine Kernbeiträge zu gVisor fort. Das Unternehmen teilte mit, dass es Gemma 4 auf dem Legal Agent Benchmark von Harvey.ai getestet hat: Die Genauigkeit bei Standard-SFT lag bei etwa 50 %, während OpenRL mit RL-Schleifen die Genauigkeit auf 70 % steigerte. In Produktionsumgebungen erhöhte das prefix-cache-basierte Routing von llm-d die Trefferquote des KV-Cache von 35 % auf 70 % und reduzierte die mittlere Zeit bis zum ersten Token um 70–85 % für mehrschichtige Agentenworkloads.
02 Die wichtigsten Details
- Google Cloud stellte auf der KubeCon 2026 OpenRL (CNCF Sandbox) vor, einen Kubernetes-nativen RL-Post-Training-Dienst mit kooperativer Zeitteilung und Delta-Gewichtssynchronisation.
- llm-d 1.0 (CNCF Sandbox), von Google Cloud, Red Hat, IBM Research, CoreWeave und NVIDIA gemeinsam entwickelt, bietet prefix-cache-basiertes Routing und das Auslagern von 3 Stufen des KV-Cache.
- Agent Substrate (CNCF Sandbox) wurde als offene Orchestrierungslaufzeit für mehrschichtige KI-Agenten gestartet; Google Cloud setzt seine Kernbeiträge zu gVisor fort.
- Die Tests von Gemma 4 am Legal Agent Benchmark (Harvey.ai) führten zu einer Verbesserung der Genauigkeit von ~50 % (SFT) auf 70 % mit OpenRL-RL-Schleifen.
03 Warum das wichtig ist
Google Cloud integriert RL-Post-Training, verteilte Inferenz und Agentensicherheit in einen einzigen offenen Kubernetes-Stack, der eine bessere Auslastung der Beschleuniger und eine geringere Latenz verspricht, ohne an einen Anbieter gebunden zu sein.
04 Für wen es relevant ist
Plattformingenieure, Forscher im Bereich der künstlichen Intelligenz, Entwickler von KI-Agenten, DevOps-Spezialisten und IT-Architekten.