01 Ce qui s’est passé

Au KubeCon + CloudNativeCon North America 2026, Google Cloud a présenté et étendu une suite de composants open-source natifs pour l'IA sur Kubernetes et Google Kubernetes Engine. Nouveaux projets CNCF Sandbox : OpenRL, un service de post-entraînement natif Kubernetes pour l'apprentissage par renforcement ; llm-d 1.0, un plan de contrôle d'inférence distribué cofondé avec Red Hat, IBM Research, CoreWeave et NVIDIA ; et Agent Substrate, un runtime d'orchestration pour agents IA multitours. Google Cloud poursuit ses contributions à gVisor. La société a testé Gemma 4 sur le Legal Agent Benchmark de Harvey.ai : la précision du SFT plafonnait à environ 50 %, tandis qu'OpenRL l'a portée à 70 %. En production, le routage sensible au cache de préfixes de llm-d a doublé le taux de succès du cache KV (35 % à 70 %) et réduit le temps médian jusqu'au premier token de 70–85 % pour les charges de travail d'agents multitours.

02 Les points essentiels

  • Google Cloud a présenté au KubeCon 2026 OpenRL (CNCF Sandbox), un service de post-entraînement RL natif Kubernetes avec partage coopératif du temps et synchronisation delta des poids.
  • llm-d 1.0 (CNCF Sandbox), cofondé par Google Cloud, Red Hat, IBM Research, CoreWeave et NVIDIA, assure un routage sensible au cache de préfixes et une gestion 3 niveaux du cache KV.
  • Agent Substrate (CNCF Sandbox) a été lancé comme runtime d'orchestration ouvert pour agents IA multitours ; Google Cloud poursuit ses contributions à gVisor.
  • Les tests de Gemma 4 sur le Legal Agent Benchmark (Harvey.ai) ont montré une augmentation de la précision de ~50 % (SFT) à 70 % avec les boucles RL d'OpenRL.

03 Pourquoi c’est important

Google Cloud regroupe le post-entraînement RL, l'inférence distribuée et la sécurité des agents dans une pile Kubernetes ouverte, promettant une meilleure utilisation des accélérateurs et une latence réduite sans verrouillage propriétaire.

04 Pour qui c’est utile

Ingénieurs de plateformes, chercheurs en intelligence artificielle, développeurs d'agents IA, spécialistes DevOps et architectes informatiques.

Source originale
Google Cloud