01 Что произошло

На KubeCon + CloudNativeCon North America 2026 компания Google Cloud расширяет свою открытую AI-native технологическую платформу для Kubernetes и Google Kubernetes Engine (GKE). В CNCF Sandbox включены OpenRL — сервис RL-дообучения, максимизирующий загрузку ускорителей; llm-d 1.0 — распределённая управляющая плоскость для вывода, совместно разработанная с Red Hat, IBM Research, CoreWeave и NVIDIA; и Agent Substrate — среда оркестрации многошаговых AI-агентов. Google Cloud также вносит вклад в gVisor — изоляционную песочницу на уровне ядра. Компания сообщила о тестировании Gemma 4 на бенчмарке Legal Agent Benchmark от Harvey.ai: точность при стандартном SFT составила около 50%, а с RL-циклами OpenRL достигла 70%. В производственных развёртываниях llm-d удвоила попадание в KV-кэш (с 35% до 70%) и сократила медианное время до первого токена на 70–85% для многошаговых задач агентов.

02 Ключевые детали

  • Google Cloud на KubeCon 2026 представил OpenRL (CNCF Sandbox) — сервис RL-дообучения для Kubernetes с кооперативным разделением ускорителей и дельта-синхронизацией весов.
  • llm-d 1.0 (CNCF Sandbox), совместно разработанный Google Cloud, Red Hat, IBM Research, CoreWeave и NVIDIA, обеспечивает маршрутизацию по префиксному кэшу и трехуровневую выгрузку KV-кэша.
  • Agent Substrate (CNCF Sandbox) был запущен как открытая среда оркестрации для многошаговых AI-агентов; Google Cloud продолжает вклад в gVisor для изоляции на уровне ядра.
  • Тестирование Gemma 4 на Legal Agent Benchmark (Harvey.ai) привело к увеличению точности с ~50% (SFT) до 70% при использовании OpenRL.
  • В производстве llm-d сократила медианное время до первого токена на 70–85% и удвоила попадание в KV-кэш на многошаговых нагрузках.

03 Почему это важно

Google Cloud объединяет RL-дообучение, распределённый вывод и агентов-безопасность в едином открытом Kubernetes-стеке, предлагая более высокую загрузку ускорителей и меньшую задержку без привязки к поставщику.

04 Кому полезно

Инженеры платформ, исследователи в области искусственного интеллекта, разработчики AI-агентов, devOps-специалисты и ИТ-архитекторы.

Первоисточник
Google Cloud