01 क्या हुआ

KubeCon + CloudNativeCon North America 2026 में Google Cloud ने Kubernetes और Google Kubernetes Engine के लिए ओपन-सोर्स AI-नेटिव कंपोनेंट्स का एक सूट पेश और विस्तारित किया। नए CNCF Sandbox प्रोजेक्ट्स में शामिल हैं: OpenRL, रीइन्फोर्समेंट लर्निंग के लिए Kubernetes-नेटिव पोस्ट-ट्रेनिंग सेवा जो एक्सेलरेटर उपयोग को अधिकतम करती है; llm-d 1.0, एक वितरित इन्फ़रेंस कंट्रोल प्लेन जिसे Google Cloud, Red Hat, IBM Research, CoreWeave और NVIDIA ने सह-स्थापित किया; और Agent Substrate, मल्टी-टर्न AI एजेंट्स के लिए एक ऑर्केस्ट्रेशन रनटाइम। Google Cloud ने gVisor, एक कर्नेल-लेवल कंटेनर सैंडबॉक्स, में अपना कोर योगदान जारी रखा। कंपनी ने बताया कि उसने Harvey.ai के Legal Agent Benchmark पर Gemma 4 का परीक्षण किया: स्टैंडर्ड SFT की सटीकता लगभग 50% पर स्थिर रही, जबकि OpenRL के RL लूप्स लगाने पर सटीकता बढ़कर 70% हो गई। प्रोडक्शन डिप्लॉयमेंट में, llm-d के प्रीफिक्स-कैश-अवेयर रूटिंग ने KV कैश हिट रेट को 35% से दोगुना कर 70% कर दिया और मल्टी-टर्न एजेंट वर्कलोड पर मीडियन टाइम-टू-फर्स्ट-टोकन को 70–85% तक कम कर दिया।

02 मुख्य विवरण

  • Google Cloud ने KubeCon 2026 में OpenRL (CNCF Sandbox) पेश किया — कोऑपरेटिव एक्सेलरेटर टाइम-स्लाइसिंग और डेल्टा-वेट सिंक वाली Kubernetes-नेटिव RL पोस्ट-ट्रेनिंग सेवा।
  • llm-d 1.0 (CNCF Sandbox), जिसे Google Cloud, Red Hat, IBM Research, CoreWeave और NVIDIA ने सह-स्थापित किया, प्रीफिक्स-कैश-अवेयर रूटिंग और 3-टियर KV कैश ऑफलोड प्रदान करता है।
  • Agent Substrate (CNCF Sandbox) को मल्टी-टर्न AI एजेंट्स के लिए ओपन ऑर्केस्ट्रेशन रनटाइम के रूप में लॉन्च किया गया; Google Cloud gVisor में कोर योगदान जारी रखता है।
  • Harvey.ai के Legal Agent Benchmark पर Gemma 4 के परीक्षण में, OpenRL के RL लूप्स के साथ, सटीकता ~50% (SFT) से बढ़कर 70% होने का दावा किया गया है।

03 यह क्यों महत्वपूर्ण है

Google Cloud RL पोस्ट-ट्रेनिंग, डिस्ट्रीब्यूटेड इन्फ़रेंस और एजेंट सुरक्षा को एक ओपन Kubernetes स्टैक में समेकित करता है, जिसमें वेंडर लॉक-इन के बिना बेहतर एक्सेलरेटर उपयोग और कम विलंबता का वादा है।

04 किनके लिए महत्वपूर्ण है

प्लेटफ़ॉर्म इंजीनियर, कृत्रिम बुद्धिमत्ता अनुसंधानकर्ता, एआई एजेंट डेवलपर्स, devOps विशेषज्ञ और आईटी आर्किटेक्ट.

मूल स्रोत
Google Cloud