01 क्या हुआ
Google ने अपने आठवें पीढ़ी के TPU पोर्टफोलियो का विस्तार करते हुए दो नए सिस्टम, TPU 8tx और TPU 8i Max की घोषणा की है।
02 मुख्य विवरण
- TPU 8tx संवेदनशील डेटा के लिए हार्डवेयर-लेवल सुरक्षा प्रदान करता है और सुरक्षित इन्फरेंस के लिए अनुकूलित है।
- TPU 8i Max दो TPU 8i चिप्स को जोड़ता है, जो TPU 8i की तुलना में दोगुनी कंप्यूट शक्ति और HBM बैंडविड्थ देता है।
- Google ने TPU Sync को ओपन-सोर्स किया है, जो Time to First Token (TTFT) को 90% से अधिक कम कर सकता है।
- TorchTPU प्रोजेक्ट के माध्यम से PyTorch कोड और Hugging Face मॉडल अब बिना कोड बदले TPU पर नेटिव रूप से चल सकते हैं।
03 यह क्यों महत्वपूर्ण है
ये नए सिस्टम सुरक्षित कंप्यूटिंग की आवश्यकता वाले उद्यमों और बड़े कॉन्टेक्स्ट विंडो वाले AI एजेंटों की मेमोरी संबंधी चुनौतियों को हल करते हैं।
04 किनके लिए महत्वपूर्ण है
एआई डेवलपर्स, एआई बुनियादी ढांचा इंजीनियर, एंटरप्राइज एआई ग्राहक और उच्च-प्रदर्शन कंप्यूटिंग विशेषज्ञ.
मूल स्रोत