01 क्या हुआ
Google Cloud ने NVIDIA RTX PRO 6000 Blackwell Server GPU के साथ Confidential G4 इंस्टेंस की सामान्य उपलब्धता (GA) की घोषणा की, जो 36 ज़ोन में एन्क्रिप्टेड AI इन्फ़रेंस प्रदान करता है।
02 मुख्य विवरण
- NVIDIA Blackwell GPU के साथ Confidential G4 इंस्टेंस 36 Google Cloud ज़ोन में सामान्य उपलब्ध (GA) हैं।
- बेंचमार्किंग से Llama 3, Llama 3.3, Resnet-50, और SDXL के लिए 3.5% से कम थ्रूपुट गिरावट दिखती है।
- कोई कोड बदलाव आवश्यक नहीं; मानक Ubuntu OS छवियाँ और NVIDIA CUDA-X लाइब्रेरीज़ का उपयोग होता है।
- ग्राहक Vertebrae ने हार्डवेयर-स्तरीय गोपनीयता आश्वासन के साथ 5.2% एंड-टू-एंड लेटेंसी वृद्धि की रिपोर्ट दी।
- सुरक्षित मल्टी-पार्टी डेटा साझाकरण के लिए Confidential Space का GA रोलआउट आने वाले हफ्तों में होगा।
03 यह क्यों महत्वपूर्ण है
संगठन सत्यापनीय हार्डवेयर आइसोलेशन के साथ गणना के दौरान मॉडल वेट और उपयोगकर्ता डेटा की रक्षा कर सकते हैं, न्यूनतम प्रदर्शन व्यापार-बंद के साथ अनुपालन आवश्यकताओं को पूरा कर सकते हैं।
04 किनके लिए महत्वपूर्ण है
उद्यम और एआई डेवलपर्स.
मूल स्रोत