01 क्या हुआ

Cohere ने Model Vault पर गोपनीय कंप्यूटिक की सार्वजनिक बीटा उपलब्ध कराई है, जो NVIDIA H100 GPU पर Azure में चलती है। प्रणाली हार्डवेयर आइसोलेशन और रिमोट अटेस्टेशन का उपयोग करती है ताकि ग्राहक डेटा भेजने से पहले वातावरण को सत्यापित कर सके।

02 मुख्य विवरण

  • Cohere Model Vault का गोपनीय कंप्यूटिंग अब माइक्रोसॉफ्ट Azure पर NVIDIA H100 GPU के साथ पब्लिक बीटा में
  • सिस्टम GPU मेमोरी की रक्षा करता है, OHTTP से एन्क्रिप्ट करता है और डेटा जारी होने से पहले रिमोट अटेस्टेशन करता है।
  • ग्राहक अटेस्टेशन नीतियों को नियंत्रित करते हैं और स्वतंत्र रूप से मापों को सत्यापित कर सकते हैं।
  • Cohere ने Model Vault पर गोपनीय कंप्यूटिंग के पब्लिक बीटा की घोषणा की, जो NVIDIA H100 GPU पर Azure में चलता है। सिस्टम हार्डवेयर आइसोलेशन और रिमोट अटेस्टेशन का उपयोग करता है ताकि ग्राहक डेटा भेजने से पहले वातावरण को सत्यापित कर सकें।
  • Cohere NVIDIA Blackwell B200 का समर्थन करने की दिशा में कार्य कर रही है, लेकिन आवश्यक रूप से स्टैक को खुला स्रोत नहीं बना रही है।

03 यह क्यों महत्वपूर्ण है

उद्यमों को आवश्यकता है कि AI इंफ्रेंस इंफ्रास्ट्रक्चर ऑपरेटरों से गोपनीय रहे। Cohere का दृष्टिकोण विश्वास सीमा को स्पष्ट और मापनीय बनाता है।

04 किनके लिए महत्वपूर्ण है

एआई सुरक्षा टीमें, अनुपालन अधिकारी और azure में गोपनीय वर्कलोड तैनात करने वाले डेवलपर्स.

मूल स्रोत
Cohere