01 Что произошло

Cohere объявила о публичной бете конфиденциальных вычислений на Model Vault на GPU NVIDIA H100 в Azure. Система использует аппаратную изоляцию и удаленную аттестацию, позволяя клиентам проверить среду перед отправкой данных.

02 Ключевые детали

  • Confidential Computing на Cohere Model Vault теперь в публичной бете на Microsoft Azure с NVIDIA H100.
  • Система защищает память GPU, шифрует запросы через OHTTP и проводит удаленную аттестацию перед обработкой.
  • Клиенты управляют политиками аттестации и могут независимо проверять измерения.
  • Cohere планирует открыть исходный код стека и добавить поддержку NVIDIA Blackwell B200 до релиза.

03 Почему это важно

Предприятиям нужна проверяемая конфиденциальность при ИИ-инференсе. Решение Cohere делает границу доверия измеримой, уменьшая зависимость от неявного доверия к инфраструктуре.

04 Кому полезно

Команды по безопасности ИИ, комплаенс-офицеры и разработчики, развертывающие конфиденциальные нагрузки в Azure.

Первоисточник
Cohere