01 Ce qui s’est passé

Cohere a annoncé la bêta publique de Confidential Computing sur Model Vault, fonctionnant sur les GPU NVIDIA H100 dans Microsoft Azure. Le système utilise l'isolation matérielle et l'attestation à distance pour permettre aux clients de vérifier l'environnement avant d'envoyer des données sensibles.

02 Les points essentiels

  • Confidential Computing de Cohere Model Vault est maintenant en bêta publique sur Microsoft Azure avec NVIDIA H100.
  • Le système protège la mémoire GPU, chiffre les requêtes via OHTTP et effectue une attestation à distance avant le traitement.
  • Les clients contrôlent les politiques d'attestation et peuvent vérifier les mesures indépendamment.
  • Cohere prévoit d'ouvrir le code source de la pile et d'ajouter le support NVIDIA Blackwell B200 avant la disponibilité générale.

03 Pourquoi c’est important

Les entreprises ont besoin d'assurance vérifiable que l'inférence IA reste confidentielle vis-à-vis des opérateurs d'infrastructure. L'approche de Cohere rend la frontière de confiance explicite et mesurable.

04 Pour qui c’est utile

Équipes de sécurité en IA, responsables conformité et développeurs déployant des charges de travail confidentielles dans Azure.

Source originale
Cohere