01 Ce qui s’est passé
Google Cloud a annoncé la disponibilité générale des instances Confidential G4 avec GPU NVIDIA RTX PRO 6000 Blackwell Server, offrant un chiffrement matériel pour l'inférence IA dans 36 zones.
02 Les points essentiels
- Les instances Confidential G4 avec GPU NVIDIA Blackwell sont en GA dans 36 zones Google Cloud.
- Les benchmarks montrent moins de 3,5 % de dégradation du débit pour Llama 3, Llama 3.3, Resnet-50 et SDXL.
- Aucune modification de code requise ; utilisation d'images Ubuntu standard et des pilotes NVIDIA.
- Le client Vertebrae a signalé une augmentation de latence de 5,2 % avec une garantie matérielle de confidentialité.
- Le support de Confidential Space pour le partage sécurisé de données multipartites sera déployé en disponibilité générale dans les semaines à venir.
03 Pourquoi c’est important
Les organisations peuvent protéger les poids des modèles et les données utilisateur pendant le calcul avec une isolation matérielle vérifiable, répondant aux exigences de conformité avec des pertes de performance minimales.
04 Pour qui c’est utile
Entreprises et développeurs en IA.
Source originale