01 Was passiert ist
Google Cloud hat die allgemeine Verfügbarkeit von Confidential G4-Instanzen mit NVIDIA RTX PRO 6000 Blackwell Server GPUs bekanntgegeben, die verschlüsselte KI-Inferenz in 36 Zonen bieten.
02 Die wichtigsten Details
- Confidential G4 mit NVIDIA Blackwell GPUs sind in 36 Zonen von Google Cloud allgemein verfügbar.
- Benchmarks zeigen weniger als 3,5 % Durchsatzverlust für Llama 3, Llama 3.3, Resnet-50 und SDXL.
- Keine Code-Änderungen nötig; Standard-Ubuntu-Images und NVIDIA-Treiber werden verwendet.
- Kunde Vertebrae berichtet über 5,2 % höhere Latenz bei hardwarebasierter Privatsphäre-Garantie.
- Confidential Space für sicheren Mehrparteien-Datenaustausch wird in den kommenden Wochen allgemein verfügbar.
03 Warum das wichtig ist
Unternehmen können Modellgewichte und Nutzerdaten während der Berechnung mit überprüfbarer Hardware-Isolation schützen und Compliance-Anforderungen mit minimalen Leistungseinbußen erfüllen.
04 Für wen es relevant ist
Unternehmen und KI-Entwickler.
Originalquelle