01 Was passiert ist
Cohere kündigte die öffentliche Beta von Confidential Computing auf dem Model Vault an, betrieben auf NVIDIA H100 GPUs in Azure. Das System nutzt Hardware-Isolierung und Remote-Attestation, damit Kunden die Umgebung überprüfen können, bevor sie sensible Daten senden.
02 Die wichtigsten Details
- Confidential Computing auf Cohere Model Vault ist jetzt in öffentlicher Beta auf Microsoft Azure mit NVIDIA H100 GPUs.
- Das System schützt den GPU-Arbeitsspeicher, verschlüsselt Anfragen per OHTTP und führt Remote-Attestation vor der Datenfreigabe durch.
- Kunden steuern die Attestationsrichtlinien und können die Messungen unabhängig prüfen.
- Cohere plant, den Stack Open-Source zu veröffentlichen und NVIDIA Blackwell B200 bis zur GA zu unterstützen.
03 Warum das wichtig ist
Unternehmen benötigen überprüfbare Garantien, dass KI-Inferenz vor Infrastrukturbetreibern geschützt ist. Coheres Ansatz macht die Vertrauensgrenze explizit und messbar.
04 Für wen es relevant ist
KI-Sicherheitsteams, Compliance-Beauftragte und Entwickler, die vertrauliche Workloads in Azure bereitstellen.
Originalquelle