01 Что произошло
Google Cloud объявил, что конфиденциальные вычисления на инстансах G4 с GPU NVIDIA RTX PRO 6000 Blackwell Server теперь общедоступны, обеспечивая аппаратное шифрование для ИИ-выводов в 36 зонах.
02 Ключевые детали
- Confidential G4 с GPU NVIDIA Blackwell стали общедоступными в 36 зонах Google Cloud.
- Тесты показали снижение пропускной способности менее 3,5% для Llama 3, Llama 3.3, Resnet-50 и SDXL.
- Для развертывания не требуется изменений кода — используются стандартные образы Ubuntu и NVIDIA-драйверы.
- Клиент Vertebrae обнаружил рост задержки на 5,2% при аппаратной гарантии приватности.
- Поддержка Confidential Space для безопасного обмена данными между несколькими сторонами будет развернута в ближайшие недели.
03 Почему это важно
Организации могут защищать веса моделей и данные пользователей во время вычислений с проверяемой аппаратной изоляцией, соблюдая регуляторные требования с минимальным снижением производительности.
04 Кому полезно
Предприятия и ИИ-разработчики.
Первоисточник