NVIDIA представила платформу для обеспечения безопасности AI-агентов
NVIDIA выпустила Open Agent Safety Platform — решение для контроля и защиты автономных AI-систем на уровне программного и аппаратного обеспечения.
NVIDIA↗
ТЕМАТИКА
Инфраструктура инференса
Новости и практические материалы об AI по этой теме.
Последние материалы
11Google DeepMind внедряет постоянную память в Private AI Compute
Google обновляет Private AI Compute, добавляя защищенное хранилище с ключами на стороне пользователя для сохранения контекста при полной конфиденциальности.
Google DeepMind↗
OpenAI обновила систему кеширования промптов для GPT-6
Новое кеширование для GPT-6 снижает затраты на токены до 90% и позволяет менять параметры рассуждений без потери эффективности.
OpenAI↗
Модели GPT-6 Sol и GPT-6 Luna стали доступны в Amazon Bedrock
Amazon добавила новые модели GPT-6 в сервис Bedrock. Они дешевле предшественников, поддерживают кэширование промптов и демонстрируют более высокую точность.
AWS↗
OpenAI представляет модели GPT-6 Sol и GPT-6 Luna
OpenAI расширила линейку GPT-6 новыми моделями Sol и Luna, внедрив улучшенное кэширование промптов и сниженные цены на API.
OpenAI↗
Библиотека Transformers получила поддержку моделей в формате GGUF
Hugging Face добавила возможность запуска квантованных моделей GGUF через API Transformers, начиная с поддержки Apple Silicon.
Hugging Face↗
AWS обновляет среду выполнения AgentCore для ускорения запуска агентов
AWS представила AgentCore, новую среду выполнения, которая использует снапшоты для стабилизации времени холодного старта и оптимизации потребления памяти.
AWS↗
Google Cloud представила Filestore agent volumes для ИИ-агентов
Google Cloud запускает Filestore agent volumes — управляемое хранилище для масштабируемых рабочих сред ИИ-агентов в GKE.
Google Cloud↗
NVIDIA представляет систему Vera Rubin с повышенной энергоэффективностью
NVIDIA сообщает о значительном росте производительности и энергоэффективности системы Vera Rubin NVL72 по сравнению с предыдущими архитектурами.
NVIDIA↗
Salesforce и AWS расширяют интеграцию ИИ и корпоративных данных
Salesforce и AWS представили новые инструменты для доступа к данным CRM, работы с агентами в Slack и интеграции моделей через Amazon Bedrock.
Salesforce↗
NVIDIA представила инструмент PAIR для распределения AI-вычислений
NVIDIA Personal AI Router позволяет объединять мощность нескольких компьютеров в локальной сети для ускорения работы ИИ-агентов.
NVIDIA↗