ТЕМАТИКА

Инфраструктура инференса

Новости и практические материалы об AI по этой теме.

Последние материалы

21

Google Cloud объявил о доступности варианта развертывания Claude под управлением Anthropic

Google Cloud теперь предлагает развертывание моделей Claude под управлением Anthropic, предоставляя выбор между ранним доступом к функциям и стандартными мерами контроля.

Google Cloud↗

Meta использует простаивающие мощности вывода для улучшения рекламных рекомендаций

Meta превращает простаивающие мощности вывода во флоте в улучшение рекламных рекомендаций, используя два рычага эластичности — RMA и SBM — без ущерба базовой производительности.

Meta↗

AWS обновляет среду выполнения AgentCore для ускорения запуска агентов

AWS представила AgentCore, новую среду выполнения, которая использует снапшоты для стабилизации времени холодного старта и динамическое управление памятью для оптимизации потребления ресурсов.

AWS↗