Модель Kimi K3 с 2,8 трлн параметров стала доступна в Amazon Bedrock

01 Что произошло

Разработчикам стала доступна модель Kimi K3, интегрированная в платформу Amazon Bedrock. По заявлению Moonshot AI, это первый открытый продукт с 2,8 триллионами параметров.

02 Ключевые детали

• Модель оснащена окном контекста в 1 миллион токенов и встроенными средствами компьютерного зрения.
• Kimi K3 стала первой моделью на Amazon Bedrock с поддержкой кэширования промптов для снижения задержек и стоимости запросов.
• Разработчик сообщает о повышении эффективности масштабирования в 2,5 раза по сравнению с версией Kimi K2.

03 Почему это важно

Интеграция Kimi K3 позволяет оптимизировать затраты и ускорить обработку длинных документов и программного кода за счет кэширования повторно используемого контекста.

04 Кому полезно

Разработчики программного обеспечения, инженеры по машинному обучению и ИТ-архитекторы.