01 Что произошло
15 октября 2026 года Meta выпустила Muse Spark Open — мультимодальную модель на основе смеси экспертов с открытыми весами. Модель содержит около 816 миллиардов параметров, из которых примерно 42 миллиарда активны на токен, контекстное окно до 1 миллиона токенов. Она принимает текст, изображения, аудио и видео и генерирует только текст.
02 Ключевые детали
- Muse Spark Open — модель с открытыми весами от Meta с 816 млрд общих параметров и 42 млрд активных на токен; в каждом слое MoE 256 экспертов, роутер выбирает 8 на токен.
- Модель принимает текст, изображения, аудио и видео, имеет контекстное окно до 1 млн токенов и генерирует только текст; Meta заявляет, что это самая мощная модель с открытыми весами в США.
- BF16-чекпоинт (~1,5 ТБ) работает на 4 узлах по 8 GPU H200; NVFP4-чекпоинт работает на одном узле B200. Дообучение возможно с TRL и LoRA на слоях внимания, эксперты остаются замороженными.
- Рассуждения в Muse Spark Open нельзя отключить; процессор поддерживает уровни effort low/medium/high/xhigh. Модель поддерживает вызов инструментов для текстовых и мультимодальных входов.
03 Почему это важно
Релиз предоставляет разработчикам доступ к крупномасштабной мультимодальной модели с открытыми весами, оптимизированной для агентного программирования, с конкретными рецептами развертывания и дообучения.
04 Кому полезно
ИИ-разработчики, разработчики AI-агентов, исследователи в области искусственного интеллекта, инженеры по машинному обучению и разработчики голосовых интерфейсов.
Первоисточник