01 Что произошло
Платформа электронной коммерции Shopee разработала собственную большую языковую модель Compass v3 — вертикально-ориентированную mixture-of-experts модель с 245 миллиардами параметров. Как сообщается в кейсе NVIDIA, модель уже обрабатывает основную часть AI-трафика Shopee, а объём ежемесячно генерируемых токенов API вырос в 113 раз за восемь месяцев — с 3 до 340 миллиардов.
02 Ключевые детали
- Compass v3.5 превосходит GPT-4o, GPT-4.1, Qwen3-235B и DeepSeek v3.1 по всем пяти категориям внутреннего бенчмарка EcomEval: 94% на Ecom QA против 85% у GPT-4o.
- Ежемесячное потребление токенов API Compass выросло с 3 до 340 миллиардов (в 113 раз) за восемь месяцев по данным компании; модель работает на GPU NVIDIA A100, H100 и Blackwell.
- Выявление мошенничества на базе NVIDIA TensorRT-LLM показало 50-кратное ускорение по сравнению с ручной проверкой и снижение затрат на обработку на 90% в продакшене по данным компании.
- Версия Compassmax v3.5 с улучшенным рассуждением набрала 93 балла на Arena Hard v2 и 83 на AIME25 — на уровне или выше проприетарных моделей, таких как GPT-5-Thinking.
03 Почему это важно
Универсальные LLM не справлялись со специализированными многоязычными задачами электронной коммерции, что побудило Shopee построить собственную модель на базе инфраструктуры NVIDIA AI Factory.
04 Кому полезно
Платформы электронной коммерции, инженеры ИИ-инфраструктуры и исследователи многоязычных NLP.
Первоисточник