01 发生了什么
东南亚电商平台Shopee开发了自己的大语言模型Compass v3,这是一个专注于垂直领域的混合专家模型,总参数量245B。根据NVIDIA发布的案例研究,该模型目前处理Shopee大部分AI流量,API月活Token数在八个月内从30亿增长到3400亿,增长113倍。
02 关键细节
- Compass v3.5在EcomEval全部五个任务类别上超越GPT-4o、GPT-4.1、Qwen3-235B和DeepSeek v3.1,Ecom QA得分94%对GPT-4o的85%。
- API月活Token数据公司称八个月从30亿增长到3400亿(113倍),运行在NVIDIA A100、H100和Blackwell GPU上。
- 基于NVIDIA TensorRT-LLM的欺诈检测据公司称比人工审核快50倍,处理成本降低90%。
- 推理优化版Compassmax v3.5在Arena Hard v2上得分93,在AIME25上得分83,达到或超过专有推理模型如GPT-5-Thinking。
03 为什么重要
通用大语言模型在专业多语言电商任务上表现不佳,促使Shopee利用NVIDIA AI工厂架构(Megatron-Core和NeMo)构建垂直领域模型。
04 适合谁
电子商务平台、AI基础设施工程师及多语言NLP研究人员。
原始来源