01 发生了什么

东南亚电商平台Shopee开发了自己的大语言模型Compass v3,这是一个专注于垂直领域的混合专家模型,总参数量245B。根据NVIDIA发布的案例研究,该模型目前处理Shopee大部分AI流量,API月活Token数在八个月内从30亿增长到3400亿,增长113倍。

02 关键细节

  • Compass v3.5在EcomEval全部五个任务类别上超越GPT-4o、GPT-4.1、Qwen3-235B和DeepSeek v3.1,Ecom QA得分94%对GPT-4o的85%。
  • API月活Token数据公司称八个月从30亿增长到3400亿(113倍),运行在NVIDIA A100、H100和Blackwell GPU上。
  • 基于NVIDIA TensorRT-LLM的欺诈检测据公司称比人工审核快50倍,处理成本降低90%。
  • 推理优化版Compassmax v3.5在Arena Hard v2上得分93,在AIME25上得分83,达到或超过专有推理模型如GPT-5-Thinking。

03 为什么重要

通用大语言模型在专业多语言电商任务上表现不佳,促使Shopee利用NVIDIA AI工厂架构(Megatron-Core和NeMo)构建垂直领域模型。

04 适合谁

电子商务平台、AI基础设施工程师及多语言NLP研究人员。

原始来源
NVIDIA