01 Ce qui s’est passé
Shopee, plateforme e-commerce leader en Asie du Sud-Est, à Taïwan et au Brésil, a développé son propre grand modèle de langage Compass v3, un modèle « mixture-of-experts » de 245 milliards de paramètres destiné au e-commerce multilingue. Selon une étude de cas NVIDIA, le modèle gère désormais la majorité du trafic IA de Shopee ; le nombre mensuel de tokens API est passé de 3 à 340 milliards en huit mois – soit une multiplication par 113.
02 Les points essentiels
- Compass v3.5 dépasse GPT-4o, GPT-4.1, Qwen3-235B et DeepSeek v3.1 dans les cinq catégories du benchmark EcomEval, avec 94 % en Ecom QA contre 85 % pour GPT-4o.
- Les tokens API mensuels sont passés de 3 à 340 milliards (×113) en huit mois selon la société sur des GPU NVIDIA A100, H100 et Blackwell.
- La détection de fraude basée sur NVIDIA TensorRT-LLM a montré une efficacité 50× supérieure à l'analyse manuelle et une réduction des coûts de traitement de 90 % en production selon Shopee.
- La variante dédiée au raisonnement Compassmax v3.5 obtient 93 sur Arena Hard v2 et 83 sur AIME25, égalant ou dépassant des modèles propriétaires comme GPT-5-Thinking.
03 Pourquoi c’est important
Les LLM généralistes étaient insuffisants pour les tâches spécialisées et multilingues du e-commerce. Shopee a donc construit un modèle vertical avec la pile IA NVIDIA, notamment Megatron-Core et NeMo, entraîné sur des milliers de GPU de la marque.
04 Pour qui c’est utile
Plateformes de commerce électronique, ingénieurs en infrastructure d'IA et chercheurs en NLP multilingue.