01 Was passiert ist
Die E-Commerce-Plattform Shopee hat ein eigenes Large Language Model entwickelt: Compass v3, ein vertikales Mixture-of-Experts-Modell mit 245 Milliarden Parametern. Laut einer Fallstudie von NVIDIA steuert das Modell inzwischen den Großteil des KI-Traffics von Shopee; die monatlichen API-Tokens stiegen in acht Monaten von 3 auf 340 Milliarden – eine 113-fache Steigerung.
02 Die wichtigsten Details
- Compass v3.5 übertrifft GPT-4o, GPT-4.1, Qwen3-235B und DeepSeek v3.1 in allen fünf Kategorien des EcomEval-Benchmarks (94 % bei Ecom QA vs. 85 % für GPT-4o).
- Monatliche API-Tokens wuchsen auf NVIDIA A100-, H100- und Blackwell-GPUs von 3 auf 340 Milliarden (113×) laut Unternehmensangaben.
- Betrugserkennung mit NVIDIA TensorRT-LLM erzielte im Produktivbetrieb eine 50-fach höhere Effizienz als manuelle Prüfung bei 90 % niedrigeren Verarbeitungskosten laut Shopee.
- Die reasoning-fokussierte Variante Compassmax v3.5 erreicht 93 Punkte auf Arena Hard v2 und 83 auf AIME25 – Niveau oder besser als proprietäre Modelle wie GPT-5-Thinking.
03 Warum das wichtig ist
Allzweck-LLMs waren für spezialisierte mehrsprachige E-Commerce-Aufgaben nicht leistungsfähig genug. Shopee baute daher mit dem NVIDIA AI Factory Stack (Megatron-Core, NeMo) ein eigenes Modell. Das LLM wird auf Tausenden NVIDIA GPUs trainiert und läuft auf eigener Infrastruktur.
04 Für wen es relevant ist
E-Commerce-Plattformen, KI-Infrastruktur-Ingenieure und Forscher für mehrsprachige NLP.
Originalquelle