01 Ce qui s’est passé
Cet article décrit un système interne qui transforme la capacité d'inférence inerte en meilleures recommandations publicitaires grâce à deux leviers : RMA et SBM.
02 Les points essentiels
- Meta a construit un système interne qui améliore les recommandations publicitaires en utilisant des capacités d'inférence inactives.
- Deux leviers d'élasticité, RMA et SBM, étendent le travail de recommandation sans compromettre les performances de base.
- RMA augmente le nombre de candidats évalués par les étapes de classement lorsque la capacité est disponible.
- SBM dirige une part plus importante des requêtes vers un modèle plus puissant, en isolant physiquement les modèles.
03 Pourquoi c’est important
Cette approche répond au paradoxe de capacité où les flottes sont globalement limitées, tandis que des poches locales restent disponibles en raison du pic de trafic, du décalage de développement des modèles et des déséquilibres régionaux.
04 Pour qui c’est utile
Ingénieurs en apprentissage automatique, ingénieurs infrastructure, spécialistes du calcul haute performance et spécialistes DevOps.
Source originale