01 Ce qui s’est passé
Salesforce présente Koa Decisions, un modèle de décision basé sur Google Gemma qui traite les requêtes en 26 ms, contre 1,4 seconde pour un LLM général.
02 Les points essentiels
- Koa Decisions utilise Google Gemma pour classer les requêtes en millisecondes, avec support images/audio.
- Tests montrent un traitement en ~26 ms, soit une accélération de 50 fois par rapport à un LLM général (~1,4 s).
- Démonstration gratuite disponible sur Trailhead pour tous les utilisateurs.
- Plans d’intégration incluent les flux Salesforce, Apex, modèles de prompt et une API pour développeurs.
03 Pourquoi c’est important
Koa Decisions accélère les décisions pour les agents d’entreprise, réduisant la charge sur les grands modèles de langage pour des choix rapides et optimisant les flux de travail.
04 Pour qui c’est utile
Développeurs de produits IA, développeurs d'interfaces vocales, organisations traitant des requêtes récurrentes fréquentes, clients entreprises des services d’IA et ingénieurs en infrastructure d'IA.
Source originale