01 Was passiert ist
Salesforce stellt Koa Decisions vor – ein Entscheidungsmodell auf Google’s Gemma, das Anfragen in 26 ms verarbeitet, im Vergleich zu 1,4 Sekunden für ein generisches LLM.
02 Die wichtigsten Details
- Koa Decisions basiert auf Google Gemma und klassifiziert Anfragen in Millisekunden mit Bild- und Audio-Unterstützung.
- Tests zeigen eine Verarbeitung in ~26 ms, eine 50-fache Beschleunigung gegenüber einem generischen LLM (~1,4 s).
- Kostenlose Demo über Trailhead für alle Nutzer verfügbar.
- Geplante Erweiterungen umfassen Salesforce-Flows, Apex, Prompt-Templates und eine Entwickler-API.
03 Warum das wichtig ist
Koa Decisions beschleunigt Entscheidungen für Enterprise-Agenten, spart Rechenleistung für schnelle Routing-Entscheidungen und optimiert Workflows.
04 Für wen es relevant ist
KI-Produktentwickler, Entwickler von Sprachschnittstellen, Unternehmen mit häufigen wiederholbaren Anfragen, Unternehmenskunden von KI-Diensten und KI-Infrastruktur-Ingenieure.
Originalquelle