01 发生了什么
Salesforce推出Koa Decisions,基于Google Gemma的决策模型,能够在26毫秒内处理请求,比通用LLM快50倍(约1.4秒)。
02 关键细节
- Koa Decisions基于Google Gemma,以毫秒级速度路由请求,支持图像和音频。
- 测试显示其处理速度为~26毫秒,比通用LLM快50倍(~1.4秒)。
- 用户可通过Trailhead免费体验该模型。
- 计划扩展功能,包括Salesforce流程、Apex、提示模板和开发者API。
03 为什么重要
Koa Decisions提升企业代理的决策效率,减少LLM开销,实现更快的处理速度和工作流程优化。
04 适合谁
AI产品开发人员、语音界面开发人员、处理高频可重复请求的组织、企业AI服务客户及AI基础设施工程师。
原始来源