01 发生了什么

Salesforce推出Koa Decisions,基于Google Gemma的决策模型,能够在26毫秒内处理请求,比通用LLM快50倍(约1.4秒)。

02 关键细节

  • Koa Decisions基于Google Gemma,以毫秒级速度路由请求,支持图像和音频。
  • 测试显示其处理速度为~26毫秒,比通用LLM快50倍(~1.4秒)。
  • 用户可通过Trailhead免费体验该模型。
  • 计划扩展功能,包括Salesforce流程、Apex、提示模板和开发者API。

03 为什么重要

Koa Decisions提升企业代理的决策效率,减少LLM开销,实现更快的处理速度和工作流程优化。

04 适合谁

AI产品开发人员、语音界面开发人员、处理高频可重复请求的组织、企业AI服务客户及AI基础设施工程师。

原始来源
Salesforce