01 发生了什么
Google 推出了 Gemini Decisions API,这是一个用于在文本、图像、音频、视频和 PDF 上进行快速、校准决策的新端点。
02 关键细节
- 基于 Gemini Decision 1,可在单次前向传播中评估多达 1,000 个独立问题。
- 支持三种决策类型:noul(是/否)、choice(2-255 个选项)和 score(量表评分),并提供置信度分数。
- 端到端延迟为 150-250 毫秒,价格为每 100 万输入 token 0.10 美元,且不收取输出 token 费用。
- 可通过 Google AI Studio 的免费层级进行原型设计,并已集成至 LangChain 等框架。
03 为什么重要
这为模型路由和策略检查提供了低延迟、低成本的方案,无需进行逐个 token 的生成。
04 适合谁
AI开发人员、机器学习工程师、人工智能代理开发人员及软件开发人员。
原始来源