01 发生了什么

OpenAI在文档中称Ultrafast是OpenAI API中速度最快的服务档位。目前,所有API用户都可以将该档位用于GPT-6 Astra和GPT-6.1 Sol,但受较低速率限制约束。

02 关键细节

  • GPT-6 Astra的默认限制为:Build等级每分钟500,000个token,Launch等级每分钟1,000,000个token,Grow等级每分钟5,000,000个token。
  • 每个response.create事件都需将model设为gpt-6-astra、将service_tier设为ultrafast。对于频繁连续调用工具的应用,OpenAI强烈建议使用WebSockets;没有持久连接时,网络开销可能削弱延迟改善。
  • Ultrafast也支持通过SDK发送HTTP请求。OpenAI建议在速度足以证明更高成本合理时使用该档位。
  • Ultrafast模式对GPT-6.1 Sol支持美国和欧盟的数据驻留及全球处理。GPT-6 Astra Ultrafast仅支持美国数据驻留和全球处理。
  • 与OpenAI客户团队合作的组织可以联系该团队,申请更高的速率限制。

03 为什么重要

开发者可以为GPT-6 Astra选择OpenAI API中速度最快的服务档位,同时权衡较高成本、较低速率限制和区域处理约束。

04 适合谁

软件开发人员。

原始来源
OpenAI Developers