01 Что произошло

В документации OpenAI Ultrafast описан как самый быстрый уровень обслуживания OpenAI API. Сейчас он доступен всем пользователям API для GPT-6 Astra и GPT-6.1 Sol с низкими лимитами.

02 Ключевые детали

  • Стандартные лимиты GPT-6 Astra: 500 000 токенов в минуту для уровня Build, 1 000 000 — для Launch и 5 000 000 — для Grow.
  • В каждом событии response.create задайте model: gpt-6-astra и service_tier: ultrafast. OpenAI настоятельно рекомендует WebSockets для приложений с частыми последовательными вызовами инструментов: без постоянного соединения сетевые накладные расходы могут снизить выигрыш в задержке.
  • Ultrafast также поддерживает HTTP-запросы через SDK. OpenAI рекомендует использовать этот уровень, если скорость оправдывает более высокую стоимость.
  • Ultrafast для GPT-6.1 Sol поддерживает резидентность данных в США и ЕС и глобальную обработку. GPT-6 Astra Ultrafast поддерживает только резидентность данных в США и глобальную обработку.
  • Организации, работающие с командой OpenAI по работе с клиентами, могут обратиться к ней, чтобы запросить более высокие лимиты.

03 Почему это важно

Разработчики могут выбрать самый быстрый уровень обслуживания OpenAI API для GPT-6 Astra, учитывая более высокую стоимость, низкие лимиты и ограничения региональной обработки.

04 Кому полезно

Разработчики программного обеспечения.

Первоисточник
OpenAI Developers