01 Что произошло
В документации OpenAI Ultrafast описан как самый быстрый уровень обслуживания OpenAI API. Сейчас он доступен всем пользователям API для GPT-6 Astra и GPT-6.1 Sol с низкими лимитами.
02 Ключевые детали
- Стандартные лимиты GPT-6 Astra: 500 000 токенов в минуту для уровня Build, 1 000 000 — для Launch и 5 000 000 — для Grow.
- В каждом событии response.create задайте model: gpt-6-astra и service_tier: ultrafast. OpenAI настоятельно рекомендует WebSockets для приложений с частыми последовательными вызовами инструментов: без постоянного соединения сетевые накладные расходы могут снизить выигрыш в задержке.
- Ultrafast также поддерживает HTTP-запросы через SDK. OpenAI рекомендует использовать этот уровень, если скорость оправдывает более высокую стоимость.
- Ultrafast для GPT-6.1 Sol поддерживает резидентность данных в США и ЕС и глобальную обработку. GPT-6 Astra Ultrafast поддерживает только резидентность данных в США и глобальную обработку.
- Организации, работающие с командой OpenAI по работе с клиентами, могут обратиться к ней, чтобы запросить более высокие лимиты.
03 Почему это важно
Разработчики могут выбрать самый быстрый уровень обслуживания OpenAI API для GPT-6 Astra, учитывая более высокую стоимость, низкие лимиты и ограничения региональной обработки.
04 Кому полезно
Разработчики программного обеспечения.
Первоисточник