OpenAI
Оваа страница беше машински преведена. Погледнете ја оригиналната статија на англиски јазик.

ЧПП за Брзиот режим

Често поставувани прашања за Брз режим и нивото на услуга Ultrafast.

Ажурирано: 3 days ago

Нудиме Брз режим за корисниците на API што сакаат побрзи и постабилни перформанси кај одредени модели. Подолу ќе најдете одговори на најчестите прашања за начинот на работа, цените, достапноста на моделите, ограничувањата на брзината, сигурноста, политиките и условите за користење.

Забелешка: На 30 јули 2026 година, „Приоритетна обработка“ беше преименувана во „Брз режим“. Во барањата до API може да користите service_tier: priority или service_tier: fast. 

Дознајте повеќе тука.

Дали Брзиот режим е достапен во сите региони?

Достапноста на Брзиот режим зависи од важечките закони и прописи во секоја јурисдикција. Ако имате прашања за достапноста во вашиот регион, обратете се кај директорот задолжен за вашата сметка.

Како функционира

Клиентите може да го насочат сообраќајот кон Брз режим за секое барање поединечно преку постојниот параметар service_tier, со опцијата service_tier = "fast".

Токените обработени во Брз режим ќе се наплаќаат по токен, по повисока цена од тарифите за стандардна обработка.

Покрај поставувањето за поединечни барања, може да го поставите Брз режим како стандарден за проектот во Поставки на проектот > Стандардно ниво на услуга: Брзо. И понатаму може да ја замените оваа поставка за секое барање поединечно. Избирањето „Брзо“ во поставките на проектот е исто што и избирањето „Приоритетно“.

Како ова се поврзува со Ниво на скалирање?

Ниво на скалирање ќе остане одвоено од Брз режим. Барањата испратени во Брз режим ќе се наплаќаат одделно и нема да ги трошат купените пакети токени во минута (TPM) за Ниво на скалирање.

Може ли автоматски да го пренасочам во Брз режим сообраќајот што ја надминува квотата за Ниво на скалирање?

Не. Сообраќајот испратен до Ниво на скалирање нема автоматски да се пренасочи во Брз режим ако ја надмине квотата.

Како се наплаќа Брз режим?

Токените обработени во Брз режим ќе се наплаќаат по токен, по повисока цена од тарифите за стандардна обработка.

Дали мојата годишна обврска за потрошувачка е врзана за одреден режим на обработка?

Не. Сите режими на обработка се вбројуваат во вашата годишна обврска за потрошувачка според договорот за Enterprise.

Дали и понатаму добивам попуст за кеширани влезни токени?

Да! За кешираните влезни податоци важи истиот попуст од 50–75% како и при стандардна обработка.

Како да ги прегледам користењето и трошоците за Брз режим?

За да ги прегледате токените обработени во Брз режим (порано познат како приоритетна обработка), одете на контролната табла за користење, изберете Chat Completions или Responses, а потоа „Групирај по ниво на услуга“.

За да ги прегледате трошоците за Брз режим, одете на контролната табла за користење и изберете „Групирај по ставка“.

На контролната табла за користење, барањата што користат priority или fast како вредност за service_tier и понатаму ќе се прикажуваат како priority. Ова ќе се ажурира за идните модели.

Модели

Дали Брз режим е достапен за долг контекст, дополнително обучени модели, векторски претставувања итн.?

Засега не. Во иднина ќе разгледаме дали да го понудиме Брз режим и за други производи, покрај нашите најнови модели.

Како функционираат другите модалитети во Брз режим?

Брз режим ги поддржува истите мултимодални можности што се достапни со стандардната обработка. Поконкретно, сликите може да се користат како влезни податоци за приоритетна обработка и се обработуваат со истото кратко време на одзив.

Дали ќе бидат поддржани идните модели?

Планираме да го понудиме Брз режим за новите GPT-модели, но не гарантираме дека секој модел ќе биде поддржан.

Ограничувања на брзината

Кои се ограничувањата на брзината?

За ограничувањата на брзината, користењето на приоритетната обработка се третира исто како стандардниот API-сообраќај.

Кои се ограничувањата на стапката на пораст на сообраќај?

Брз режим има ограничувања на стапката на пораст на сообраќај за да обезбеди постојано високи перформанси за сите клиенти, а притоа да задржи флексибилна наплата според користењето. Ако (а) перформансите на Брз режим се влошени И (б) сообраќајот на клиентот расте премногу брзо, во ретки случаи некои барања може да бидат префрлени на стандардна обработка.

Тековното ограничување на стапката на пораст на сообраќај за Брз режим е дефинирано тука, во нашата главна документација.

Најдобри практики за да останете во рамките на ограничувањето на стапката на пораст на сообраќај

Постепено зголемувајте го сообраќајот кога менувате модели. На пример, ако вашата апликација преминува од претходна фиксна верзија на моделот на нова, користете контролна ознака за функција за да го пренасочите сообраќајот во текот на неколку часа, наместо одеднаш.

Избегнувајте обработка на големи количества податоци или извршување асинхрони задачи во Брз режим. Овие задачи може многу брзо да го зголемат сообраќајот, а често не им се потребни подобрените перформанси на Брз режим.

Ако често ги достигнувате ограничувањата на стапката на пораст на сообраќај, размислете наместо тоа да купите квота за Ниво на скалирање.

Дали ограничувањата на стапката на пораст на сообраќај се заеднички за моите проекти или организации?

Да, целиот ваш сообраќај се пресметува во истото ограничување на стапката на пораст на сообраќај.

Правила

Што се случува ако Брз режим не го постигнува целното време на одзив?

За какви било прашања или недоумици, обратете се кај вашиот AD. Договорите за ниво на услуга (SLA) за Брз режим ќе се третираат исто како оние за Ниво на скалирање; ако во одреден временски период не ги исполниме тие SLA за клиентите со Enterprise-договори, ќе им понудиме кредити за услугата.

Дали Брз режим е компатибилен со барањата за место на чување на податоците?

Да.

Дали Брз режим е компатибилен со ZDR и BAA?

Да.

Ultrafast за GPT-6 Astra

Ultrafast е посебно ниво на услуга за задачи што бараат побрзи одговори од GPT-6 Astra, како интерактивни апликации и работни процеси за програмирање.

Упатствата за цените, ограничувањата на брзината и правилата за Брз режим важат за барањата што користат service_tier="fast". Барањата за Ultrafast го користат посебното ниво service_tier="ultrafast".

Како да испратам барање за Ultrafast?

За организација со пристап до Ultrafast, користете го Responses API со:

  • Модел: gpt-6-astra

  • Ниво на услуга: ultrafast

  • Заглавие на барањето: OpenAI-Service-Tier: ultrafast

Покрај поставката за нивото на услуга, задолжително е и заглавието на барањето.

За апликации што извршуваат повици до алатки, режимот WebSocket ви овозможува повторно да користите иста врска во повеќе размени и да го намалите дополнителното оптоварување од воспоставувањето врски.

Може ли да го користам истото заглавие на барањето за други нивоа на услуга?

Во алфа-фазата на Ultrafast, заглавието OpenAI-Service-Tier ја прифаќа само вредноста ultrafast. Испраќањето друга вредност, вклучително и default, fast или flex, враќа грешка HTTP 400. Изоставете го ова заглавие кога користите друго ниво.

Може ли да користам Ultrafast во Работа или Codex?

Ultrafast е достапен и во Работа и Codex за планови и работни простори што ги исполнуваат условите. Условите за достапност и користење во плановите на ChatGPT се разликуваат од оние за пристап преку API.

Погледнете ChatGPT Работа и Codex за детали за достапноста и користењето.

Дали оваа статија ви беше корисна?