API klientams, norintiems spartesnio ir pastovesnio tam tikrų modelių veikimo, siūlome funkciją „Spartusis režimas“. Toliau pateikiame atsakymus į dažniausius klausimus apie veikimą, kainodarą, modelių prieinamumą, užklausų dažnio ribojimą, patikimumą, politiką ir tinkamumo kriterijus.

Pastaba. 2026 m. liepos 30 d. prioritetinio apdorojimo funkcijos pavadinimas pakeistas į „Spartusis režimas“. API užklausose galite naudoti tiek service_tier: priority, tiek service_tier: fast. 

Daugiau informacijos rasite čia.

Ar Spartusis režimas prieinamas visuose regionuose?

Spartusis režimas prieinamas atsižvelgiant į kiekvienoje jurisdikcijoje taikomus įstatymus ir kitus teisės aktus. Jei turite klausimų dėl prieinamumo savo regione, kreipkitės į savo klientų vadybininką.

Kaip tai veikia

Klientai gali nukreipti atskiras užklausas į spartųjį režimą, naudodami esamą parametrą service_tier ir nustatydami service_tier = "fast".

Sparčiuoju režimu apdoroti žetonai bus apmokestinami už kiekvieną žetoną, taikant didesnius įkainius nei standartinio apdorojimo atveju.

Spartųjį režimą galite nustatyti ne tik atskiroms užklausoms, bet ir kaip numatytąjį visam projektui: Projekto nustatymai > Numatytasis paslaugos lygmuo: Spartusis. Atskiroms užklausoms vis tiek galite nustatyti kitą režimą. Projekto nustatymuose pasirinkti „Spartusis“ yra tas pats, kas pasirinkti „Prioritetinis“.

Kaip tai susiję su plėtros lygmeniu?

Plėtros lygmuo liks atskiras nuo sparčiojo režimo. Į spartųjį režimą nukreiptos užklausos bus apmokestinamos atskirai ir nebus įskaičiuojamos į įsigytus plėtros lygmens žetonų per minutę (TPM) paketus.

Ar galiu plėtros lygmens kvotą viršijantį srautą automatiškai nukreipti į spartųjį režimą?

Ne. Į plėtros lygmenį nukreiptas srautas, viršijęs kvotą, nebus automatiškai perkeltas į spartųjį režimą.

Kaip apmokestinamas spartusis režimas?

Sparčiuoju režimu apdoroti žetonai bus apmokestinami už kiekvieną žetoną, taikant didesnius įkainius nei standartinio apdorojimo atveju.

Ar mano metinis išlaidų įsipareigojimas susietas su konkrečiu apdorojimo režimu?

Ne. Visų apdorojimo režimų išlaidos įskaičiuojamos į jūsų metinį „Enterprise“ išlaidų įsipareigojimą.

Ar podėlyje saugomiems įvesties žetonams vis dar taikoma nuolaida?

Taip! Podėlyje saugomai įvesčiai taikoma ta pati 50–75 % nuolaida kaip ir standartinio apdorojimo atveju.

Kaip peržiūrėti sparčiojo režimo naudojimą ir išlaidas?

Norėdami peržiūrėti sparčiuoju režimu (anksčiau vadintu prioritetiniu apdorojimu) apdorotus žetonus, atverkite naudojimo skydelį, pasirinkite „Chat Completions“ arba „Responses“ ir „Grupuoti pagal paslaugos lygmenį“.

Norėdami peržiūrėti sparčiojo režimo išlaidas, atverkite naudojimo skydelį ir pasirinkite „Grupuoti pagal sąskaitos eilutę“.

Naudojimo skydelyje užklausos, kurių service_tier reikšmė yra priority arba fast, ir toliau bus rodomos kaip priority. Būsimiems modeliams šis rodymas bus atnaujintas.

Modeliai

Ar spartusis režimas prieinamas ilgam kontekstui, tiksliai suderintiems modeliams, įterpiniams ir kt.?

Šiuo metu ne. Ateityje įvertinsime, ar spartųjį režimą siūlyti ne tik naujausiems modeliams, bet ir kitiems produktams.

Kaip spartusis režimas veikia su kitais duomenų tipais?

Spartusis režimas palaiko tas pačias daugiarūšio apdorojimo galimybes kaip ir standartinis apdorojimas. Pavyzdžiui, vaizdus galima pateikti kaip prioritetinio apdorojimo įvestį – jie apdorojami su tokia pat maža delsa.

Ar bus palaikomi būsimi modeliai?

Planuojame siūlyti spartųjį režimą naujiems GPT modeliams, tačiau negarantuojame, kad bus palaikomas kiekvienas modelis.

Užklausų dažnio ribojimai

Kokie užklausų dažnio ribojimai taikomi?

Taikant užklausų dažnio ribojimus, prioritetinio apdorojimo naudojimas vertinamas taip pat kaip standartinis API srautas.

Kokie yra augimo tempo ribojimai?

Sparčiajam režimui taikomi augimo tempo ribojimai, kad visiems klientams būtų užtikrintas nuolat aukštas našumas ir kartu išliktų lanksti kainodara pagal poreikį. Jei (a) sparčiojo režimo našumas sumažėja IR (b) kliento srautas auga per greitai, retais atvejais kai kurios užklausos gali būti perkeltos į standartinį apdorojimą.

Dabartinis sparčiojo režimo augimo tempo ribojimas apibrėžtas mūsų pagrindinėje dokumentacijoje čia.

Patarimai, kaip neviršyti augimo tempo ribojimo

Keisdami modelius, srautą didinkite palaipsniui. Pavyzdžiui, jei jūsų programa pereina nuo ankstesnės modelio versijos prie naujos, naudokite funkcijos įjungimo žymą, kad srautą perkeltumėte per kelias valandas, o ne visą iš karto.

Venkite sparčiuoju režimu vykdyti didelės apimties duomenų apdorojimo ar asinchronines užduotis. Dėl šių užduočių srautas gali labai greitai išaugti, o didesnio sparčiojo režimo našumo joms dažnai nereikia.

Jei nuolat susiduriate su augimo tempo ribojimais, apsvarstykite galimybę vietoj to įsigyti plėtros lygmens kvotą.

Ar mano projektams ir organizacijoms taikomas bendras augimo tempo ribojimas?

Taip, visas jūsų srautas įskaičiuojamas į tą patį augimo tempo limitą.

Politika

Kas nutinka, jei spartusis režimas nepasiekia numatyto delsos rodiklio?

Jei turite klausimų ar kyla rūpesčių, kreipkitės į savo klientų vadybininką (AD). Sparčiojo režimo paslaugų lygio sutartys (SLA) bus taikomos taip pat kaip plėtros lygmens SLA. Jei per nustatytą laikotarpį neįvykdysime šių SLA įsipareigojimų klientams, sudariusiems „Enterprise“ sutartis, pasiūlysime paslaugų kreditų.

Ar spartusis režimas suderinamas su duomenų saugojimo vietos reikalavimais?

Taip.

Ar spartusis režimas suderinamas su ZDR ir BAA?

Taip.

„Ultrafast“, skirtas GPT-6 Astra

„Ultrafast“ – atskiras paslaugos lygmuo užduotims, kurioms reikia mažesnės delsos GPT-6 Astra atsakymų, pavyzdžiui, interaktyviosioms programoms ir programavimo procesams.

Sparčiojo režimo kainodaros, užklausų dažnio ribojimo ir politikos nuostatos taikomos užklausoms su service_tier="fast". „Ultrafast“ užklausoms naudojamas atskiras lygmuo service_tier="ultrafast".

Kaip išsiųsti „Ultrafast“ užklausą?

Jei organizacija turi prieigą prie „Ultrafast“, naudokite Responses API su šiais nustatymais:

• Modelis: gpt-6-astra

• Paslaugos lygmuo: ultrafast

• Užklausos antraštė: OpenAI-Service-Tier: ultrafast

Be paslaugos lygmens nustatymo, būtina pateikti ir užklausos antraštę.

Programoms, kurios vykdo įrankių iškvietimus, „WebSocket“ režimas leidžia naudoti tą patį ryšį keliems pokalbio žingsniams ir sumažinti ryšio užmezgimo sąnaudas.

Ar galiu naudoti tą pačią užklausos antraštę kitiems paslaugos lygmenims?

„Ultrafast“ alfa versijos etapu antraštė OpenAI-Service-Tier priima tik reikšmę ultrafast. Nusiuntus kitą reikšmę, įskaitant default, fast ar flex, grąžinama HTTP 400 klaida. Naudodami kitą lygmenį, šios antraštės nesiųskite.

Ar galiu naudoti „Ultrafast“ režime „Work“ arba „Codex“?

„Ultrafast“ taip pat prieinamas režime „Work“ ir „Codex“, jei planas ir darbo sritis atitinka reikalavimus. Prieinamumo pagal ChatGPT planą ir naudojimo sąlygos skiriasi nuo API prieigos sąlygų.

Išsamios informacijos apie prieinamumą ir naudojimą rasite straipsnyje ChatGPT Work ir Codex.