Pakume Kiirrežiimi API klientidele, kes soovivad teatud mudelite puhul kiiremat ja ühtlasemat jõudlust. Allpool vastame levinud küsimustele selle toimimise, hinnakujunduse, mudelite saadavuse, kiiruse piirangute, töökindluse, eeskirjade ja kasutusõiguse kohta.

Märkus. Prioriteetne töötlemine nimetati 30. juulil 2026 ümber Kiirrežiimiks. API päringutes võite kasutada nii service_tier: priority kui ka service_tier: fast. 

Lisateavet leiate siit.

Kas Kiirrežiim on saadaval kõigis piirkondades?

Kiirrežiimi saadavus sõltub igas jurisdiktsioonis kehtivatest seadustest ja määrustest. Kui teil on küsimusi saadavuse kohta oma piirkonnas, võtke ühendust oma kliendihalduriga.

Kuidas see toimib

Kliendid saavad suunata liikluse Kiirrežiimi päringupõhiselt, kasutades olemasolevat parameetrit service_tier valikuga service_tier = "fast".

Kiirrežiimis töödeldud tokenite eest arveldatakse tokenipõhiselt ning hind on standardtöötluse omast kõrgem.

Lisaks päringupõhisele seadistamisele saate määrata Kiirrežiimi projekti vaikerežiimiks: Projekti sätted > Vaikimisi teenusetasand: Kiire. Seda saab endiselt iga päringu puhul muuta. Projekti sätetes valiku „Kiire“ tegemine on samaväärne valikuga „Eelistatud“.

Kuidas see Skaleerimistasandiga koos toimib?

Skaleerimistasand jääb Kiirrežiimist eraldi. Kiirrežiimi saadetud päringute eest arveldatakse eraldi ning need ei lähe teie ostetud Skaleerimistasandi TPM-pakettide mahu arvestusse.

Kas saan Skaleerimistasandi kvooti ületava liikluse automaatselt Kiirrežiimi suunata?

Ei. Skaleerimistasandile saadetud liiklust ei suunata kvoodi ületamisel automaatselt Kiirrežiimi.

Kuidas Kiirrežiimi eest arveldatakse?

Kiirrežiimis töödeldud tokenite eest arveldatakse tokenipõhiselt ning hind on standardtöötluse omast kõrgem.

Kas minu aastane kulukohustus on seotud kindla töötlusrežiimiga?

Ei. Kõigi töötlusrežiimide kulud lähevad teie Enterprise’i aastase kulukohustuse täitmisel arvesse.

Kas vahemällu salvestatud sisendtokenitele kehtib endiselt soodustus?

Jah! Vahemällu salvestatud sisenditele kehtib sama 50–75% soodustus nagu standardtöötluse puhul.

Kuidas vaadata oma Kiirrežiimi kasutust ja kulusid?

Kiirrežiimis (varem eelistöötlus) töödeldud tokenite vaatamiseks avage kasutuse juhtpaneel, valige Chat Completions või Responses ja rühmitage teenusetasandi järgi.

Kiirrežiimi kulude vaatamiseks avage kasutuse juhtpaneel ja valige rühmitamine kulurea järgi.

Kasutuse juhtpaneelil kuvatakse päringud, mille service_tier on priority või fast, endiselt tähisega priority. Tulevaste mudelite puhul seda uuendatakse.

Mudelid

Kas Kiirrežiim on saadaval pika konteksti, peenhäälestatud mudelite, vektoriesituste jms jaoks?

Praegu mitte. Hindame tulevikus, kas pakkuda Kiirrežiimi lisaks meie uusimatele mudelitele ka muude toodete jaoks.

Kuidas toimivad muud modaalsused Kiirrežiimis?

Kiirrežiim toetab samu multimodaalseid võimalusi nagu standardtöötlus. Näiteks saab eelistöötluse sisendina kasutada pilte, mida töödeldakse sama väikese latentsusega.

Kas toetatakse ka tulevasi mudeleid?

Plaanime pakkuda Kiirrežiimi uutele GPT mudelitele, kuid me ei taga kõigi mudelite tuge.

Kiiruse piirangud

Millised on kiiruse piirangud?

Kiiruse piirangute arvestamisel käsitletakse eelistöötluse kasutust samamoodi nagu tavalist API-liiklust.

Millised on kasvutempo piirangud?

Kiirrežiimil on kasvutempo piirangud, et tagada kõigile klientidele püsivalt suur jõudlus, pakkudes samal ajal paindlikku, kasutuspõhist hinnastust. Kui (a) Kiirrežiimi jõudlus halveneb JA (b) kliendi liiklus kasvab liiga kiiresti, võidakse harvadel juhtudel mõned päringud suunata hoopis standardtöötlusse.

Kiirrežiimi praegune kasvutempo piirang on määratletud meie põhidokumentatsioonis siin.

Soovitused kasvutempo piirangu järgimiseks

Mudeli vahetamisel suurendage liiklust järk-järgult. Näiteks kui teie rakendus läheb varasemalt mudeliversioonilt üle uuele, kasutage funktsioonilippu, et suunata liiklus ümber mõne tunni jooksul, mitte korraga.

Vältige Kiirrežiimis mahukate andmetöötlus- või asünkroonsete tööde käivitamist. Need tööd võivad liiklust väga kiiresti suurendada ega vaja sageli Kiirrežiimi paremat jõudlust.

Kui puutute kasvutempo piirangutega sageli kokku, kaaluge selle asemel Skaleerimistasandi kvoodi ostmist.

Kas kasvutempo piirangud on minu projektide või organisatsioonide vahel ühised?

Jah, kogu teie liiklusele kehtib ühine kasvutempo piirang.

Eeskirjad

Mis juhtub, kui Kiirrežiim ei saavuta latentsuse sihttaset?

Küsimuste või murede korral võtke ühendust oma kliendihalduriga (AD). Kiirrežiimi teenusetaseme kokkuleppeid (SLA) käsitletakse samamoodi nagu Skaleerimistasandi omi. Kui me ei täida Enterprise’i lepinguga klientide puhul neid kokkuleppeid kindla ajavahemiku jooksul, pakume teenusekrediite.

Kas Kiirrežiim ühildub andmete asukohanõuetega?

Jah.

Kas Kiirrežiim ühildub ZDR-i ja BAA-ga?

Jah.

Ultrafast mudelile GPT-6 Astra

Ultrafast on eraldi teenusetasand ülesannetele, mis vajavad GPT-6 Astra vastuseid väiksema latentsusega, näiteks interaktiivsetele rakendustele ja programmeerimise töövoogudele.

Kiirrežiimi hinnastuse, kiiruse piirangute ja eeskirjade juhised kehtivad päringutele, mis kasutavad sätet service_tier="fast". Ultrafasti päringud kasutavad eraldi tasandit service_tier="ultrafast".

Kuidas saata Ultrafasti päringut?

Kui organisatsioonil on juurdepääs Ultrafastile, kasutage Responses API-t järgmiste sätetega:

• Mudel: gpt-6-astra

• Teenusetasand: ultrafast

• Päringupäis: OpenAI-Service-Tier: ultrafast

Päringupäis on nõutav lisaks teenusetasandi sättele.

Tööriistakutseid tegevates rakendustes võimaldab WebSocketi režiim kasutada sama ühendust eri vestlusvoorudes ja vähendada ühenduste loomisega kaasnevat lisakulu.

Kas saan sama päringupäist kasutada ka muude teenusetasandite puhul?

Ultrafasti alfaversioonis aktsepteerib päis OpenAI-Service-Tier ainult väärtust ultrafast. Muu väärtuse, sealhulgas default, fast või flex, saatmisel tagastatakse HTTP 400 tõrge. Muu tasandi kasutamisel jätke see päis välja.

Kas saan Ultrafasti kasutada Workis või Codexis?

Ultrafast on saadaval ka Workis ja Codexis nõuetele vastavate pakettide ja tööruumide puhul. ChatGPT pakettide juurdepääsu- ja kasutustingimused erinevad API omadest.

Saadavuse ja kasutuse üksikasju vaadake artiklist ChatGPT Work ja Codex.