Strankam API-ja, ki želijo pri nekaterih modelih hitrejše in doslednejše delovanje, ponujamo hitri način. Spodaj so odgovori na pogosta vprašanja o delovanju, cenah, razpoložljivosti modelov, omejitvah hitrosti, zanesljivosti, pravilih in upravičenosti.

Opomba: Prednostna obdelava se od 30. julija 2026 imenuje hitri način. V zahtevah API-ja lahko uporabite service_tier: priority ali service_tier: fast. 

Več o tem preberite tukaj.

Ali je hitri način na voljo v vseh regijah?

Razpoložljivost hitrega načina je odvisna od veljavnih zakonov in predpisov v posamezni jurisdikciji. Če imate vprašanja o razpoložljivosti v svoji regiji, se obrnite na skrbnika svojega računa.

Kako deluje

Stranke lahko posamezne zahteve usmerijo v hitri način z obstoječim parametrom service_tier in nastavitvijo service_tier = "fast".

Žetoni, obdelani v hitrem načinu, se obračunavajo po žetonu, po višji ceni kot pri standardni obdelavi.

Poleg nastavitve za posamezno zahtevo lahko hitri način nastavite tudi kot privzeti način projekta v Nastavitve projekta > Privzeta raven storitve: Hitro. To nastavitev lahko še vedno preglasite za posamezno zahtevo. Izbira možnosti Hitro v nastavitvah projekta je enakovredna izbiri možnosti Prednostno.

Kako je to povezano z lestvico zmogljivosti?

Lestvica zmogljivosti bo ostala ločena od hitrega načina. Zahteve, poslane v hitri način, se obračunavajo ločeno in se ne odštevajo od kupljenih paketov TPM na lestvici zmogljivosti.

Ali lahko promet, ki presega kvoto na lestvici zmogljivosti, samodejno preusmerim v hitri način?

Ne. Promet, poslan na lestvico zmogljivosti, se ob preseganju kvote ne bo samodejno preusmeril v hitri način.

Kako se obračunava hitri način?

Žetoni, obdelani v hitrem načinu, se obračunavajo po žetonu, po višji ceni kot pri standardni obdelavi.

Ali je moja letna zaveza porabe vezana na določen način obdelave?

Ne. Vsi načini obdelave se upoštevajo pri izpolnjevanju vaše letne zaveze porabe v okviru pogodbe Enterprise.

Ali še vedno dobim popust za predpomnjene vhodne žetone?

Da! Za predpomnjene vhodne podatke velja enak 50–75-odstotni popust kot pri standardni obdelavi.

Kako si ogledam porabo in stroške hitrega načina?

Če si želite ogledati žetone, obdelane v hitrem načinu (prej imenovanem prednostna obdelava), odprite nadzorno ploščo Poraba, izberite Chat Completions ali Responses ter možnost Združi po ravni storitve.

Če si želite ogledati stroške hitrega načina, odprite nadzorno ploščo Poraba in izberite možnost Združi po obračunski postavki.

Na nadzorni plošči Poraba bodo zahteve, ki za service_tier uporabljajo vrednost priority ali fast, še naprej prikazane kot priority. To bo posodobljeno za prihodnje modele.

Modeli

Ali je hitri način na voljo za dolgi kontekst, dodatno naučene modele, vektorske vložitve itd.?

Trenutno ne. V prihodnje bomo preučili, ali naj hitri način poleg najnovejših modelov ponudimo tudi za druge izdelke.

Kako v hitrem načinu delujejo druge modalnosti?

Hitri način podpira enake večmodalne zmožnosti kot standardni način. Pri prednostni obdelavi lahko kot vhodne podatke uporabite tudi slike, ki so obdelane z enako nizko zakasnitvijo.

Ali bodo prihodnji modeli podprti?

Hitri način nameravamo ponuditi za nove modele GPT, vendar ne zagotavljamo, da bo podprt vsak model.

Omejitve hitrosti

Kakšne so omejitve hitrosti?

Pri omejitvah hitrosti se poraba prednostne obdelave obravnava enako kot standardni promet API.

Kakšne so omejitve stopnje povečanja?

Hitri način ima omejitve stopnje povečanja, ki zagotavljajo stalno visoko zmogljivost za vse stranke, hkrati pa še vedno omogoča prilagodljivo obračunavanje glede na porabo. Če (a) se zmogljivost hitrega načina poslabša IN (b) promet stranke prehitro narašča, se lahko v redkih primerih nekatere zahteve preusmerijo v standardno obdelavo.

Trenutna omejitev stopnje povečanja za hitri način je opredeljena tukaj v naši glavni dokumentaciji.

Dobre prakse za preprečevanje prekoračitve omejitve stopnje povečanja

Ob menjavi modelov promet povečujte postopoma. Če vaša aplikacija na primer prehaja s prejšnjega posnetka modela na novega, uporabite zastavico funkcionalnosti in promet preusmerjajte postopoma v nekaj urah, ne pa vsega naenkrat.

V hitrem načinu se izogibajte obsežni obdelavi podatkov in izvajanju asinhronih opravil. Takšna opravila lahko zelo hitro povečajo promet in pogosto ne potrebujejo izboljšane zmogljivosti hitrega načina.

Če redno dosegate omejitve stopnje povečanja, razmislite o nakupu kvote na lestvici zmogljivosti.

Ali so omejitve stopnje povečanja skupne vsem mojim projektom ali organizacijam?

Da, ves vaš promet se upošteva pri isti omejitvi stopnje povečanja.

Pravilniki

Kaj se zgodi, če hitri način ne dosega ciljne zakasnitve?

Če imate vprašanja ali pomisleke, se obrnite na svojega skrbnika stranke (AD). Dogovori o ravni storitve (SLA) za hitri način se bodo obravnavali enako kot dogovori SLA za lestvico zmogljivosti; če v določenem časovnem obdobju ne bomo izpolnili teh dogovorov za stranke s pogodbami Enterprise, jim bomo ponudili točke za uporabo storitve.

Ali je hitri način združljiv z lokalno hrambo podatkov?

Da.

Ali je hitri način združljiv z ZDR in BAA?

Da.

Ultrafast za GPT-6 Astra

Ultrafast je ločena raven storitve za delovne obremenitve, ki zahtevajo odzive modela GPT-6 Astra z nižjo zakasnitvijo, kot so interaktivne aplikacije in programerski delovni procesi.

Cene, omejitve hitrosti in smernice glede pravilnikov za hitri način veljajo za zahteve, ki uporabljajo service_tier="fast". Zahteve Ultrafast uporabljajo ločeno raven service_tier="ultrafast".

Kako pošljem zahtevo Ultrafast?

Za organizacijo z dostopom do Ultrafast uporabite API Responses z naslednjimi nastavitvami:

• Model: gpt-6-astra

• Raven storitve: ultrafast

• Glava zahteve: OpenAI-Service-Tier: ultrafast

Poleg nastavitve ravni storitve je obvezna tudi glava zahteve.

Za aplikacije, ki izvajajo klice orodij, način WebSocket omogoča ponovno uporabo povezave v več izmenjavah in zmanjšuje režijske stroške vzpostavljanja povezav.

Ali lahko isto glavo zahteve uporabim za druge ravni storitve?

V fazi alfa za Ultrafast glava OpenAI-Service-Tier sprejema samo vrednost ultrafast. Če pošljete drugo vrednost, vključno z default, fast ali flex, se vrne napaka HTTP 400. Pri uporabi druge ravni to glavo izpustite.

Ali lahko Ultrafast uporabljam v načinu Work ali v Codex?

Ultrafast je na voljo tudi v načinu Work in v Codex za pakete in delovne prostore, ki izpolnjujejo pogoje. Pogoji upravičenosti in uporabe v paketih ChatGPT se razlikujejo od pogojev za dostop prek API-ja.

Podrobnosti o razpoložljivosti in uporabi najdete v članku ChatGPT Work in Codex.