Korisnicima API-ja nudimo Brzi način rada ako žele brže i ujednačenije performanse na određenim modelima. U nastavku donosimo odgovore na česta pitanja o načinu rada, cijenama, dostupnosti modela, ograničenjima broja zahtjeva, pouzdanosti, pravilima i uvjetima za pristup.
Napomena: prioritetna obrada 30. srpnja 2026. preimenovana je u Brzi način rada. U svojim API zahtjevima možete upotrebljavati service_tier: priority ili service_tier: fast.
Saznajte više ovdje.
Je li Brzi način rada dostupan u svim regijama?
Dostupnost Brzog načina rada ovisi o važećim zakonima i propisima u svakoj jurisdikciji. Ako imate pitanja o dostupnosti u svojoj regiji, obratite se direktoru zaduženom za vaš račun.
Kako funkcionira
Korisnici mogu usmjeravati promet u Brzi način rada za svaki zahtjev zasebno s pomoću postojećeg parametra service_tier, uz opciju service_tier = "fast".
Tokeni obrađeni u Brzom načinu rada naplaćivat će se po tokenu, po višoj cijeni nego pri standardnoj obradi.
Osim na razini zahtjeva, Brzi način rada možete postaviti i kao zadani za projekt u odjeljku Postavke projekta > Zadana razina usluge: Brzo. Tu postavku i dalje možete promijeniti za pojedinačni zahtjev. Odabir opcije Brzo u postavkama projekta jednak je odabiru opcije Prioritetno.
Kako je to povezano s Razinom skaliranja?
Razina skaliranja ostat će odvojena od Brzog načina rada. Zahtjevi poslani u Brzi način rada naplaćivat će se zasebno i neće se uračunavati u vaše kupljene pakete TPM-a za Razinu skaliranja.
Mogu li promet koji premašuje kapacitet Razine skaliranja automatski slati u Brzi način rada?
Ne. Promet poslan na Razinu skaliranja neće se automatski preusmjeriti u Brzi način rada ako premaši njezin kapacitet.
Kako se naplaćuje Brzi način rada?
Tokeni obrađeni u Brzom načinu rada naplaćivat će se po tokenu, po višoj cijeni nego pri standardnoj obradi.
Je li moja godišnja obveza potrošnje vezana uz određeni način obrade?
Ne. Svi načini obrade uračunavaju se u vašu godišnju obvezu potrošnje prema ugovoru Enterprise.
Dobivam li i dalje popust na ulazne tokene iz predmemorije?
Da! Na ulazne podatke iz predmemorije primjenjuje se isti popust od 50 do 75 % kao i pri standardnoj obradi.
Kako mogu pregledati upotrebu i troškove Brzog načina rada?
Za pregled tokena obrađenih u Brzom načinu rada (prije poznatom kao prioritetna obrada) otvorite nadzornu ploču Upotreba, odaberite Chat Completions ili Responses, a zatim Grupiraj po razini usluge.
Za pregled troškova Brzog načina rada otvorite nadzornu ploču Upotreba i odaberite Grupiraj po stavci.
Na nadzornoj ploči Upotreba zahtjevi koji kao vrijednost parametra service_tier upotrebljavaju priority ili fast i dalje će se prikazivati kao priority. To će se ažurirati za buduće modele.
Modeli
Je li Brzi način rada dostupan za dugi kontekst, fino podešene modele, vektorske prikaze itd.?
Trenutačno nije. U budućnosti ćemo razmotriti mogućnost uvođenja Brzog načina rada i za druge proizvode, osim naših najnovijih modela.
Kako drugi modaliteti funkcioniraju u Brzom načinu rada?
Brzi način rada podržava iste multimodalne mogućnosti kao i standardna obrada. Konkretno, slike se mogu upotrebljavati kao ulazni podaci za prioritetnu obradu te se obrađuju uz jednako nisku latenciju.
Hoće li budući modeli biti podržani?
Planiramo ponuditi Brzi način rada za nove modele GPT, ali ne jamčimo da će svaki model biti podržan.
Ograničenja broja zahtjeva
Koja su ograničenja broja zahtjeva?
Pri primjeni ograničenja broja zahtjeva potrošnja u prioritetnoj obradi tretira se jednako kao standardni API promet.
Koja su ograničenja stope povećanja prometa?
Brzi način rada ima ograničenja stope povećanja prometa kako bi svim korisnicima osigurao dosljedno visoke performanse uz fleksibilnu naplatu prema potrošnji. Ako su (a) performanse Brzog načina rada narušene I (b) promet korisnika raste prebrzo, neki se zahtjevi u rijetkim slučajevima mogu prebaciti na standardnu obradu.
Trenutačno ograničenje stope povećanja prometa za Brzi način rada definirano je ovdje u našoj glavnoj dokumentaciji.
Preporuke za ostanak unutar ograničenja stope povećanja prometa
Pri promjeni modela postupno povećavajte promet. Primjerice, ako vaša aplikacija prelazi s prethodne verzije modela na novu, upotrijebite zastavicu značajke kako biste preusmjeravali promet tijekom nekoliko sati, a ne sav odjednom.
Izbjegavajte obradu velikih količina podataka ili pokretanje asinkronih zadataka u Brzom načinu rada. Takvi zadaci mogu vrlo brzo povećati promet, a često im nisu potrebne poboljšane performanse Brzog načina rada.
Ako redovito dosežete ograničenja stope povećanja prometa, razmislite o kupnji kvote za Razinu skaliranja.
Dijele li moji projekti ili organizacije ograničenja stope povećanja prometa?
Da, sav vaš promet uračunava se u isto ograničenje stope povećanja prometa.
Pravila
Što se događa ako Brzi način rada ne postiže ciljanu latenciju?
Za sva pitanja ili nedoumice obratite se svojem AD-u. SLA-ovi za Brzi način rada tretirat će se jednako kao SLA-ovi za Razinu skaliranja. Korisnicima s ugovorima Enterprise ponudit ćemo kredite za uslugu ako u određenom razdoblju ne ispunimo te SLA-ove.
Je li Brzi način rada kompatibilan s rezidentnošću podataka?
Da.
Je li Brzi način rada kompatibilan sa ZDR-om i BAA-om?
Da.
Ultrafast za GPT-6 Astra
Ultrafast je zasebna razina usluge za zadatke kojima su potrebni odgovori modela GPT-6 Astra s nižom latencijom, primjerice u interaktivnim aplikacijama i programerskim radnim procesima.
Smjernice o cijenama, ograničenju broja zahtjeva i pravilima za Brzi način rada primjenjuju se na zahtjeve koji upotrebljavaju service_tier="fast". Zahtjevi za Ultrafast upotrebljavaju zasebnu razinu service_tier="ultrafast".
Kako poslati zahtjev za Ultrafast?
Ako vaša organizacija ima pristup usluzi Ultrafast, upotrijebite Responses API sa sljedećim postavkama:
Model:
gpt-6-astraRazina usluge:
ultrafastZaglavlje zahtjeva:
OpenAI-Service-Tier: ultrafast
Uz postavku razine usluge obavezno je navesti i zaglavlje zahtjeva.
Za aplikacije koje izvršavaju pozive alata način rada WebSocket omogućuje ponovnu upotrebu veze u više koraka razgovora i smanjuje opterećenje pri uspostavi veze.
Mogu li isto zaglavlje zahtjeva upotrebljavati za druge razine usluge?
Tijekom alfa faze usluge Ultrafast zaglavlje OpenAI-Service-Tier prihvaća samo vrijednost ultrafast. Slanje druge vrijednosti, uključujući default, fast ili flex, vraća pogrešku HTTP 400. Izostavite ovo zaglavlje kada upotrebljavate drugu razinu.
Mogu li upotrebljavati Ultrafast u načinu Work ili alatu Codex?
Ultrafast je dostupan i u načinu Work te alatu Codex za pakete i radne prostore koji ispunjavaju uvjete. Uvjeti dostupnosti i upotrebe u paketima za ChatGPT razlikuju se od onih za pristup putem API-ja.
Pojedinosti o dostupnosti i upotrebi potražite u članku ChatGPT Work i Codex.
