API korisnicima koji žele brže i dosljednije performanse na određenim modelima nudimo Brzi mod. U nastavku donosimo odgovore na česta pitanja o načinu rada, cijenama, dostupnosti modela, ograničenjima brzine, pouzdanosti, pravilima i uslovima za korištenje.
Napomena: prioritetna obrada preimenovana je u Brzi mod 30. jula 2026. U API zahtjevima možete koristiti service_tier: priority ili service_tier: fast.
Saznajte više ovdje.
Je li Brzi mod dostupan u svim regijama?
Dostupnost Brzog moda zavisi od važećih zakona i propisa u svakoj jurisdikciji. Ako imate pitanja o dostupnosti u svojoj regiji, obratite se direktoru zaduženom za vaš račun.
Kako funkcionira
Korisnici mogu usmjeravati saobraćaj na Brzi mod za svaki pojedinačni zahtjev pomoću postojećeg parametra service_tier, uz opciju service_tier = "fast".
Tokeni obrađeni u Brzom modu naplaćuju se po tokenu, po višoj cijeni u odnosu na standardnu obradu.
Pored postavljanja za pojedinačne zahtjeve, Brzi mod možete postaviti i kao zadani za projekt u odjeljku Postavke projekta > Zadani nivo usluge: Brzi. Tu postavku i dalje možete promijeniti za svaki pojedinačni zahtjev. Odabir opcije Brzi u postavkama projekta ima isti učinak kao odabir opcije Prioritetni.
Kako ovo funkcionira s Nivoom skale?
Nivo skale ostat će odvojen od Brzog moda. Zahtjevi poslani na Brzi mod naplaćivat će se zasebno i neće se uračunavati u vaše kupljene TPM pakete za Nivo skale.
Mogu li saobraćaj koji premašuje kapacitet Nivoa skale automatski preusmjeriti na Brzi mod?
Ne. Saobraćaj poslan na Nivo skale neće se automatski preusmjeriti na Brzi mod kada premaši njegov kapacitet.
Kako se naplaćuje Brzi mod?
Tokeni obrađeni u Brzom modu naplaćuju se po tokenu, po višoj cijeni u odnosu na standardnu obradu.
Je li moja godišnja obaveza potrošnje vezana za određeni način obrade?
Ne. Svi načini obrade uračunavaju se u vašu ugovorenu godišnju potrošnju za Enterprise.
Da li i dalje dobijam popust na keširane ulazne tokene?
Da! Na keširane ulazne podatke primjenjuje se isti popust od 50–75% kao i pri standardnoj obradi.
Kako da pregledam korištenje i troškove Brzog moda?
Da biste pregledali tokene obrađene u Brzom modu (ranije poznatom kao prioritetna obrada), otvorite kontrolnu ploču Korištenje, odaberite Chat Completions ili Responses, a zatim Grupiraj po nivou usluge.
Da biste pregledali troškove Brzog moda, otvorite kontrolnu ploču Korištenje i odaberite Grupiraj po stavci.
Na kontrolnoj ploči Korištenje, zahtjevi koji koriste priority ili fast kao vrijednost parametra service_tier i dalje će se prikazivati kao priority. Ovo će biti ažurirano za buduće modele.
Modeli
Je li Brzi mod dostupan za dugi kontekst, dodatno obučene modele, vektorske reprezentacije i slično?
Trenutno nije. U budućnosti ćemo razmotriti da li Brzi mod ponuditi i za druge proizvode, pored naših najnovijih modela.
Kako drugi modaliteti rade u Brzom modu?
Brzi mod podržava iste multimodalne mogućnosti kao standardna obrada. Konkretno, slike se mogu koristiti kao ulazni podaci za prioritetnu obradu i obrađuju se uz jednako nisku latenciju.
Hoće li budući modeli biti podržani?
Planiramo ponuditi Brzi mod za nove GPT modele, ali ne garantiramo da će svaki model biti podržan.
Ograničenja brzine
Koja su ograničenja brzine?
Za potrebe ograničenja brzine, korištenje prioritetne obrade tretira se isto kao standardni API saobraćaj.
Koja su ograničenja stope povećanja?
Brzi mod ima ograničenja stope povećanja kako bi svim korisnicima osigurao dosljedno visoke performanse, uz fleksibilnu naplatu prema korištenju. Ako su (a) performanse Brzog moda smanjene I (b) saobraćaj korisnika prebrzo raste, pojedini zahtjevi se u rijetkim slučajevima mogu prebaciti na standardnu obradu.
Trenutno ograničenje stope povećanja za Brzi mod definirano je ovdje, u našoj glavnoj dokumentaciji.
Najbolje prakse za izbjegavanje prekoračenja ograničenja stope povećanja
Postepeno povećavajte saobraćaj pri promjeni modela. Naprimjer, ako vaša aplikacija prelazi s prethodne verzije modela na novu, koristite zastavicu funkcionalnosti da preusmjerite saobraćaj tokom nekoliko sati, umjesto odjednom.
Izbjegavajte pokretanje opsežne obrade podataka ili asinhronih zadataka u Brzom modu. Ovi zadaci mogu vrlo brzo povećati saobraćaj, a često im nisu potrebne poboljšane performanse Brzog moda.
Ako redovno dostižete ograničenja stope povećanja, razmislite o tome da umjesto toga kupite kvotu za Nivo skale.
Da li je ograničenje stope povećanja zajedničko za sve moje projekte ili organizacije?
Da, sav vaš saobraćaj računa se u isto ograničenje stope povećanja.
Pravila
Šta se dešava ako Brzi mod ne ispunjava ciljanu latenciju?
Za sva pitanja ili nedoumice obratite se svom AD-u. SLA ugovori za Brzi mod tretirat će se isto kao SLA ugovori za Nivo skale; korisnicima s Enterprise ugovorima bit će ponuđeni krediti za uslugu ako u određenom vremenskom periodu ne ispunimo te SLA obaveze.
Je li Brzi mod kompatibilan s rezidentnošću podataka?
Da.
Je li Brzi mod kompatibilan sa ZDR-om i BAA-om?
Da.
Ultrafast za GPT-6 Astra
Ultrafast je zaseban nivo usluge za radna opterećenja koja zahtijevaju odgovore modela GPT-6 Astra s nižom latencijom, poput interaktivnih aplikacija i radnih tokova za programiranje.
Smjernice o cijenama, ograničenjima brzine i pravilima za Brzi mod primjenjuju se na zahtjeve koji koriste service_tier="fast". Zahtjevi za Ultrafast koriste zaseban nivo service_tier="ultrafast".
Kako da pošaljem Ultrafast zahtjev?
Za organizaciju s pristupom nivou Ultrafast koristite Responses API uz sljedeće postavke:
Model:
gpt-6-astraNivo usluge:
ultrafastZaglavlje zahtjeva:
OpenAI-Service-Tier: ultrafast
Pored postavke nivoa usluge, obavezno je i zaglavlje zahtjeva.
Za aplikacije koje izvršavaju pozive alata, WebSocket način rada omogućava ponovnu upotrebu iste veze kroz više koraka razgovora i smanjuje dodatno opterećenje pri uspostavljanju veze.
Mogu li koristiti isto zaglavlje zahtjeva za druge nivoe usluge?
Tokom alfa faze nivoa Ultrafast, zaglavlje OpenAI-Service-Tier prihvata samo vrijednost ultrafast. Slanje druge vrijednosti, uključujući default, fast ili flex, vraća grešku HTTP 400. Izostavite ovo zaglavlje kada koristite drugi nivo.
Mogu li koristiti Ultrafast u modu Work ili u Codexu?
Ultrafast je dostupan i u modu Work i u Codexu za planove i radne prostore koji ispunjavaju uslove. Uslovi dostupnosti i korištenja u okviru ChatGPT planova razlikuju se od onih za pristup putem API-ja.
Detalje o dostupnosti i korištenju potražite u članku ChatGPT Work i Codex.
