Noffru l-Modalità veloċi lill-klijenti tal-API li jixtiequ prestazzjoni aktar rapida u konsistenti fuq ċerti mudelli. Hawn taħt issib tweġibiet għal mistoqsijiet komuni dwar kif taħdem, il-prezzijiet, id-disponibbiltà tal-mudelli, il-limiti tal-veloċità, l-affidabbiltà, il-politiki u l-eliġibbiltà.
Nota: Fit-30 ta’ Lulju 2026, l-isem tal-ipproċessar prijoritarju nbidel għal Modalità veloċi. Fit-talbiet tiegħek lill-API tista’ tuża jew service_tier: priority jew service_tier: fast.
Sir af aktar hawnhekk.
Il-Modalità veloċi hija disponibbli fir-reġjuni kollha?
Id-disponibbiltà tal-Modalità veloċi tiddependi mil-liġijiet u r-regolamenti applikabbli f’kull ġuriżdizzjoni. Jekk għandek mistoqsijiet dwar id-disponibbiltà fir-reġjun tiegħek, ikkuntattja lid-Direttur tal-Kont tiegħek.
Kif taħdem
Il-klijenti jistgħu jidderieġu t-traffiku lejn il-Modalità veloċi għal kull talba individwali billi jużaw il-parametru eżistenti service_tier, bl-għażla service_tier = "fast".
It-tokens ipproċessati bil-Modalità veloċi jiġu fatturati għal kull token, bi prezz ogħla mir-rati tal-ipproċessar standard.
Minbarra li tikkonfiguraha għal kull talba, tista’ wkoll tagħżel il-Modalità veloċi bħala l-għażla predefinita għal proġett f’Settings tal-proġett > Livell tas-Servizz predefinit: Veloċi. Xorta tista’ tibdel din l-għażla għal kull talba. Li tagħżel Veloċi fis-settings tal-proġett tiegħek huwa ekwivalenti għal li tagħżel Prijorità.
Kif taħdem din mal-Livell ta’ Eskalaġġ?
Il-Livell ta’ Eskalaġġ se jibqa’ separat mill-Modalità veloċi. It-talbiet mibgħuta lejn il-Modalità veloċi jiġu fatturati separatament u ma jitnaqqsux mill-pakketti TPM tal-Livell ta’ Eskalaġġ li tkun xtrajt.
Nista’ nibgħat awtomatikament it-traffiku li jaqbeż il-kwota tal-Livell ta’ Eskalaġġ lejn il-Modalità veloċi?
Le. It-traffiku mibgħut lejn il-Livell ta’ Eskalaġġ ma jiġix ittrasferit awtomatikament lejn il-Modalità veloċi meta tinqabeż il-kwota.
Kif tiġi fatturata l-Modalità veloċi?
It-tokens ipproċessati bil-Modalità veloċi jiġu fatturati għal kull token, bi prezz ogħla mir-rati tal-ipproċessar standard.
L-impenn annwali tiegħi huwa marbut ma’ modalità speċifika ta’ pproċessar?
Le. Il-modalitajiet kollha ta’ pproċessar jgħoddu għall-impenn annwali tiegħek ta’ nfiq fuq Enterprise.
Xorta nieħu skont fuq it-tokens tal-input fil-cache?
Iva! L-inputs fil-cache jirċievu l-istess skont ta’ 50-75% bħal fl-ipproċessar standard.
Kif nara l-użu u l-infiq tiegħi tal-Modalità veloċi?
Biex tara t-tokens ipproċessati bil-Modalità veloċi (li qabel kienet magħrufa bħala pproċessar bi prijorità), mur fid-dashboard tal-Użu, agħżel Chat Completions jew Responses, u Aggruppa skont il-Livell tas-Servizz.
Biex tara l-ispiża tal-Modalità veloċi, mur fid-dashboard tal-Użu u agħżel Aggruppa skont l-entrata.
Fid-dashboard tal-Użu, it-talbiet li jużaw priority jew fast bħala service_tier se jkomplu jidhru bħala priority. Dan se jiġi aġġornat għal mudelli futuri.
Mudelli
Il-Modalità veloċi hija disponibbli għal kuntest twil, mudelli rfinati, embeddings, eċċ.?
Mhux bħalissa. Fil-futur se nevalwaw jekk noffrux il-Modalità veloċi fuq prodotti oħra minbarra l-aħħar mudelli tagħna.
Kif jaħdmu modalitajiet oħra mal-Modalità veloċi?
Il-Modalità veloċi tappoġġja l-istess kapaċitajiet multimodali disponibbli fl-ipproċessar standard. B’mod partikolari, l-immaġnijiet jistgħu jintużaw bħala inputs għall-ipproċessar bi prijorità u jiġu pproċessati bl-istess latenza baxxa.
Se jkun hemm appoġġ għal mudelli futuri?
Qed nippjanaw li noffru l-Modalità veloċi fuq mudelli ġodda ta’ GPT, iżda ma niggarantixxux li kull mudell se jkun appoġġjat.
Limiti tal-veloċità
X’inhuma l-limiti tal-veloċità?
Għall-finijiet tal-limiti tal-veloċità, l-użu tal-ipproċessar bi prijorità jitqies l-istess bħat-traffiku standard tal-API.
X’inhuma l-limiti tar-rata ta' żieda?
Il-Modalità veloċi għandha limiti tar-rata ta' żieda biex tiżgura prestazzjoni għolja b’mod konsistenti għall-klijenti kollha, filwaqt li xorta toffri prezzijiet flessibbli skont id-domanda. Jekk (a) il-prestazzjoni tal-Modalità veloċi tonqos U (b) it-traffiku ta’ klijent ikun qed jiżdied malajr wisq, f’każijiet rari xi talbiet jistgħu jiġu ttrasferiti għal ipproċessar standard minflok.
Il-limitu attwali tar-rata ta' żieda tal-Modalità veloċi huwa definit fid-dokumentazzjoni prinċipali tagħna hawn.
L-aħjar prattiki biex tibqa’ fil-limitu tar-rata ta' żieda tiegħek
Żid it-traffiku gradwalment meta tbiddel il-mudelli. Pereżempju, jekk l-applikazzjoni tiegħek qed taqleb minn verżjoni preċedenti għal waħda ġdida, uża feature flag biex tittrasferixxi t-traffiku fuq medda ta’ ftit sigħat minflok kollu f’daqqa.
Evita li tħaddem kompiti kbar ta’ pproċessar tad-dejta jew kompiti asinkroniċi bil-Modalità veloċi. Dawn il-kompiti jistgħu jżidu t-traffiku malajr ħafna, u ħafna drabi ma jeħtiġux il-prestazzjoni mtejba tal-Modalità veloċi.
Jekk spiss tilħaq il-limiti tar-rata ta' żieda, ikkunsidra li tixtri kwota tal-Livell ta’ Eskalaġġ minflok.
Il-limiti tar-rata ta' żieda huma kondiviżi bejn il-proġetti jew l-organizzazzjonijiet tiegħi?
Iva, it-traffiku kollu tiegħek jgħodd għall-istess limitu tar-rata ta' żieda.
Politiki
X’jiġri jekk il-Modalità veloċi ma tilħaqx il-mira tal-latenza?
Ikkuntattja lill-AD tiegħek jekk għandek xi mistoqsijiet jew tħassib. L-SLAs tal-Modalità veloċi jiġu ttrattati bl-istess mod bħall-SLAs tal-Livell ta’ Eskalaġġ; jiġu offruti krediti tas-servizz jekk ma nissodisfawx dawk l-SLAs għall-klijenti bi ftehimiet Enterprise matul perjodu ta’ żmien partikolari.
Il-Modalità veloċi hija kompatibbli mar-residenza tad-dejta?
Iva.
Il-Modalità veloċi hija kompatibbli ma’ ZDR u l-BAA?
Iva.
Ultrafast għal GPT-6 Astra
Ultrafast huwa Livell tas-Servizz separat għal kompiti li jeħtieġu tweġibiet minn GPT-6 Astra b’latenza aktar baxxa, bħal applikazzjonijiet interattivi u flussi tax-xogħol għall-kitba tal-kodiċi.
Il-gwida dwar il-prezzijiet, il-limiti tal-veloċità u l-politiki tal-Modalità veloċi tapplika għat-talbiet li jużaw service_tier="fast". It-talbiet ta’ Ultrafast jużaw il-livell separat service_tier="ultrafast".
Kif nibgħat talba ta’ Ultrafast?
Għal organizzazzjoni b’aċċess għal Ultrafast, uża r-Responses API b’dawn is-settings:
Mudell:
gpt-6-astraLivell tas-Servizz:
ultrafastHeader tat-talba:
OpenAI-Service-Tier: ultrafast
Il-header tat-talba huwa meħtieġ flimkien mas-setting tal-Livell tas-Servizz.
Għal applikazzjonijiet li jeżegwixxu sejħiet lil għodod, il-modalità WebSocket tippermettilek terġa’ tuża konnessjoni bejn skambju u ieħor u tnaqqas ir-riżorsi addizzjonali meħtieġa għall-konnessjonijiet.
Nista’ nuża l-istess header tat-talba għal Livelli tas-Servizz oħra?
Matul il-fażi alpha ta’ Ultrafast, il-header OpenAI-Service-Tier jaċċetta biss ultrafast. Jekk tibgħat valur ieħor, inkluż default, fast, jew flex, tirċievi żball HTTP 400. Tinkludix dan il-header meta tuża livell ieħor.
Nista’ nuża Ultrafast f’Work jew Codex?
Ultrafast huwa disponibbli wkoll f’Work u Codex għal pjanijiet u spazji tax-xogħol eliġibbli. L-eliġibbiltà u l-użu fil-pjanijiet ta’ ChatGPT huma differenti mill-aċċess għall-API.
Ara ChatGPT Work u Codex għad-dettalji dwar id-disponibbiltà u l-użu.