Noffru l-Modalità veloċi lill-klijenti tal-API li jixtiequ prestazzjoni aktar rapida u konsistenti fuq ċerti mudelli. Hawn taħt issib tweġibiet għal mistoqsijiet komuni dwar kif taħdem, il-prezzijiet, id-disponibbiltà tal-mudelli, il-limiti tal-veloċità, l-affidabbiltà, il-politiki u l-eliġibbiltà.
Nota: Fit-30 ta’ Lulju 2026, l-isem tal-ipproċessar prijoritarju nbidel għal Modalità veloċi. Fit-talbiet tiegħek lill-API tista’ tuża jew service_tier: priority jew service_tier: fast.
Sir af aktar hawnhekk.
Il-Modalità veloċi hija disponibbli fir-reġjuni kollha?
Id-disponibbiltà tal-Modalità veloċi tiddependi mil-liġijiet u r-regolamenti applikabbli f’kull ġuriżdizzjoni. Jekk għandek mistoqsijiet dwar id-disponibbiltà fir-reġjun tiegħek, ikkuntattja lid-Direttur tal-Kont tiegħek.
Kif taħdem
Il-klijenti jistgħu jidderieġu t-traffiku lejn il-Modalità veloċi għal kull talba billi jużaw il-parametru eżistenti service_tier bl-għażla service_tier = "fast".
It-tokens ipproċessati bil-Modalità veloċi jiġu ċċarġjati għal kull token, bi prezz ogħla mir-rati tal-ipproċessar Standard.
Minbarra li tikkonfiguraha fil-livell tat-talba, tista’ wkoll tissettja l-Modalità veloċi bħala l-għażla predefinita għal proġett minn Settings tal-Proġett > Livell tas-Servizz Predefinit: Fast. Xorta tista’ tibdel din l-għażla għal kull talba. L-għażla Fast fis-settings tal-proġett tiegħek hija ekwivalenti għall-għażla Priority.
Dan kif jaħdem mal-Livell ta’ Eskalaġġ?
Il-Livell ta’ Eskalaġġ se jibqa’ separat mill-Modalità veloċi. It-talbiet mibgħuta lill-Modalità veloċi jiġu ċċarġjati separatament u ma jingħaddux mal-pakketti TPM tal-Livell ta’ Eskalaġġ li tkun xtrajt.
Nista’ nibgħat awtomatikament lill-Modalità veloċi t-traffiku żejjed tal-Livell ta’ Eskalaġġ tiegħi?
Le. It-traffiku mibgħut lil-Livell ta’ Eskalaġġ mhux se jgħaddi awtomatikament għall-Modalità veloċi.
Kif tiġi ċċarġjata l-Modalità veloċi?
It-tokens ipproċessati bil-Modalità veloċi jiġu ċċarġjati għal kull token, bi prezz ogħla mir-rati tal-ipproċessar Standard.
L-impenn annwali tiegħi huwa marbut ma’ modalità speċifika ta’ pproċessar?
Le. Il-modalitajiet kollha tal-ipproċessar jgħoddu mal-impenn annwali tiegħek dwar l-infiq Enterprise.
Nibqa’ ningħata skont fuq it-tokens tal-input fil-cache?
Iva! L-inputs fil-cache jingħataw l-istess skont ta’ 50–75% bħal fl-ipproċessar Standard.
Kif nara l-użu u l-infiq tiegħi tal-Modalità veloċi?
Biex tara t-tokens ipproċessati bil-Modalità veloċi (li qabel kienet magħrufa bħala l-ipproċessar Priority), mur fid-dashboard Usage, agħżel Chat Completions jew Responses, u agħżel Group by Service Tier.
Biex tara l-ispiża tal-Modalità veloċi, mur fid-dashboard Usage u agħżel Group by Line Item.
Fid-dashboard Usage, it-talbiet li jużaw priority jew fast bħala service_tier se jibqgħu jidhru bħala priority. Dan se jiġi aġġornat għall-mudelli futuri.
Mudelli
Il-Modalità veloċi hija disponibbli għal kuntest twil, mudelli rfinati, embeddings, eċċ.?
Mhux għalissa. Fil-futur se nevalwaw jekk noffrux il-Modalità veloċi fuq prodotti addizzjonali lil hinn mill-aħħar mudelli tagħna.
Kif jaħdmu modalitajiet oħra mal-Modalità veloċi?
Il-Modalità veloċi tappoġġja l-istess kapaċitajiet multimodali disponibbli fuq Standard. B’mod partikolari, l-immaġnijiet jistgħu jintużaw bħala inputs għall-ipproċessar Priority u jiġu pproċessati bl-istess latenza baxxa.
Il-mudelli futuri se jkunu appoġġjati?
Qed nippjanaw li noffru l-Modalità veloċi fuq mudelli GPT ġodda, iżda ma niggarantixxux li kull mudell se jkun appoġġjat.
Limiti tal-veloċità
X’inhuma l-limiti tal-veloċità?
Għal-limiti tal-veloċità, il-konsum tal-ipproċessar Priority jiġi ttrattat bl-istess mod bħat-traffiku standard tal-API.
X’inhuma l-limiti tal-veloċità taż-żieda?
Il-Modalità veloċi għandha limiti tal-veloċità taż-żieda biex tiżgura prestazzjoni għolja u konsistenti għall-klijenti kollha, filwaqt li tibqa’ toffri prezzijiet flessibbli fuq talba. Jekk (a) il-prestazzjoni tal-Modalità veloċi tonqos U (b) it-traffiku ta’ klijent ikun qed jiżdied malajr wisq, f’każijiet rari xi talbiet jistgħu minflok jiġu degradati għall-ipproċessar Standard.
Il-limitu attwali tal-veloċità taż-żieda tal-Modalità veloċi huwa ddefinit hawnhekk fid-dokumentazzjoni ewlenija tagħna.
L-aħjar prattiki biex tibqa’ fil-limitu tal-veloċità taż-żieda tiegħek
Meta tibdel il-mudelli, żid it-traffiku gradwalment. Pereżempju, jekk l-applikazzjoni tiegħek qed taqleb minn snapshot preċedenti għal wieħed ġdid, uża feature flag biex it-traffiku jgħaddi gradwalment tul ftit sigħat minflok kollu f’daqqa.
Evita li tħaddem xogħlijiet kbar ta’ pproċessar tad-dejta jew xogħlijiet asinkroniċi bil-Modalità veloċi. Dawn ix-xogħlijiet jistgħu jżidu t-traffiku malajr ħafna u ħafna drabi ma jkollhomx bżonn il-prestazzjoni aħjar tal-Modalità veloċi.
Jekk ta’ spiss tilħaq il-limiti tal-veloċità taż-żieda, ikkunsidra li minflok tixtri kwota tal-Livell ta’ Eskalaġġ.
Il-limiti tal-veloċità taż-żieda huma kondiviżi bejn il-proġetti jew l-organizzazzjonijiet tiegħi?
Iva, it-traffiku kollu tiegħek jikkontribwixxi għall-istess limitu tal-veloċità taż-żieda.
Politiki
X’jiġri jekk il-Modalità veloċi ma tilħaqx il-mira tal-latenza?
Jekk għandek xi mistoqsijiet jew tħassib, ikkuntattja lill-AD tiegħek. L-SLAs tal-Modalità veloċi se jiġu ttrattati bl-istess mod bħall-SLAs tal-Livell ta’ Eskalaġġ; jekk ma nilħqux dawk l-SLAs f’perjodu partikolari għall-klijenti bi ftehimiet Enterprise, se jiġu offruti krediti tas-servizz.
Il-Modalità veloċi hija kompatibbli mar-residenza tad-dejta?
Iva.
Il-Modalità veloċi hija kompatibbli ma’ ZDR u mal-BAA?
Iva.