Svona virkar þetta

Viðskiptavinir geta beint umferð í Hraðstillingu fyrir hverja beiðni með fyrirliggjandi stikunni service_tier og valkostinum service_tier = "fast".

Tókar sem Hraðstilling afgreiðir eru gjaldfærðir hver fyrir sig á hærra verði en gildir um hefðbundna vinnslu.

Auk þess að stilla þetta fyrir hverja beiðni geturðu valið Hraðstillingu sem sjálfgefið gildi verkefnis undir Verkefnastillingar > Sjálfgefið þjónustustig: Fast. Þú getur samt hnekkt stillingunni fyrir hverja beiðni. Að velja Fast í verkefnastillingunum jafngildir því að velja Priority.

Hvernig virkar þetta með Kvarðastigi?

Kvarðastig verður áfram aðskilið frá Hraðstillingu. Beiðnir sem sendar eru í Hraðstillingu verða gjaldfærðar sérstaklega og teljast ekki með keyptum TPM-pökkum Kvarðastigs.

Get ég sent umframumferð frá Kvarðastigi sjálfkrafa í Hraðstillingu?

Nei. Umferð sem send er á Kvarðastig færist ekki sjálfkrafa yfir í Hraðstillingu.

Hvernig er Hraðstilling gjaldfærð?

Tókar sem Hraðstilling afgreiðir eru gjaldfærðir hver fyrir sig á hærra verði en gildir um hefðbundna vinnslu.

Er árleg skuldbinding mín bundin við tiltekinn vinnslumáta?

Nei. Allir vinnslumátar teljast með í árlegri útgjaldaskuldbindingu Enterprise.

Fæ ég enn afslátt af tókum í skyndiminnislögðu inntaki?

Já! Skyndiminnislagt inntak fær sama 50–75% afslátt og við hefðbundna vinnslu.

Hvernig sé ég notkun og kostnað vegna Hraðstillingar?

Til að sjá tóka sem Hraðstilling (áður Forgangsvinnsla) hefur unnið skaltu fara á notkunaryfirlitið, velja Chat Completions eða Responses og síðan Flokka eftir þjónustustigi.

Til að sjá kostnað Hraðstillingar skaltu fara á notkunaryfirlitið og velja Flokka eftir kostnaðarlið.

Á notkunaryfirlitinu verða beiðnir með priority eða fast sem service_tier áfram sýndar sem priority. Þetta verður uppfært fyrir framtíðarlíkön.

Líkön

Er Hraðstilling í boði fyrir langt samhengi, fínstillt líkön, innfellingar o.fl.?

Ekki að svo stöddu. Síðar munum við meta hvort bjóða eigi Hraðstillingu fyrir fleiri vörur en nýjustu líkönin okkar.

Hvernig virka önnur gagnasnið með Hraðstillingu?

Hraðstilling styður sömu fjölhátta eiginleika og hefðbundin vinnsla. Einkum er hægt að nota myndir sem inntak í Forgangsvinnslu og þær eru unnar með sama stutta svartíma.

Verður stuðningur við framtíðarlíkön?

Við ætlum að bjóða Hraðstillingu fyrir ný GPT-líkön en ábyrgjumst ekki stuðning við hvert einasta líkan.

Hraðatakmarkanir

Hverjar eru hraðatakmarkanirnar?

Notkun Forgangsvinnslu er meðhöndluð eins og hefðbundin API-umferð hvað hraðatakmarkanir varðar.

Hverjar eru takmarkanir á aukningarhraða?

Hraðstilling takmarkar hversu hratt umferð má aukast til að tryggja öllum viðskiptavinum stöðug og mikil afköst, jafnframt því að bjóða sveigjanlega verðlagningu eftir notkun. Ef (a) afköst Hraðstillingar skerðast OG (b) umferð viðskiptavinar eykst of hratt kann í undantekningartilvikum að verða skipt yfir í hefðbundna vinnslu fyrir sumar beiðnir.

Núverandi takmörkun Hraðstillingar á aukningarhraða er skilgreind hér í aðalskjölunum okkar.

Góð ráð til að halda sig innan takmarkana á aukningarhraða

Auktu umferð smám saman þegar skipt er um líkan. Ef forritið þitt er til dæmis að færa sig úr eldri skyndimynd yfir í nýja skaltu nota eiginleikafána til að færa umferðina yfir á nokkrum klukkustundum í stað þess að gera það allt í einu.

Forðastu að keyra stór gagnavinnsluverk eða ósamstillt verk í Hraðstillingu. Slík verk geta aukið umferð mjög hratt og þurfa oft ekki aukin afköst Hraðstillingar.

Ef þú rekst reglulega á takmarkanir á aukningarhraða skaltu íhuga að kaupa kvóta á Kvarðastigi í staðinn.

Deilast takmarkanir á aukningarhraða milli verkefna minna eða fyrirtækja?

Já, öll umferðin þín telst með í sömu takmörkun á aukningarhraða.

Reglur

Hvað gerist ef Hraðstilling nær ekki markmiðinu um svartíma?

Hafðu samband við viðskiptastjórann þinn ef þú hefur spurningar eða áhyggjur. SLA-þjónustustig Hraðstillingar verða meðhöndluð eins og SLA-þjónustustig Kvarðastigs. Viðskiptavinir með Enterprise-samninga fá þjónustuinneignir ef við uppfyllum ekki þessi þjónustustig innan tiltekins tímabils.

Samhæfist Hraðstilling gagnageymslu?

Já.

Samhæfist Hraðstilling ZDR og BAA?

Já.