Tagad piedāvājam Prioritāro apstrādi Enterprise API klientiem, kuri vēlas piekļuvi ātrākai un konsekventākai veiktspējai noteiktos modeļos. Tālāk sniegtas atbildes uz bieži uzdotiem jautājumiem par to, kā tā darbojas, cenām, modeļu pieejamību, darbības ierobežojumiem, uzticamību, politikām un piemērotību.
Uzziniet vairāk šeit.
Piekļuve
Kas var piekļūt Prioritārajai apstrādei?
Prioritārā apstrāde pašlaik ir pieejama Enterprise klientiem.
Vai Prioritārā apstrāde ir pieejama visos reģionos?
Prioritārās apstrādes pieejamība ir atkarīga no katrā jurisdikcijā piemērojamajiem likumiem un noteikumiem. Ja jums ir jautājumi par pieejamību jūsu reģionā, lūdzu, sazinieties ar savu konta direktoru.
Cenas
Kā sākt izmantot Prioritāro apstrādi?
Klienti var novirzīt datplūsmu uz Prioritāro apstrādi katram pieprasījumam atsevišķi, izmantojot esošo service_tier parametru ar opciju service_tier="priority".
Kā tas mijiedarbojas ar Mēroga līmeni?
Mēroga līmenis paliks nošķirts no Prioritārās apstrādes. Uz Prioritāro apstrādi nosūtītie pieprasījumi tiks rēķināti atsevišķi un netiks ieskaitīti jūsu iegādātajās Mēroga līmeņa TPM pakotnēs.
Vai varu automātiski nosūtīt savu Mēroga līmeņa pārplūdes datplūsmu uz Prioritāro apstrādi?
Nē. Uz Mēroga līmeni nosūtītā datplūsma automātiski nepārplūdīs uz Prioritāro apstrādi.
Kā tiek rēķināta Prioritārā apstrāde?
Prioritārajā apstrādē apkalpotās tekstvienības tiks rēķinātas par katru tekstvienību, ar piemaksu salīdzinājumā ar Standarta apstrādes tarifiem.
Vai manas gada saistības ir piesaistītas konkrētam apstrādes režīmam?
Nē. Visi apstrādes režīmi tiek ieskaitīti jūsu gada Enterprise tēriņu saistībās.
Vai es joprojām saņemu atlaidi kešotajām ievades tekstvienībām?
Jā! Kešotajām ievadēm tiek piemērota tā pati 50–75% atlaide kā Standarta apstrādē.
Kā skatīt savu Prioritārās apstrādes lietojumu un tēriņus?
Lai skatītu Prioritārajā apstrādē apstrādātās tekstvienības, dodieties uz Lietojuma informācijas paneli, atlasiet Chat Completions vai Responses un grupējiet pēc Pakalpojuma līmeņa. Lai skatītu Prioritārās apstrādes izmaksas, dodieties uz Lietojuma informācijas paneli un atlasiet grupēšanu pēc rindas pozīcijas.
Modeļi
Vai Prioritārā apstrāde ir pieejama garam kontekstam, pielāgotiem modeļiem, iegulumiem utt.?
Šobrīd ne. Nākotnē izvērtēsim, vai piedāvāt Prioritāro apstrādi papildu produktiem ārpus mūsu jaunākajiem modeļiem.
Kā citas modalitātes darbojas ar Prioritāro apstrādi?
Prioritārā apstrāde atbalsta tās pašas multimodālās iespējas, kas pieejamas Standarta apstrādē. Jo īpaši attēlus var izmantot kā ievades datus Prioritārajā apstrādē, un tie tiek apstrādāti ar tikpat ātru latentumu.
Vai turpmākie modeļi tiks atbalstīti?
Mēs plānojam piedāvāt Prioritāro apstrādi jauniem GPT modeļiem, taču negarantējam, ka tiks atbalstīts katrs modelis.
Darbības ierobežojumi
Kādi ir darbības ierobežojumi?
Attiecībā uz darbības ierobežojumiem Prioritārās apstrādes patēriņš tiek apstrādāts tāpat kā standarta API datplūsma.
Kādi ir plūsmas palielināšanas darbības ierobežojumi?
Prioritārajai apstrādei ir plūsmas palielināšanas darbības ierobežojumi, lai visiem klientiem nodrošinātu pastāvīgi augstu veiktspēju, vienlaikus piedāvājot elastīgu cenu noteikšanu pēc pieprasījuma. Ja (a) Prioritārās apstrādes veiktspēja pasliktinās UN (b) klienta datplūsma pieaug pārāk strauji, retos gadījumos daži Prioritārie pieprasījumi var tikt pazemināti uz Standarta apstrādi.
Pašreizējais Prioritārās apstrādes plūsmas palielināšanas darbības ierobežojums ir definēts mūsu galvenajā dokumentācijā šeit.
Paraugprakse, lai nepārsniegtu plūsmas palielināšanas darbības ierobežojumu
Mainot modeļus, datplūsmu palieliniet pakāpeniski. Piemēram, ja jūsu lietojumprogramma pāriet no iepriekšēja momentuzņēmuma uz jaunu, izmantojiet funkcijas karodziņu, lai datplūsmu pārvietotu dažu stundu laikā, nevis visu uzreiz.
Izvairieties no lielu datu apstrādes vai asinhronu darbu palaišanas Prioritārajā apstrādē. Šie darbi var ļoti ātri palielināt datplūsmu, un tiem bieži nav nepieciešama uzlabotā Prioritārās apstrādes veiktspēja.
Ja regulāri saskaraties ar plūsmas palielināšanas darbības ierobežojumiem, apsveriet iespēju tā vietā iegādāties Mēroga līmeņa kvotu.
Vai plūsmas palielināšanas darbības ierobežojumi tiek kopīgoti starp maniem projektiem vai organizācijām?
Jā, visa jūsu datplūsma tiek ieskaitīta tajā pašā plūsmas palielināšanas darbības ierobežojumā.
Politikas
Kas notiek, ja Prioritārā apstrāde nesasniedz latentuma mērķi?
Ja jums ir jautājumi vai bažas, lūdzu, sazinieties ar savu AD. Prioritārās apstrādes SLA tiks apstrādāti tāpat kā Mēroga līmeņa SLA; ja noteiktā laika periodā nespēsim izpildīt šos SLA klientiem ar Enterprise līgumiem, tiks piedāvāti pakalpojuma kredīti.
Vai Prioritārā apstrāde ir saderīga ar datu rezidences vietu?
Jā.
Vai Prioritārā apstrāde ir saderīga ar ZDR un BAA?
Jā.