Saiki kita nawakaké pangolahan Prioritas kanggo pelanggan API Enterprise sing kepéngin akses menyang kinerja sing luwih cepet lan luwih konsisten ing model tartamtu. Ing ngisor iki ana jawaban kanggo pitakon umum babagan cara kerjané, rega, kasedhiyan model, wates laju, keandalan, kawicaksanan, lan kelayakan.
Sinau luwih lengkap ing kéné.
Akses
Sapa sing bisa ngakses pangolahan Prioritas?
Pangolahan Prioritas saiki kasedhiya kanggo pelanggan Enterprise.
Apa pangolahan Prioritas kasedhiya ing kabèh wilayah?
Kasedhiyan pangolahan Prioritas gumantung marang hukum lan peraturan sing ditrapaké ing saben yurisdiksi. Mangga hubungi Account Director sampeyan yèn ana pitakon babagan kasedhiyan ing wilayah sampeyan.
Rega
Kepiye carane miwiti nggunakake pangolahan Prioritas?
Pelanggan bisa ngarahaké trafik menyang pangolahan Prioritas saben panjaluk nggunakake parameter service_tier sing wis ana, kanthi opsi service_tier="priority".
Kepiye iki gegandhèngan karo Tingkat Skala?
Tingkat Skala bakal tetep kapisah saka pangolahan Prioritas. Panjaluk sing dikirim menyang pangolahan Prioritas bakal ditagih kanthi kapisah lan ora bakal diétung marang bundel TPM Tingkat Skala sing wis sampeyan tuku.
Apa aku bisa kanthi otomatis ngirim trafik limpahan Tingkat Skala menyang pangolahan Prioritas?
Ora. Trafik sing dikirim menyang Tingkat Skala ora bakal otomatis melimpah menyang pangolahan Prioritas.
Kepiye pangolahan Prioritas ditagih?
Token sing dilayani dening pangolahan Prioritas bakal ditagih adhedhasar saben token, kanthi rega premium dibandhingaké karo tarif pangolahan Standar.
Apa komitmen taunan aku kagandhèng karo mode pangolahan tartamtu?
Ora. Kabèh mode pangolahan diétung menyang komitmen belanja Enterprise taunan sampeyan.
Apa aku isih oleh diskon kanggo token input sing di-cache?
Ya! Input sing di-cache nampa diskon 50-75% sing padha kaya ing pangolahan Standar.
Kepiye carane ndeleng panggunaan lan belanja pangolahan Prioritas aku?
Kanggo ndeleng token sing diproses dening pangolahan Prioritas, bukak dasbor Panggunaan, pilih Chat Completions utawa Responses, banjur Kelompokaké miturut Tingkat Layanan. Kanggo ndeleng biaya pangolahan Prioritas, bukak dasbor Panggunaan, banjur pilih Kelompokaké miturut Item Baris.
Model
Apa pangolahan Prioritas kasedhiya kanggo konteks dawa, model sing di-fine-tune, embedding, lsp.?
Durung saiki. Kita bakal ngevaluasi ing mangsa ngarep apa bakal nawakaké pangolahan Prioritas ing produk tambahan saliyané model paling anyar kita.
Kepiye modalitas liya bisa lumaku karo pangolahan Prioritas?
Pangolahan Prioritas ndhukung kemampuan multimodal sing padha karo sing kasedhiya ing Standar. Mligi, gambar bisa digunakaké minangka input kanggo pangolahan Prioritas lan diproses kanthi latensi cepet sing padha.
Apa model ing mangsa ngarep bakal didhukung?
Kita ngrencanakaké nawakaké pangolahan Prioritas ing model GPT anyar, nanging ora njamin saben model bakal didhukung.
Wates laju
Apa wae wates lajune?
Konsumsi pangolahan Prioritas dianggep padha karo trafik API standar kanggo wates laju.
Apa wae wates laju peningkatan?
Pangolahan Prioritas nduwèni wates laju peningkatan kanggo njamin kinerja dhuwur sing konsisten kanggo kabèh pelanggan, kanthi tetep nyedhiyakake rega fleksibel adhedhasar panjaluk. Yèn (a) kinerja pangolahan Prioritas mudhun LAN (b) trafik pelanggan mundhak cepet banget, mula ing kahanan langka sawetara panjaluk Prioritas bisa diturunaké dadi pangolahan Standar.
Wates laju peningkatan pangolahan Prioritas saiki ditetepaké ing dokumentasi utama kita ing kéné.
Praktik paling apik supaya tetep ing wates laju peningkatan sampeyan
Tambahna trafik kanthi alon-alon nalika ngganti model. Contoné, yèn aplikasi sampeyan lagi pindhah saka snapshot sadurungé menyang sing anyar, gunakna feature flag kanggo mindhah trafik sajrone sawetara jam tinimbang bebarengan sekaligus.
Aja nglakokaké pangolahan data gedhé utawa tugas asinkron ing pangolahan Prioritas. Tugas iki bisa ningkataké trafik kanthi cepet banget, lan asring ora mbutuhaké kinerja sing luwih apik saka pangolahan Prioritas.
Yèn sampeyan kerep nemoni wates laju peningkatan, pikirna tuku kuota Tingkat Skala wae.
Apa wates laju peningkatan dibagi ing antarané proyek utawa organisasi aku?
Ya, kabèh trafik sampeyan nyumbang marang wates laju peningkatan sing padha.
Kawicaksanan
Apa sing kedadeyan yèn pangolahan Prioritas ora nyukupi target latensi?
Mangga hubungi AD sampeyan yèn ana pitakon utawa kuwatir. SLA pangolahan Prioritas bakal dianggep padha karo SLA Tingkat Skala; kredit layanan bakal ditawaraké yèn kita gagal nyukupi SLA kasebut kanggo pelanggan ing perjanjian Enterprise sajrone jendhela wektu tartamtu.
Apa pangolahan Prioritas kompatibel karo domisili data?
Ya.
Apa pangolahan Prioritas kompatibel karo ZDR lan BAA?
Ya.