Kita nyedhiyakake mode Cepet kanggo pelanggan API sing pengin kinerja luwih cepet lan konsisten ing model tartamtu. Ing ngisor iki ana wangsulan kanggo pitakonan umum babagan cara kerjane, rega, kasedhiyan model, watesan laju, linuwih, kabijakan, lan syarat panggunaan.
Cathetan: Pangolahan Prioritas ganti jeneng dadi mode Cepet tanggal 30 Juli 2026. Sampeyan bisa nggunakake service_tier: priority utawa service_tier: fast ing panjaluk API.
Waca katrangan luwih jangkep ing kene.
Apa mode Cepet kasedhiya ing kabeh wilayah?
Kasedhiyan mode Cepet gumantung marang undhang-undhang lan pranatan sing ditrapake ing saben wilayah hukum. Hubungi Direktur Akun yen sampeyan duwe pitakonan babagan kasedhiyan ing wilayah sampeyan.
Cara kerjane
Pelanggan bisa ngarahake traffic menyang mode Cepet kanggo saben panjaluk nganggo parameter service_tier sing wis ana, kanthi opsi service_tier = "fast".
Token sing dilayani mode Cepet bakal ditagih saben token, kanthi rega premium dibandhingake tarif pangolahan Standar.
Saliyane dikonfigurasi ing tingkat panjaluk, sampeyan uga bisa nyetel mode Cepet minangka default proyek ing Setelan Proyek > Tingkat Layanan Default: Cepet. Sampeyan isih bisa ngganti setelan kasebut kanggo saben panjaluk. Milih Cepet ing setelan proyek padha karo milih Prioritas.
Kepiye cara kerjane karo Tingkat Skala?
Tingkat Skala bakal tetep kapisah saka mode Cepet. Panjaluk sing dikirim menyang mode Cepet bakal ditagih kanthi kapisah lan ora diitung ing paket TPM Tingkat Skala sing wis sampeyan tuku.
Apa limpahan traffic Tingkat Skala bisa otomatis dikirim menyang mode Cepet?
Ora. Traffic sing dikirim menyang Tingkat Skala ora bakal otomatis dilimpahake menyang mode Cepet.
Kepiye tagihan mode Cepet?
Token sing dilayani mode Cepet bakal ditagih saben token, kanthi rega premium dibandhingake tarif pangolahan Standar.
Apa komitmen taunan saya kaiket karo mode pangolahan tartamtu?
Ora. Kabeh mode pangolahan diitung ing komitmen belanja Enterprise taunan sampeyan.
Apa token input sing di-cache isih entuk diskon?
Ya! Input sing di-cache entuk diskon 50–75% sing padha kaya ing pangolahan Standar.
Kepiye cara ndeleng panggunaan lan biaya mode Cepet?
Kanggo ndeleng token sing diproses mode Cepet (biyen diarani pangolahan Prioritas), bukak dasbor Panggunaan, pilih Chat Completions utawa Responses, banjur Klompokna miturut Tingkat Layanan.
Kanggo ndeleng biaya mode Cepet, bukak dasbor Panggunaan, banjur pilih Klompokna miturut Item Tagihan.
Ing dasbor Panggunaan, panjaluk sing nggunakake priority utawa fast minangka service_tier bakal tetep ditampilake minangka priority. Iki bakal dianyari kanggo model sabanjure.
Model
Apa mode Cepet kasedhiya kanggo konteks dawa, model sing di-fine-tune, embedding, lan liya-liyane?
Saiki durung. Ing tembe mburi, kita bakal ngevaluasi apa mode Cepet perlu ditawakake ing produk liyane saliyane model paling anyar.
Kepiye modalitas liyane bisa digunakake karo mode Cepet?
Mode Cepet ndhukung kapabilitas multimodal sing padha karo pangolahan Standar. Utamane, gambar bisa digunakake minangka input kanggo pangolahan Prioritas lan diproses kanthi latensi cepet sing padha.
Apa model ing tembe mburi bakal didhukung?
Kita ngrancang nawakake mode Cepet ing model GPT anyar, nanging ora njamin yen saben model bakal didhukung.
Wates laju
Apa wae wates lajune?
Kanggo wates laju, konsumsi pangolahan Prioritas dianggep padha karo traffic API standar.
Apa wates laju paningkatan traffic?
Mode Cepet duwe wates laju paningkatan traffic kanggo njaga performa sing terus dhuwur tumrap kabeh pelanggan, karo tetep nyedhiyakake rega fleksibel adhedhasar kabutuhan. Yen (a) performa mode Cepet mudhun LAN (b) traffic pelanggan mundhak cepet banget, ing kahanan langka sawetara panjaluk bisa diturunake menyang pangolahan Standar.
Wates laju paningkatan traffic mode Cepet saiki diterangake ing dokumentasi utama kita ing kene.
Praktik paling apik supaya ora ngluwihi wates laju paningkatan traffic
Tambah traffic kanthi bertahap nalika ngganti model. Contone, yen aplikasi sampeyan pindhah saka snapshot sadurunge menyang sing anyar, gunakake feature flag kanggo mindhah traffic sajrone sawetara jam, aja langsung dipindhah kabeh.
Aja nglakokake pangolahan data gedhe utawa tugas asinkron ing mode Cepet. Tugas kasebut bisa ningkatake traffic kanthi cepet banget, lan asring ora mbutuhake performa mode Cepet sing luwih apik.
Yen sampeyan kerep ngalami wates laju paningkatan traffic, coba tuku kuota Tingkat Skala.
Apa wates laju paningkatan traffic dienggo bareng ing kabeh proyek utawa organisasi saya?
Ya, kabeh traffic sampeyan diitung ing wates laju paningkatan traffic sing padha.
Kabijakan
Apa sing kedadeyan yen mode Cepet ora nggayuh target latensi?
Hubungi AD yen sampeyan duwe pitakon utawa kuwatir. SLA mode Cepet bakal dianggep padha karo SLA Tingkat Skala. Kredit layanan bakal diwenehake yen kita gagal netepi SLA kasebut kanggo pelanggan kanthi perjanjian Enterprise sajrone periode tartamtu.
Apa mode Cepet kompatibel karo domisili data?
Ya.
Apa mode Cepet kompatibel karo ZDR lan BAA?
Ya.