Kita nyedhiyakake mode Cepet kanggo pelanggan API sing pengin kinerja luwih cepet lan konsisten ing model tartamtu. Ing ngisor iki ana wangsulan kanggo pitakonan umum babagan cara kerjane, rega, kasedhiyan model, watesan laju, linuwih, kabijakan, lan syarat panggunaan.

Cathetan: Pangolahan Prioritas ganti jeneng dadi mode Cepet tanggal 30 Juli 2026. Sampeyan bisa nggunakake service_tier: priority utawa service_tier: fast ing panjaluk API. 

Waca katrangan luwih jangkep ing kene.

Apa mode Cepet kasedhiya ing kabeh wilayah?

Kasedhiyan mode Cepet gumantung marang undhang-undhang lan pranatan sing ditrapake ing saben wilayah hukum. Hubungi Direktur Akun yen sampeyan duwe pitakonan babagan kasedhiyan ing wilayah sampeyan.

Cara kerjane

Pelanggan bisa ngarahake lalu lintas menyang mode Cepet kanggo saben panjaluk nganggo parameter service_tier sing wis ana, kanthi pilihan service_tier = "fast".

Token sing diproses nganggo mode Cepet bakal ditagih saben token, kanthi tarif luwih larang tinimbang pamrosesan Standar.

Saliyane diatur kanggo saben panjaluk, sampeyan uga bisa nyetel mode Cepet minangka gawan proyek ing Setelan proyek > Tingkat Layanan Gawan: Cepet. Sampeyan isih bisa ngganti setelan iki kanggo saben panjaluk. Milih Cepet ing setelan proyek padha karo milih Prioritas.

Kepiye sesambungane mode iki karo Tingkat Skala?

Tingkat Skala bakal tetep kapisah saka mode Cepet. Panjaluk sing dikirim menyang mode Cepet bakal ditagih kanthi kapisah lan ora nyuda kuota paket TPM Tingkat Skala sing wis sampeyan tuku.

Apa aku bisa kanthi otomatis ngirim lalu lintas sing ngluwihi kapasitas Tingkat Skala menyang mode Cepet?

Ora. Lalu lintas sing dikirim menyang Tingkat Skala ora bakal otomatis dialihake menyang mode Cepet yen ngluwihi kapasitas.

Kepiye petungan tagihan mode Cepet?

Token sing diproses nganggo mode Cepet bakal ditagih saben token, kanthi tarif luwih larang tinimbang pamrosesan Standar.

Apa komitmen taunanku kaiket karo mode pamrosesan tartamtu?

Ora. Kabeh mode pamrosesan diitung kanggo nyukupi komitmen belanja Enterprise taunan sampeyan.

Apa aku isih oleh diskon kanggo token input sing disimpen ing cache?

Iya! Input sing disimpen ing cache oleh diskon 50-75%, padha karo ing pamrosesan Standar.

Kepiye carane ndeleng panganggone lan biaya mode Cepet?

Kanggo ndeleng token sing diproses nganggo mode Cepet (biyen diarani pamrosesan Prioritas), bukak dasbor Panggunaan, pilih Chat Completions utawa Responses, banjur Klompokake miturut Tingkat Layanan.

Kanggo ndeleng biaya mode Cepet, bukak dasbor Panggunaan, banjur pilih Klompokake miturut Item Tagihan.

Ing dasbor Panggunaan, panjaluk sing nganggo priority utawa fast minangka service_tier bakal tetep ditampilake minangka priority. Tampilan iki bakal dianyari kanggo model sing bakal teka.

Model

Apa mode Cepet kasedhiya kanggo konteks dawa, model sing wis disetel kanthi fine-tuning, embedding, lan liya-liyane?

Saiki durung. Mengko kita bakal nimbang apa mode Cepet uga bakal ditawakake ing produk liyane saliyane model paling anyar kita.

Kepiye modalitas liyane bisa digunakake ing mode Cepet?

Mode Cepet ndhukung kapabilitas multimodal sing padha karo sing kasedhiya ing Standar. Khususe, gambar bisa digunakake minangka input kanggo pamrosesan Prioritas lan diproses kanthi latensi sing padha cendheke.

Apa model sing bakal teka bakal didhukung?

Kita ngrancang nyedhiyakake mode Cepet ing model GPT anyar, nanging ora njamin saben model bakal didhukung.

Wates laju

Apa wae wates lajune?

Kanggo wates laju, panganggone pamrosesan Prioritas diitung padha karo lalu lintas API standar.

Apa wae wates laju ramp?

Mode Cepet duwe wates laju ramp kanggo njaga kinerja sing tetep dhuwur kanggo kabeh pelanggan, kanthi rega sing tetep fleksibel manut panganggone. Yen (a) kinerja mode Cepet mudhun LAN (b) lalu lintas pelanggan mundhak kecepeten, ing kahanan sing arang kedadeyan, sawetara panjaluk bisa dialihake menyang pamrosesan Standar.

Wates laju ramp mode Cepet sing saiki ditrapake diterangake ing dokumentasi utama kita ing kene.

Cara paling apik supaya ora ngluwihi wates laju ramp

Tambah lalu lintas kanthi bertahap nalika ganti model. Contone, yen aplikasi sampeyan lagi ngalih saka snapshot lawas menyang sing anyar, gunakna flag fitur kanggo ngalihake lalu lintas sajrone sawetara jam, aja langsung kabeh bebarengan.

Aja nglakokake pamrosesan data gedhe utawa tugas asinkron ing mode Cepet. Tugas-tugas iki bisa nambah lalu lintas kanthi cepet banget, lan asring ora butuh kinerja mode Cepet sing luwih apik.

Yen sampeyan kerep tekan wates laju ramp, coba timbang tuku kuota Tingkat Skala minangka gantine.

Apa wates laju ramp dienggo bareng ing kabeh proyek utawa organisasiku?

Iya, kabeh lalu lintas sampeyan diitung ing wates laju ramp sing padha.

Kabijakan

Apa sing kedadeyan yen mode Cepet ora nyukupi target latensi?

Hubungi AD sampeyan yen ana pitakon utawa bab sing dadi pikiran. SLA mode Cepet bakal ditrapake padha karo SLA Tingkat Skala; kredit layanan bakal ditawakake yen kita ora bisa nyukupi SLA kasebut kanggo pelanggan kanthi perjanjian Enterprise sajrone rentang wektu tartamtu.

Apa mode Cepet kompatibel karo domisili data?

Iya.

Apa mode Cepet kompatibel karo ZDR lan BAA?

Iya.

Ultrafast kanggo GPT-6 Astra

Ultrafast iku Tingkat Layanan kapisah kanggo beban kerja sing butuh tanggepan GPT-6 Astra kanthi latensi luwih cendhek, kayata aplikasi interaktif lan alur kerja coding.

Pandhuan rega, wates laju, lan kabijakan mode Cepet ditrapake kanggo panjaluk sing nganggo service_tier="fast". Panjaluk Ultrafast nganggo tingkat kapisah, yaiku service_tier="ultrafast".

Kepiye carane ngirim panjaluk Ultrafast?

Kanggo organisasi sing duwe akses Ultrafast, gunakna Responses API kanthi:

• Model: gpt-6-astra

• Tingkat Layanan: ultrafast

• Header panjaluk: OpenAI-Service-Tier: ultrafast

Saliyane setelan Tingkat Layanan, header panjaluk iki uga kudu disertakake.

Kanggo aplikasi sing nglakokake panggilan alat, mode WebSocket ngidini sampeyan nganggo maneh sambungan ing giliran sabanjure lan nyuda overhead sambungan.

Apa aku bisa nganggo header panjaluk sing padha kanggo Tingkat Layanan liyane?

Sajrone tahap alfa Ultrafast, header OpenAI-Service-Tier mung nampa ultrafast. Yen ngirim nilai liyane, kalebu default, fast, utawa flex, bakal bali kanthi kesalahan HTTP 400. Aja nyertakake header iki nalika nganggo tingkat liyane.

Apa aku bisa nganggo Ultrafast ing Kerja utawa Codex?

Ultrafast uga kasedhiya ing Kerja lan Codex kanggo paket lan ruang kerja sing nyukupi syarat. Syarat paket lan panganggone ing ChatGPT beda karo akses API.

Delengen ChatGPT Kerja lan Codex kanggo rincian kasedhiyan lan panganggone.