Kami menawarkan Mode Cepat bagi pelanggan API yang menginginkan performa lebih cepat dan konsisten pada model tertentu. Berikut jawaban atas pertanyaan umum tentang cara kerja, harga, ketersediaan model, batas laju, keandalan, kebijakan, dan persyaratan akses.
Catatan: Pemrosesan Prioritas berganti nama menjadi Mode Cepat pada 30 Juli 2026. Anda dapat menggunakan service_tier: priority atau service_tier: fast dalam permintaan API Anda.
Pelajari lebih lanjut tentang Mode Cepat.
Apakah Mode Cepat tersedia di semua wilayah?
Ketersediaan Mode Cepat bergantung pada hukum dan peraturan yang berlaku di setiap yurisdiksi. Hubungi perwakilan OpenAI Anda jika ada pertanyaan tentang ketersediaan di wilayah Anda.
Cara kerja
Pelanggan dapat mengarahkan trafik ke Mode Cepat untuk setiap permintaan menggunakan parameter service_tier yang sudah ada, dengan opsi service_tier = "fast".
Token yang diproses oleh Mode Cepat akan ditagih per token, dengan tarif lebih tinggi daripada tarif pemrosesan Standar.
Selain mengaturnya untuk setiap permintaan, Anda juga dapat menjadikan Mode Cepat sebagai default proyek di Pengaturan proyek > Tingkat Layanan Default Proyek: Cepat. Anda tetap dapat mengganti pengaturan ini untuk setiap permintaan. Memilih Cepat di pengaturan proyek sama dengan memilih Prioritas.
Bagaimana kaitannya dengan Tingkat Skala?
Tingkat Skala akan tetap terpisah dari Mode Cepat. Permintaan yang dikirim ke Mode Cepat akan ditagih secara terpisah dan tidak akan mengurangi kuota paket TPM Tingkat Skala yang telah Anda beli.
Apakah saya bisa secara otomatis mengalihkan trafik yang melebihi kuota Tingkat Skala ke Mode Cepat?
Tidak. Trafik yang dikirim ke Tingkat Skala tidak akan otomatis dialihkan ke Mode Cepat jika melebihi kuota.
Bagaimana penagihan Mode Cepat dilakukan?
Token yang diproses oleh Mode Cepat akan ditagih per token, dengan tarif lebih tinggi daripada pemrosesan Standar.
Apakah komitmen tahunan saya terikat pada mode pemrosesan tertentu?
Tidak. Penggunaan semua mode pemrosesan diperhitungkan dalam pemenuhan komitmen belanja Enterprise tahunan Anda.
Apakah saya tetap mendapatkan diskon untuk token input yang di-cache?
Ya. Token input yang di-cache dan memenuhi syarat mendapatkan diskon yang sama seperti pada pemrosesan Standar.
Bagaimana cara melihat penggunaan dan biaya Mode Cepat saya?
Untuk melihat token yang diproses oleh Mode Cepat (sebelumnya dikenal sebagai pemrosesan Prioritas), buka Dasbor penggunaan, pilih Penyelesaian Chat atau Respons, lalu pilih Kelompokkan menurut Tingkat Layanan.
Untuk melihat biaya Mode Cepat, buka Dasbor penggunaan, lalu pilih Kelompokkan menurut Item Tagihan.
Di Dasbor penggunaan, permintaan Mode Cepat untuk GPT-5.6 dan model sebelumnya ditampilkan sebagai priority, meskipun permintaan tersebut menetapkan fast.
Model
Apakah Mode Cepat mendukung konteks panjang, model yang telah di-fine-tune, atau embedding?
Model GPT-5.6 mendukung konteks panjang dalam Mode Cepat. Mode Cepat tidak mendukung model yang telah di-fine-tune atau embedding.
Bagaimana modalitas lain bekerja dengan Mode Cepat?
Mode Cepat mendukung kemampuan multimodal yang sama dengan pemrosesan Standar. Secara khusus, gambar dapat digunakan sebagai input untuk Mode Cepat dan diproses dengan latensi yang sama rendahnya.
Apakah model mendatang akan didukung?
Kami berencana menawarkan Mode Cepat pada model GPT baru, tetapi kami tidak menjamin bahwa setiap model akan didukung.
Batas laju
Apa saja batas lajunya?
Dalam penerapan batas laju, penggunaan Mode Cepat diperlakukan sama dengan trafik API standar.
Apa saja batas laju peningkatannya?
Mode Cepat memiliki batas laju peningkatan untuk memastikan performa yang selalu tinggi bagi semua pelanggan, sekaligus tetap menawarkan harga yang fleksibel sesuai pemakaian. Jika (a) performa Mode Cepat menurun DAN (b) trafik pelanggan meningkat terlalu cepat, dalam kasus yang jarang terjadi, sebagian permintaan dapat dialihkan ke pemrosesan Standar.
Batas laju peningkatan Mode Cepat saat ini tercantum dalam dokumentasi Mode Cepat kami.
Praktik terbaik agar tidak melampaui batas laju peningkatan
Tingkatkan trafik secara bertahap saat berganti model. Misalnya, jika aplikasi Anda beralih dari snapshot lama ke yang baru, gunakan feature flag untuk mengalihkan trafik secara bertahap selama beberapa jam, bukan sekaligus.
Hindari menjalankan tugas pemrosesan data berskala besar atau tugas asinkron dalam Mode Cepat. Tugas-tugas ini dapat meningkatkan trafik dengan sangat cepat dan sering kali tidak membutuhkan peningkatan performa yang ditawarkan Mode Cepat.
Jika Anda sering mencapai batas laju peningkatan, pertimbangkan untuk membeli kuota Tingkat Skala sebagai alternatif.
Apakah batas laju peningkatan berlaku bersama untuk semua proyek atau organisasi saya?
Ya, seluruh trafik Anda diperhitungkan dalam batas laju peningkatan yang sama.
Kebijakan
Apa yang terjadi jika Mode Cepat tidak memenuhi target latensi?
Mode Cepat untuk GPT-6 Astra tidak memiliki SLA latensi. Untuk GPT-5.6 dan model sebelumnya, Mode Cepat dan Tingkat Skala memiliki ketentuan SLA yang sama. Perjanjian Enterprise yang memenuhi syarat dapat memberikan kredit layanan jika target latensi tidak tercapai. Hubungi direktur akun Anda jika ada pertanyaan.
Apakah Mode Cepat kompatibel dengan residensi data?
Ya, bergantung pada ketersediaan untuk masing-masing model. Residensi data di Uni Eropa didukung untuk GPT-6.1 Sol, GPT-6 Sol, dan GPT-6 Luna, tetapi tidak untuk GPT-6 Astra.
Apakah Mode Cepat kompatibel dengan ZDR dan BAA?
Ya, dengan tunduk pada persyaratan model, endpoint, alat, kelayakan, dan kontrak yang berlaku.
Ultrafast untuk GPT-6 Astra dan GPT-6.1 Sol
Ultrafast adalah Tingkat Layanan terpisah untuk beban kerja yang membutuhkan respons GPT-6 Astra dan GPT-6.1 Sol dengan latensi lebih rendah, seperti aplikasi interaktif dan alur kerja pemrograman.
Panduan harga, batas laju, dan kebijakan Mode Cepat berlaku untuk permintaan yang menggunakan service_tier="fast". Permintaan Ultrafast menggunakan tingkat terpisah, yaitu service_tier="ultrafast".
Bagaimana cara mengirim permintaan Ultrafast?
Untuk organisasi yang memiliki akses Ultrafast, gunakan Responses API dengan:
Model:
gpt-6-astraataugpt-6.1-solTingkat Layanan:
ultrafastHeader permintaan opsional:
OpenAI-Service-Tier: ultrafast
Header permintaan ini bersifat opsional. Jika Anda menyertakannya, nilainya harus sesuai dengan Tingkat Layanan dalam isi permintaan.
Untuk aplikasi yang menjalankan pemanggilan alat, mode WebSocket memungkinkan Anda menggunakan kembali koneksi di berbagai giliran interaksi dan mengurangi overhead koneksi.
Bisakah saya menggunakan header permintaan yang sama untuk Tingkat Layanan lain?
Jika disertakan, header OpenAI-Service-Tier menerima nilai fast atau ultrafast. Jika Anda beralih ke Tingkat Layanan lain, seperti default, fast, atau flex, perbarui atau hapus header agar sesuai dengan permintaan.
Bisakah saya menggunakan Ultrafast di Work atau Codex?
Ultrafast juga tersedia di Work dan Codex untuk paket dan ruang kerja yang memenuhi syarat. Persyaratan akses dan penggunaan pada paket ChatGPT berbeda dengan akses API.
Lihat ChatGPT Work dan Codex untuk detail ketersediaan dan penggunaan.
