Bagaimanakah Batch API berfungsi?
Titik akhir Batch API, seperti yang didokumenkan di sini, membolehkan pengguna menghantar permintaan untuk pemprosesan batch tak segerak. Kami akan memproses permintaan ini dalam masa 24 jam. Butiran setiap permintaan akan dibaca daripada fail yang telah dimuat naik terlebih dahulu, dan respons akan ditulis ke fail output. Anda boleh membuat kueri pada objek batch untuk mendapatkan kemas kini status dan hasil.
Berapakah harga untuk Batch API?
Setiap model akan ditawarkan dengan diskaun kos 50% berbanding API segerak. Berikut ialah maklumat lanjut tentang harga API kami.
Model apakah yang boleh saya gunakan secara batch?
Batch API tersedia secara meluas untuk kebanyakan model kami, tetapi bukan semuanya. Sila rujuk dokumentasi rujukan model untuk memastikan model yang anda gunakan menyokong Batch API.
Apakah yang berlaku jika API tidak menyelesaikan permintaan saya dalam masa yang dijanjikan?
Kami berhasrat menyelesaikan semua permintaan dalam masa 24 jam. Jika batch tamat tempoh (iaitu, tidak dapat disiapkan dalam jangka masa SLA), baki kerja akan dibatalkan dan apa-apa kerja yang sudah disiapkan akan dikembalikan. Pembangun akan dikenakan caj untuk sebarang kerja yang telah disiapkan.
Apakah had bilangan permintaan yang boleh saya hantar secara batch?
API Embeddings mempunyai had 1 juta permintaan yang dibariskan pada satu-satu masa.
Untuk semua API lain, tiada had pada bilangan permintaan yang boleh anda hantar secara batch; namun, setiap tahap penggunaan mempunyai had kadar batch yang berkaitan. Had kadar batch anda termasuk bilangan maksimum token input yang anda bariskan pada satu-satu masa. Anda boleh mendapatkan had kadar anda di sini.
Bolehkah saya menukar masa yang diperlukan untuk menerima maklum balas daripada Batch API?
Jangka masa semasa yang kami tetapkan ialah 24 jam. Pada masa ini, kami tidak dapat mengubah tempoh masa ini.
Adakah penstriman disokong pada Batch API?
Tidak, penstriman tidak disokong pada Batch API. Permintaan batch mengembalikan hasil melalui fail output, bukannya respons yang distrim.
Adakah imej disokong pada Batch API?
Ya, imej disokong pada Batch API.
Saya menerima mesej ralat “The URL provided for this request does not prefix-match the batch endpoint”. Apakah yang patut saya lakukan?
Jika anda menerima ralat ini, ini bermakna URL anda diformatkan dengan salah untuk titik akhir Batch API. Sila rujuk dokumentasi kami di sini untuk memastikan anda memanggil titik akhir tersebut dengan betul.
Adakah penggunaan Batch API dikira dalam had kadar saya yang lain?
Had kadar Batch API adalah sepenuhnya berasingan daripada had sedia ada.
Apakah yang berlaku jika batch dibatalkan?
Jika batch dibatalkan secara manual, apa-apa hasil yang sudah disiapkan akan dikembalikan. Pembangun akan dikenakan caj untuk sebarang kerja yang telah disiapkan.
Apakah yang berlaku jika batch tamat tempoh?
Jika batch tamat tempoh (iaitu, tidak dapat disiapkan dalam jangka masa SLA), baki kerja akan dibatalkan dan apa-apa kerja yang sudah disiapkan akan dikembalikan. Pembangun akan dikenakan caj untuk sebarang kerja yang telah disiapkan.
Apakah status yang boleh saya jangkakan untuk tugas batch?
Tugas batch boleh mempunyai mana-mana status berikut: Validating, Failed, In Progress, Finalizing, Completed, Expired, Cancelling, dan Cancelled. Jika anda menyemak nilai status API secara pengaturcaraan, gunakan literal huruf kecil: validating, failed, in_progress, finalizing, completed, expired, cancelling, dan cancelled.
Validating: Pengesahan fail yang dimuat naik sedang dijalankan sebelum batch boleh bermula.
Failed: Fail gagal dalam proses pengesahan.
In Progress: Fail berjaya disahkan dan proses batch sedang berjalan.
Finalizing: Tugas batch telah selesai dan hasil sedang disediakan.
Completed: Tugas batch telah selesai dan hasil sudah tersedia.
Expired: Batch tidak dapat disiapkan dalam jangka masa SLA.
Cancelling: Pembatalan tugas batch telah dimulakan.
Cancelled: Tugas batch telah dibatalkan.
Bagaimanakah saya boleh menyemak tugas batch yang telah saya cipta?
Anda boleh mendapatkan senarai semua tugas batch anda menggunakan panggilan API yang dinyatakan di sini.
Adakah pengekalan data sifar disokong pada titik akhir ini?
Jika pengekalan data sifar didayakan untuk organisasi anda, sila ambil perhatian bahawa pengekalan data sifar tidak terpakai pada Batch API. Organisasi ZDR boleh mencipta tugas batch, tetapi fail input batch, output, ralat dan artifak perantaraan disimpan mengikut dasar pengekalan Batch, File Service dan Sediment yang dikonfigurasikan.