Batch API ทำงานอย่างไร
endpoint ของ Batch API ตามที่จัดทำเอกสารไว้ที่นี่ ช่วยให้ผู้ใช้ส่งคำขอสำหรับการประมวลผลแบบแบตช์ที่ไม่ประสานเวลาได้ เราจะประมวลผลคำขอเหล่านี้ภายใน 24 ชั่วโมง รายละเอียดของแต่ละคำขอจะถูกอ่านจากไฟล์ที่อัปโหลดไว้ล่วงหน้า และคำตอบจะถูกเขียนลงในไฟล์เอาต์พุต คุณสามารถสอบถามออบเจ็กต์แบตช์เพื่อดูการอัปเดตสถานะและผลลัพธ์ได้
Batch API มีราคาเท่าใด
แต่ละโมเดลจะให้บริการด้วยส่วนลดค่าใช้จ่าย 50% เมื่อเทียบกับ API แบบซิงโครนัส นี่คือข้อมูลเพิ่มเติมเกี่ยวกับราคา API ของเรา
ฉันสามารถใช้โมเดลใดแบบแบตช์ได้บ้าง
Batch API พร้อมใช้งานอย่างกว้างขวางกับโมเดลส่วนใหญ่ของเรา แต่ไม่ใช่ทั้งหมด โปรดดูเอกสารอ้างอิงโมเดลเพื่อให้แน่ใจว่าโมเดลที่คุณใช้รองรับ Batch API
จะเกิดอะไรขึ้นหาก API ไม่ดำเนินการคำขอของฉันให้เสร็จภายในเวลาที่สัญญาไว้
เราตั้งเป้าที่จะดำเนินการคำขอทั้งหมดภายใน 24 ชั่วโมง หากแบตช์หมดอายุ (กล่าวคือ ไม่สามารถดำเนินการให้เสร็จสมบูรณ์ภายในกรอบเวลาของ SLA ได้) งานที่เหลือจะถูกยกเลิก และงานใดก็ตามที่เสร็จสมบูรณ์แล้วจะถูกส่งคืน นักพัฒนาจะถูกเรียกเก็บค่าบริการสำหรับงานที่เสร็จสมบูรณ์แล้ว
มีขีดจำกัดจำนวนคำขอที่ฉันสามารถทำเป็นแบตช์ได้เท่าใด
Embeddings API มีขีดจำกัดคำขอที่จัดคิวไว้พร้อมกัน 1 ล้านรายการ
สำหรับ API อื่น ๆ ทั้งหมด ไม่มีขีดจำกัดจำนวนคำขอที่คุณสามารถทำเป็นแบตช์ได้ อย่างไรก็ตาม แต่ละระดับการใช้งานจะมีลิมิตการใช้งานแบบแบตช์ที่เกี่ยวข้อง ลิมิตการใช้งานแบบแบตช์ของคุณรวมถึงจำนวน Token อินพุตสูงสุดที่คุณจัดคิวไว้ในเวลาเดียวกัน คุณสามารถดูข้อมูลลิมิตการใช้งานของคุณได้ที่นี่
ฉันสามารถเปลี่ยนระยะเวลาที่ใช้ในการได้รับคำตอบจาก Batch API ได้หรือไม่
กรอบเวลาที่เรากำหนดไว้ในปัจจุบันคือ 24 ชั่วโมง ขณะนี้เราไม่สามารถเปลี่ยนช่วงเวลานี้ได้
Batch API รองรับการสตรีมหรือไม่
ไม่ Batch API ไม่รองรับการสตรีม คำขอแบบแบตช์จะส่งคืนผลลัพธ์ผ่านไฟล์เอาต์พุต แทนที่จะเป็นคำตอบแบบสตรีม
Batch API รองรับรูปภาพหรือไม่
รองรับ รูปภาพได้รับการรองรับบน Batch API
ฉันได้รับข้อความแสดงข้อผิดพลาด “The URL provided for this request does not prefix-match the batch endpoint” ฉันควรทำอย่างไร
หากคุณได้รับข้อผิดพลาดนี้ หมายความว่า URL ของคุณมีรูปแบบไม่ถูกต้องสำหรับ endpoint ของ Batch API โปรดดูเอกสารของเราที่นี่เพื่อให้แน่ใจว่าคุณกำลังเรียก endpoint อย่างถูกต้อง
การใช้งาน Batch API นับรวมในลิมิตการใช้งานอื่น ๆ ของฉันหรือไม่
ลิมิตการใช้งานของ Batch API แยกจากลิมิตที่มีอยู่โดยสิ้นเชิง
จะเกิดอะไรขึ้นหากแบตช์ถูกยกเลิก
หากแบตช์ถูกยกเลิกด้วยตนเอง ผลลัพธ์ใดก็ตามที่เสร็จสมบูรณ์แล้วจะถูกส่งคืน นักพัฒนาจะถูกเรียกเก็บค่าบริการสำหรับงานที่เสร็จสมบูรณ์แล้ว
จะเกิดอะไรขึ้นหากแบตช์หมดอายุ
หากแบตช์หมดอายุ (กล่าวคือ ไม่สามารถดำเนินการให้เสร็จสมบูรณ์ภายในกรอบเวลาของ SLA ได้) งานที่เหลือจะถูกยกเลิก และงานใดก็ตามที่เสร็จสมบูรณ์แล้วจะถูกส่งคืน นักพัฒนาจะถูกเรียกเก็บค่าบริการสำหรับงานที่เสร็จสมบูรณ์แล้ว
ฉันคาดหวังสถานะใดได้บ้างสำหรับงานแบตช์
งานแบตช์อาจมีสถานะใดสถานะหนึ่งต่อไปนี้: Validating, Failed, In Progress, Finalizing, Completed, Expired, Cancelling และ Cancelled หากคุณกำลังตรวจสอบค่าสถานะ API ด้วยโปรแกรม ให้ใช้ลิเทอรัลตัวพิมพ์เล็ก: validating, failed, in_progress, finalizing, completed, expired, cancelling และ cancelled
Validating: กำลังตรวจสอบความถูกต้องของไฟล์ที่อัปโหลดก่อนที่แบตช์จะเริ่มได้
Failed: ไฟล์ไม่ผ่านกระบวนการตรวจสอบความถูกต้อง
In Progress: ไฟล์ผ่านการตรวจสอบความถูกต้องแล้ว และกระบวนการแบตช์กำลังดำเนินอยู่
Finalizing: งานแบตช์เสร็จสมบูรณ์แล้ว และกำลังเตรียมผลลัพธ์
Completed: งานแบตช์เสร็จสมบูรณ์แล้ว และผลลัพธ์พร้อมใช้งาน
Expired: ไม่สามารถดำเนินการแบตช์ให้เสร็จสมบูรณ์ภายในกรอบเวลาของ SLA ได้
Cancelling: เริ่มต้นการยกเลิกงานแบตช์แล้ว
Cancelled: งานแบตช์ถูกยกเลิกแล้ว
ฉันจะตรวจสอบงานแบตช์ที่ฉันสร้างไว้แล้วได้อย่างไร
คุณสามารถรับรายการงานแบตช์ทั้งหมดของคุณได้โดยใช้การเรียก API ที่ระบุไว้ที่นี่
endpoint นี้รองรับการไม่เก็บข้อมูลหรือไม่
หากคุณเปิดใช้งานการไม่เก็บข้อมูลสำหรับองค์กรของคุณ โปรดทราบว่าการไม่เก็บข้อมูลใช้ไม่ได้กับ Batch API องค์กร ZDR สามารถสร้างงานแบตช์ได้ แต่ไฟล์อินพุตแบบแบตช์ เอาต์พุต ข้อผิดพลาด และอาร์ติแฟกต์ระหว่างทางจะถูกเก็บรักษาตามนโยบายการเก็บรักษาของ Batch, File Service และ Sediment ที่กำหนดค่าไว้