Batch API ทำงานอย่างไร?
endpoint ของ Batch API ตามที่อธิบายไว้ที่นี่ ช่วยให้ผู้ใช้ส่งคำขอเพื่อประมวลผลแบบแบตช์แบบอะซิงโครนัสได้ เราจะประมวลผลคำขอเหล่านี้ภายใน 24 ชั่วโมง รายละเอียดของแต่ละคำขอจะถูกอ่านจากไฟล์ที่อัปโหลดไว้ล่วงหน้า และคำตอบจะถูกเขียนลงในไฟล์เอาต์พุต คุณสามารถตรวจสอบออบเจ็กต์แบตช์เพื่อดูการอัปเดตสถานะและผลลัพธ์ได้
Batch API มีราคาอย่างไร?
แต่ละโมเดลจะมีให้ใช้ในราคาลดต้นทุน 50%เมื่อเทียบกับ API แบบซิงโครนัส ดูข้อมูลเพิ่มเติมเกี่ยวกับราคา API ของเราได้ที่นี่
ฉันสามารถทำแบตช์กับโมเดลใดได้บ้าง?
Batch API พร้อมใช้งานอย่างกว้างขวางกับโมเดลส่วนใหญ่ของเรา แต่ไม่ใช่ทั้งหมด โปรดดูเอกสารอ้างอิงโมเดลเพื่อให้แน่ใจว่าโมเดลที่คุณใช้อยู่รองรับ Batch API
จะเกิดอะไรขึ้นหาก API ดำเนินการตามคำขอของฉันไม่เสร็จภายในเวลาที่สัญญาไว้?
เราเป้าหมายที่จะดำเนินการทุกคำขอให้เสร็จภายใน 24 ชั่วโมง หากแบตช์หมดอายุ (กล่าวคือ ไม่สามารถดำเนินการให้เสร็จภายในช่วงเวลา SLA) งานที่เหลือจะถูกยกเลิก และงานที่เสร็จแล้วจะถูกส่งคืน นักพัฒนาจะถูกเรียกเก็บเงินสำหรับงานที่เสร็จสมบูรณ์แล้ว
ฉันสามารถรวมคำขอเป็นแบตช์ได้สูงสุดเท่าไร?
Embeddings API มีขีดจำกัดคำขอที่อยู่ในคิวพร้อมกัน 1 ล้านคำขอ
สำหรับ API อื่นทั้งหมด ไม่มีขีดจำกัดจำนวนคำขอที่คุณสามารถรวมเป็นแบตช์ได้ อย่างไรก็ตาม แต่ละระดับการใช้งานจะมีขีดจำกัดอัตราแบบแบตช์ที่เกี่ยวข้อง ขีดจำกัดอัตราแบบแบตช์ของคุณรวมถึงจำนวน Token อินพุตสูงสุดที่คุณเข้าคิวไว้พร้อมกัน คุณสามารถดูขีดจำกัดอัตราของคุณได้ที่นี่
ฉันสามารถเปลี่ยนเวลาที่จะได้รับคำตอบจาก Batch API ได้หรือไม่?
ช่วงเวลาที่กำหนดไว้ในปัจจุบันคือ 24 ชั่วโมง ขณะนี้เราไม่สามารถเปลี่ยนช่วงเวลานี้ได้
Batch API รองรับการสตรีมหรือไม่?
ไม่ การสตรีมไม่รองรับบน Batch API
Batch API รองรับรูปภาพหรือไม่?
ใช่ Batch API รองรับรูปภาพ
ฉันได้รับข้อความแสดงข้อผิดพลาด “URL ที่ให้มาสำหรับคำขอนี้ไม่ตรงกับคำนำหน้าของ batch endpoint” ฉันควรทำอย่างไร?
หากคุณได้รับข้อผิดพลาดนี้ แสดงว่า URL ของคุณมีรูปแบบไม่ถูกต้องสำหรับ endpoint ของ Batch API โปรดดูเอกสารของเราที่นี่เพื่อให้แน่ใจว่าคุณเรียก endpoint ได้อย่างถูกต้อง
การใช้งาน Batch API จะนับรวมกับขีดจำกัดอัตราอื่นของฉันหรือไม่?
ขีดจำกัดอัตราของ Batch API แยกจากขีดจำกัดที่มีอยู่เดิมโดยสิ้นเชิง
จะเกิดอะไรขึ้นหากแบตช์ถูกยกเลิก?
หากแบตช์ถูกยกเลิกด้วยตนเอง ผลลัพธ์ที่ดำเนินการเสร็จแล้วจะถูกส่งคืน นักพัฒนาจะถูกเรียกเก็บเงินสำหรับงานที่เสร็จสมบูรณ์แล้ว
จะเกิดอะไรขึ้นหากแบตช์หมดอายุ?
หากแบตช์หมดอายุ (กล่าวคือ ไม่สามารถดำเนินการให้เสร็จภายในช่วงเวลา SLA) งานที่เหลือจะถูกยกเลิก และงานที่เสร็จแล้วจะถูกส่งคืน นักพัฒนาจะถูกเรียกเก็บเงินสำหรับงานที่เสร็จสมบูรณ์แล้ว
ฉันคาดหวังสถานะใดได้บ้างสำหรับงานแบตช์?
งานแบตช์อาจมีสถานะใดสถานะหนึ่งดังต่อไปนี้:
กำลังตรวจสอบความถูกต้อง: กำลังตรวจสอบความถูกต้องของไฟล์ที่อัปโหลดก่อนที่แบตช์จะเริ่มได้
ล้มเหลว: ไฟล์ไม่ผ่านกระบวนการตรวจสอบความถูกต้อง
กำลังดำเนินการ: ไฟล์ผ่านการตรวจสอบความถูกต้องเรียบร้อยแล้วและกระบวนการแบตช์กำลังดำเนินอยู่
กำลังสรุปผล: งานแบตช์เสร็จสิ้นแล้วและกำลังเตรียมผลลัพธ์
เสร็จสมบูรณ์: งานแบตช์เสร็จสิ้นและผลลัพธ์พร้อมแล้ว
หมดอายุ: ไม่สามารถทำแบตช์ให้เสร็จภายในช่วงเวลา SLA ได้
กำลังยกเลิก: ได้เริ่มการยกเลิกงานแบตช์แล้ว
ยกเลิกแล้ว: งานแบตช์ถูกยกเลิกแล้ว
ฉันจะตรวจสอบได้อย่างไรว่าฉันสร้างงานแบตช์ใดไว้แล้วบ้าง?
คุณสามารถดูรายการงานแบตช์ทั้งหมดของคุณได้โดยใช้การเรียก API ที่ระบุไว้ที่นี่
endpoint นี้รองรับการไม่เก็บข้อมูลหรือไม่?
หากองค์กรของคุณเปิดใช้การไม่เก็บข้อมูล โปรดทราบว่า endpoint นี้ไม่รองรับการไม่เก็บข้อมูล