Как работи Batch API?
Крайната точка на Batch API, както е документирано тук, позволява на потребителите да изпращат заявки за асинхронна пакетна обработка. Ще обработим тези заявки в рамките на 24 часа. Подробностите за всяка заявка ще бъдат прочетени от предварително качен файл, а отговорите ще бъдат записани в изходен файл. Можете да правите справка с batch обекта за актуализации на статуса и резултатите.
Какво е ценообразуването за Batch API?
Всеки модел ще се предлага с 50% отстъпка в цената спрямо синхронните API. Ето още информация относно ценообразуването на нашето API.
Кои модели мога да използвам в пакетна обработка?
Batch API е широко достъпен за повечето от нашите модели, но не за всички. Моля, вижте референтната документация за модели, за да се уверите, че моделът, който използвате, поддържа Batch API.
Какво става, ако API не изпълни заявката ми в обещания срок?
Стремим се да обработим всички заявки в рамките на 24 часа. Ако даден batch изтече (т.е. не може да бъде завършен в рамките на времевия прозорец по SLA), оставащата работа се отменя и всяка вече завършена работа се връща. За разработчиците ще бъдат начислени такси за всяка завършена работа.
Какъв е лимитът за броя заявки, които мога да обработвам пакетно?
Embeddings API имат лимит от 1 милион поставени на опашка заявки наведнъж.
За всички други API няма ограничение за броя заявки, които можете да обработвате пакетно; всяко ниво на ползване обаче има свързан лимит на скоростта за batch. Лимитът на скоростта за вашия batch включва максималния брой входни токени, които сте поставили на опашка в даден момент. Можете да намерите лимитите си на скоростта тук.
Мога ли да променя времето, за което получавам отговор от Batch API?
Текущо определеният от нас времеви прозорец е 24 часа. В момента не можем да променим този период.
Поддържа ли се streaming в Batch API?
Не, streaming не се поддържа в Batch API. Batch заявките връщат резултати чрез изходни файлове, а не чрез стриймвани отговори.
Поддържат ли се изображения в Batch API?
Да, изображенията се поддържат в Batch API.
Получих съобщение за грешка „The URL provided for this request does not prefix-match the batch endpoint“. Какво трябва да направя?
Ако получите тази грешка, това означава, че URL адресът ви е форматиран неправилно за крайната точка на Batch API. Моля, вижте нашата документация тук, за да се уверите, че извиквате крайната точка правилно.
Използването на Batch API отчита ли се спрямо другите ми лимити на скоростта?
Лимитите на скоростта за Batch API са напълно отделни от съществуващите лимити.
Какво става, ако даден batch бъде отменен?
Ако даден batch бъде отменен ръчно, се връщат всички резултати, които вече са били завършени. За разработчиците ще бъдат начислени такси за всяка завършена работа.
Какво става, ако даден batch изтече?
Ако даден batch изтече (т.е. не може да бъде завършен в рамките на времевия прозорец по SLA), оставащата работа се отменя и всяка вече завършена работа се връща. За разработчиците ще бъдат начислени такси за всяка завършена работа.
Какви статуси мога да очаквам за batch задачите?
Batch задачата може да има някой от следните статуси: Validating, Failed, In Progress, Finalizing, Completed, Expired, Cancelling и Cancelled. Ако проверявате стойностите на статуса на API програмно, използвайте lowercase литералите: validating, failed, in_progress, finalizing, completed, expired, cancelling и cancelled.
Validating: Валидирането на качения файл е в ход, преди batch да може да започне.
Failed: Файлът не е преминал процеса на валидиране.
In Progress: Файлът беше успешно валидиран и процесът на batch е в ход.
Finalizing: Batch задачата е завършена и резултатите се подготвят.
Completed: Batch задачата е завършена и резултатите са готови.
Expired: Batch не можа да бъде завършен в рамките на времевия прозорец по SLA.
Cancelling: Инициирано е отменянето на batch задачата.
Cancelled: Batch задачата беше отменена.
Как мога да проверя кои batch задачи вече съм създал(а)?
Можете да получите списък с всички ваши batch задачи, като използвате API извикването, посочено тук.
Поддържа ли се нулево задържане на данни в тази крайна точка?
Ако за вашата организация е активирано нулево задържане на данни, имайте предвид, че нулево задържане на данни не се прилага за Batch API. ZDR организациите могат да създават batch задачи, но входните файлове за batch, изходите, грешките и междинните артефакти се съхраняват съгласно конфигурираните политики за съхранение на Batch, File Service и Sediment.