Как работи Batch API?
Крайната точка на Batch API, документирана тук, позволява на потребителите да подават заявки за асинхронна пакетна обработка. Ще обработим тези заявки в рамките на 24 часа. Подробностите за всяка заявка ще бъдат прочетени от предварително качен файл, а отговорите ще бъдат записани в изходен файл. Можете да правите заявки към обекта за пакетна обработка за актуализации на състоянието и резултати.
Какво е ценообразуването за Batch API?
Всеки модел ще се предлага с 50% отстъпка от цената спрямо синхронните API. Ето още информация относно ценообразуването на нашия API.
Кои модели мога да използвам за пакетна обработка?
Batch API е широко достъпен за повечето от нашите модели, но не за всички. Вижте справочната документация за моделите, за да се уверите, че моделът, който използвате, поддържа Batch API.
Какво се случва, ако API не завърши заявката ми в обещаното време?
Стремим се да обработим всички заявки в рамките на 24 часа. Ако пакетна задача изтече (т.е. не е могла да бъде завършена в рамките на времевия прозорец по SLA), оставащата работа се отменя и се връща всяка вече завършена работа. Разработчиците ще бъдат таксувани за всяка завършена работа.
Какъв е лимитът за броя заявки, които мога да обработвам пакетно?
API за embeddings имат лимит от 1 милион заявки на опашка наведнъж.
За всички други API няма лимит за броя заявки, които можете да обработвате пакетно; всеки ниво на използване обаче има свързан лимит на заявките за пакетна обработка. Вашият лимит на заявките за пакетна обработка включва максималния брой входни токени, които имате на опашка едновременно. Можете да намерите лимитите си на заявките тук.
Мога ли да променя времето за получаване на отговор от Batch API?
Текущият ни зададен времеви прозорец е 24 часа. В момента не можем да променим този период от време.
Поддържа ли се стрийминг в Batch API?
Не, стриймингът не се поддържа в Batch API. Пакетните заявки връщат резултати чрез изходни файлове, а не чрез стриймвани отговори.
Поддържат ли се изображения в Batch API?
Да, изображенията се поддържат в Batch API.
Получих съобщение за грешка „Предоставеният URL адрес за тази заявка не съвпада по префикс с крайната точка за пакетна обработка“. Какво трябва да направя?
Ако получите тази грешка, това означава, че вашият URL адрес е неправилно форматиран за крайната точка на Batch API. Вижте нашата документация тук, за да се уверите, че извиквате крайната точка правилно.
Използването на Batch API брои ли се към другите ми лимити на заявките?
Лимитите на заявките за Batch API са напълно отделни от съществуващите лимити.
Какво се случва, ако пакетна задача бъде отменена?
Ако пакетна задача бъде отменена ръчно, се връщат всички резултати, които вече са завършени. Разработчиците ще бъдат таксувани за всяка завършена работа.
Какво се случва, ако пакетна задача изтече?
Ако пакетна задача изтече (т.е. не е могла да бъде завършена в рамките на времевия прозорец по SLA), оставащата работа се отменя и се връща всяка вече завършена работа. Разработчиците ще бъдат таксувани за всяка завършена работа.
Какви състояния мога да очаквам при пакетни задачи?
Пакетната задача може да има някое от следните състояния: Валидиране, Неуспешно, В ход, Финализиране, Завършено, Изтекло, Отменя се и Отменено. Ако проверявате стойностите на състоянието на API програмно, използвайте литералите с малки букви: validating, failed, in_progress, finalizing, completed, expired, cancelling и cancelled.
Валидиране: Валидирането на качения файл е в ход, преди пакетната задача да може да започне.
Неуспешно: Файлът не е преминал процеса на валидиране.
В ход: Файлът е валидиран успешно и пакетният процес се изпълнява.
Финализиране: Пакетната задача е завършена и резултатите се подготвят.
Завършено: Пакетната задача е завършена и резултатите са готови.
Изтекло: Пакетната задача не можа да бъде завършена в рамките на времевия прозорец по SLA.
Отменя се: Инициирано е отменяне на пакетната задача.
Отменено: Пакетната задача беше отменена.
Как мога да проверя кои пакетни задачи вече съм създал?
Можете да получите списък с всичките си пакетни задачи чрез API повикването, посочено тук.
Поддържа ли се нулево задържане на данни на тази крайна точка?
Ако за вашата организация е активирано нулево задържане на данни, имайте предвид, че нулевото задържане на данни не се прилага за Batch API. Организациите със ZDR могат да създават пакетни задачи, но входните файлове, изходите, грешките и междинните артефакти за пакетна обработка се задържат съгласно конфигурираните правила за задържане на Batch, File Service и Sediment.