OpenAI
Тази страница е машинно преведена. Вижте оригиналната статия на английски език.

Отстраняване на проблеми с API лимитите на заявките и грешките 429

Установете причината за API грешка 429, ограничете резките пикове в заявките и изберете правилната следваща стъпка при лимити на заявките, кредитите или използването.

Актуализирано: 6 days ago

Общ преглед

При използването на API се прилагат лимити на заявките. Тези лимити ограничават броя заявки, токените или друго потребление за определен период.

Отговор с код 429 може да означава временно достигане на лимита на заявките, изчерпан предплатен баланс или достигнат лимит на разходите или потреблението. Проверете подробностите за грешката, преди да опитате отново или да промените настройките за таксуване.

Установете причината

Прочетете съобщението за грешка и error.code, ако е посочен. Грешките, свързани с таксуването, също могат да използват по-общата стойност insufficient_quota за error.type.

Грешка или кодКакво означаваКакво да направите
Достигнат лимит на заявките или токените за определен периодЗаявките надвишават приложим лимит на заявките.Разпределете заявките във времето и следвайте указанията за повторни опити по-долу.
credit_balance_exhaustedОрганизацията няма останали предплатени кредити.Добавете кредити в настройките за таксуване на API.
organization_usage_limit_exceededОрганизацията е достигнала лимита на потребление, определен от OpenAI.Поискайте одобрение за по-висок лимит на потребление.
organization_spend_limit_exceededОрганизацията е достигнала наложения лимит на разходите.Увеличете или премахнете лимита или изчакайте месечното нулиране.
project_spend_limit_exceededПроектът е достигнал наложения лимит на разходите.Увеличете или премахнете лимита на проекта или изчакайте месечното нулиране.

Повторните опити при грешка, свързана с таксуване, разходи или квота, не възстановяват достъпа. Първо разрешете проблема с посочения баланс или лимит. Може да отнеме време, докато промените в наложените лимити на разходите влязат в сила.

За да промените лимит на разходите, ви е необходимо разрешение да управлявате съответните настройки на организацията или проекта. Ако нямате достъп, обърнете се към човека, който управлява тези настройки.

За закупуване на предплатени кредити вижте: Настройване и управление на предплатеното таксуване за API.

За различните възможности за контрол на разходите вижте ръководството за лимитите на разходите за API.

Проверете приложимите лимити на заявките

Отворете страницата „Лимити“ на организацията си, за да прегледате текущото ѝ ниво на потребление и лимитите.

Лимитите на заявките могат да се прилагат на ниво организация и проект. Те не са индивидуални квоти за всеки потребител. Лимитите също се различават според модела, а някои семейства модели споделят общ лимит.

Проверете кой лимит е посочен в грешката. Например броят заявки в минута и броят токени в минута имат отделни лимити. Можете да достигнете единия, докато оставате под другия.

Проверете лимитите на API за генериране на изображение

Лимитите на заявките към API за генериране на изображение зависят от модела и вашето ниво на потребление. Изберете своя модел на страницата с модели, за да видите лимитите му.

За инструкции за настройване вижте ръководството за разработчици за генериране на изображение. За повече информация относно нивата на потребление вижте ръководството за лимитите на заявките към API.

Проверете коя организация се използва за заявката

Ако членувате в няколко организации, уверете се, че заявките ви използват желаната организация и проект.

Когато вашият API ключ използва организация по подразбиране, проверете настройката за организация по подразбиране. Различните организации може да имат различни условия за таксуване и нива на потребление.

Намалете временните грешки, свързани с лимита на заявките

Разпределяйте заявките във времето и избягвайте резки пикове

Разпределяйте заявките във времето, вместо да изпращате голям брой наведнъж.

Лимитите на заявките може да се прилагат за по-кратки периоди от показания интервал. Например лимит от 60 заявки в минута може да се прилага и за интервали от 1 секунда. Затова кратък пик може да предизвика грешка, дори ако средното ви потребление изглежда под лимита за минута.

Дългите подкани и ненужно високите допустими стойности за броя изходни токени също могат да допринесат за грешки поради надвишен лимит на токените за определен период.

Изчакайте, преди да опитате отново

При временни грешки поради достигнат лимит на заявките:

  1. Проверете дали отговорът съдържа заглавно поле Retry-After.

  2. Ако полето съдържа валидно време за изчакване, изчакайте поне толкова, преди да опитате отново.

  3. Ако полето липсва или е невалидно, използвайте експоненциално увеличаване на времето за изчакване със случаен компонент: увеличавайте изчакването след всеки неуспешен опит и добавяйте кратко случайно забавяне.

  4. Ограничете както броя на повторните опити, така и общото време за тях.

Официалните SDK на OpenAI вече правят повторни опити при подходящите грешки, свързани с лимита на заявките, и спазват Retry-After, когато това поле присъства. Вземете предвид тези повторни опити, преди да добавите още един цикъл за повторно изпращане.

Неуспешните заявки също се отчитат при лимитите за минута. Непрекъснатото повторно изпращане на една и съща заявка може да удължи проблема.

За насоки за реализация и примери вижте ръководството за лимитите на заявките към API. Прегледайте всяка библиотека за повторни опити от трета страна, преди да я използвате в приложението си.

Прегледайте размера на подканите и изходните данни

Премахнете ненужните инструкции, повтарящия се контекст и примерите от подканите си. Тествайте преработената подкана, за да се уверите, че все още дава нужния ви резултат.

Използвайте параметъра за изходните токени, който се поддържа от вашата крайна точка и модел:

  • Chat Completions използва max_completion_tokens.

  • Responses използва max_output_tokens.

Не задавайте допустим брой токени, който е много по-голям от необходимото за заявката. Тези параметри обхващат както токените за структурирано анализиране, така и видимия изходен текст, затова предвидете достатъчно токени и за двете, когато използвате модел със структурирано анализиране.

Прегледайте нивото си на потребление

Ако грешките продължават, след като намалите пиковете на заявките и прегледате потреблението на токени, проверете страницата „Лимити“ за наличните начини да увеличите лимитите си.

Платеното ниво на потребление на организацията ви се повишава автоматично, когато общата стойност на закупените кредити достигне праговете за Build, Launch и Grow. По-високите нива обикновено предоставят по-високи лимити на заявките. Вижте изискванията за нивата в ръководството за лимитите на заявките към API.

Одобреният ви месечен лимит на потребление е отделен от лимитите на заявките и токените за определен период. Увеличаването на единия вид лимит не означава, че другият също се е променил.

Ако проблемът продължава

Преди да потърсите допълнителна помощ

Подгответе точното съобщение за грешка, кода на грешката, ако има такъв, идентификаторите на съответните заявки, часа на възникване на грешката с часовата зона и съответния лимит, показан в акаунта ви. Запишете стъпките, които вече сте изпробвали.

Свържете се с екипа за поддръжка на OpenAI

Свържете се с екипа за поддръжка на OpenAI чрез Помощния център, ако не можете да разрешите проблема след проверка на посочения лимит. Не включвайте API ключове или други тайни данни за удостоверяване.

Беше ли Ви полезна тази статия?