OpenAI
Оваа страница беше машински преведена. Погледнете ја оригиналната статија на англиски јазик.

Решавање проблеми со ограничувањата на брзината на API и грешките 429

Утврдете ја причината за грешка 429 на API, намалете ги наглите напливи на барања и изберете го соодветниот следен чекор за ограничувањата на брзината, кредитите или користењето.

Ажурирано: 6 days ago

Преглед

Користењето на API подлежи на ограничувања на брзината. Овие ограничувања го ограничуваат бројот на барања, токени или друг вид користење во одреден период.

Одговорот 429 може да укажува на привремено ограничување на брзината, исцрпено припејд салдо или ограничување на трошењето или користењето. Проверете ги деталите за грешката пред да се обидете повторно или да ги промените поставките за наплата.

Утврдете ја причината

Прочитајте ја пораката за грешка и вредноста на error.code, ако е наведена. Грешките поврзани со наплатата и понатаму може да ја користат поопштата вредност insufficient_quota за error.type.

Грешка или кодШто значиШто да направите
Достигнато е ограничувањето на брзината за барања или токениБарањата го надминуваат важечкото ограничување на брзината.Распоредете ги барањата во временски интервали и следете ги насоките за повторни обиди подолу.
credit_balance_exhaustedОрганизацијата нема преостанати припејд кредити.Додајте кредити во поставките за наплата на API.
organization_usage_limit_exceededОрганизацијата го достигна ограничувањето на користење што ѝ го додели OpenAI.Побарајте одобрување за повисоко ограничување на користење.
organization_spend_limit_exceededОрганизацијата го достигна ограничувањето на трошење што системот го спроведува.Зголемете го или отстранете го ограничувањето или почекајте до месечното ресетирање.
project_spend_limit_exceededПроектот го достигна ограничувањето на трошење што системот го спроведува.Зголемете го или отстранете го ограничувањето на проектот или почекајте до месечното ресетирање.

Повторниот обид по грешка поврзана со наплатата, трошењето или квотата не го враќа пристапот. Прво решете го пријавениот проблем со салдото или ограничувањето. Може да биде потребно време за да се применат промените на ограничувањата на трошење што системот ги спроведува.

За промена на ограничувањето на трошење е потребна дозвола за управување со поставките на соодветната организација или проект. Ако немате пристап, побарајте помош од лицето што управува со тие поставки.

За купување припејд кредити, погледнете: Поставување и управување со припејд наплатата на API.

За различните начини за контрола на трошењето, погледнете го водичот за ограничувањата на трошење на API.

Проверете ги важечките ограничувања на брзината

Одете на страницата „Ограничувања“ на вашата организација за да ги прегледате нејзиното тековно ниво на користење и ограничувањата.

Ограничувањата на брзината може да важат на ниво на организација и на проект. Тие не се поединечни квоти за секој корисник. Ограничувањата се разликуваат и според моделот, а некои семејства на модели делат заедничко ограничување.

Проверете на кое ограничување укажува грешката. На пример, бројот на барања во минута и бројот на токени во минута се одделни ограничувања. Може да го достигнете едното додека сè уште сте под другото.

Проверете ги ограничувањата на API за генерирање слики

Ограничувањата на брзината на API за генерирање слики зависат од моделот и вашето ниво на користење. Изберете го вашиот модел на страницата со модели за да ги видите неговите ограничувања.

За упатства за поставување, погледнете го водичот за програмери за генерирање слики. За повеќе информации за нивоата на користење, погледнете го водичот за ограничувањата на брзината на API.

Проверете која организација ја користи вашето барање

Ако припаѓате на повеќе организации, проверете дали вашите барања ги користат предвидените организација и проект.

Кога вашиот API-клуч користи стандардна организација, проверете ја поставката за стандардна организација. Различни организации може да имаат различни услови за наплата и нивоа на користење.

Намалете ги привремените грешки поради ограничување на брзината

Распоредете ги барањата во временски интервали и избегнувајте нагли напливи

Распоредете ги барањата низ времето наместо да испраќате голем број одеднаш.

Ограничувањата на брзината може да се применуваат во пократки периоди од прикажаниот интервал. На пример, ограничување од 60 барања во минута може да се применува и во периоди од 1 секунда. Затоа, краток наплив на барања може да предизвика грешка дури и ако се чини дека просечното користење е под ограничувањето по минута.

Долгите промптови и непотребно големиот дозволен број излезни токени исто така може да придонесат за грешки поради ограничување на брзината за токени.

Почекајте пред да се обидете повторно

За привремени грешки поради ограничување на брзината:

  1. Проверете дали одговорот содржи заглавие Retry-After.

  2. Ако заглавието содржи важечко време на чекање, почекајте барем толку пред да се обидете повторно.

  3. Ако заглавието недостасува или е неважечко, користете експоненцијално зголемување на времето на чекање со случајна варијација: зголемувајте го времето по секој неуспешен обид и додавајте кратко, случајно избрано време на чекање.

  4. Ограничете ги и бројот на повторни обиди и вкупното време потрошено на нив.

Официјалните SDK-пакети на OpenAI веќе автоматски ги повторуваат барањата при соодветните грешки поради ограничување на брзината и го почитуваат Retry-After кога е присутно. Земете ги предвид тие повторни обиди пред да додадете уште една јамка за повторување.

И неуспешните барања се вбројуваат во ограничувањата по минута. Постојаното повторно испраќање на истото барање може да го продолжи проблемот.

За насоки и примери за имплементација, погледнете го водичот за ограничувањата на брзината на API. Проверете ја секоја библиотека од трета страна за повторни обиди пред да ја користите во вашата апликација.

Проверете ја должината на промптот и излезот

Отстранете ги непотребните инструкции, повторениот контекст и примерите од вашите промптови. Тестирајте го изменетиот промпт за да потврдите дека сè уште го дава потребниот резултат.

Користете го параметарот за излезни токени што го поддржуваат вашата крајна точка и моделот:

  • Chat Completions користи max_completion_tokens.

  • Responses користи max_output_tokens.

Избегнувајте да поставувате многу поголем дозволен број токени отколку што му е потребно на барањето. Овие параметри ги опфаќаат и токените за расудување и видливиот излез, затоа предвидете доволно токени за двете кога користите модел со расудување.

Проверете го вашето ниво на користење

Ако грешките продолжат откако ќе ги намалите напливите на барања и ќе го проверите користењето токени, проверете ја страницата „Ограничувања“ за достапни начини за зголемување на вашите ограничувања.

Платеното ниво на користење на вашата организација автоматски се надградува кога вкупните набавки на кредити ќе ги достигнат праговите за Build, Launch и Grow. Повисоките нивоа обично нудат повисоки ограничувања на брзината. За условите за нивоата, погледнете го водичот за ограничувањата на брзината на API.

Вашето одобрено месечно ограничување на користење е одделно од ограничувањата на брзината за барања и токени. Зголемувањето на едното не треба да се смета за потврда дека се променило и другото.

Ако проблемот продолжи

Пред да побарате дополнителна помош

Подгответе ги точната порака за грешка, кодот на грешката ако го има, идентификаторите на соодветните барања, времето кога се појавила грешката со вашата временска зона и соодветното ограничување прикажано во вашата сметка. Забележете ги чекорите што веќе сте ги пробале.

Контактирајте со поддршката на OpenAI

Контактирајте со поддршката на OpenAI преку Центарот за помош ако не можете да го решите проблемот откако ќе го проверите пријавеното ограничување. Не вклучувајте API-клучеви или други тајни податоци за автентикација.

Дали оваа статија ви беше корисна?