Преглед
Користењето на API подлежи на ограничувања на брзината. Овие ограничувања го ограничуваат бројот на барања, токени или друг вид користење во одреден период.
Одговорот 429 може да укажува на привремено ограничување на брзината, исцрпено однапред платено салдо или ограничување на трошоците или користењето. Проверете ги деталите за грешката пред повторно да се обидете или да ги промените поставките за наплата.
Утврдете ја причината
Прочитајте ги пораката за грешката и error.code, ако се наведени. Грешките поврзани со наплатата сепак може да ја користат пошироката вредност insufficient_quota за error.type.
| Грешка или код | Што значи | Што да направите |
| Достигнато е ограничувањето на брзината за барања или токени | Барањата го надминуваат важечкото ограничување на брзината. | Распоредете ги барањата и следете ги упатствата за повторни обиди подолу. |
| credit_balance_exhausted | Организацијата нема преостанати однапред платени кредити. | Додајте кредити во поставките за наплата на API. |
| organization_usage_limit_exceeded | Организацијата го достигна ограничувањето на користењето доделено од OpenAI. | Побарајте одобрување за повисоко ограничување на користењето. |
| organization_spend_limit_exceeded | Организацијата го достигна задолжителното ограничување на трошоците. | Зголемете го или отстранете го ограничувањето или почекајте го месечното ресетирање. |
| project_spend_limit_exceeded | Проектот го достигна задолжителното ограничување на трошоците. | Зголемете го или отстранете го ограничувањето на проектот или почекајте го месечното ресетирање. |
Повторниот обид при грешка поврзана со наплата, трошоци или квота нема да го врати пристапот. Прво решете го пријавениот проблем со салдото или ограничувањето. Промените на задолжителните ограничувања на трошоците може да не се применат веднаш.
За да промените ограничување на трошоците, потребна ви е дозвола за управување со поставките на соодветната организација или проект. Ако немате пристап, побарајте помош од лицето што управува со тие поставки.
За купување однапред платени кредити, погледнете: Поставување и управување со однапред платена наплата за API.
За различните контроли на трошоците, погледнете го водичот за ограничувања на трошоците за API.
Проверете ги важечките ограничувања на брзината
Одете на страницата „Ограничувања“ на вашата организација за да ги прегледате тековното ниво на користење и ограничувањата.
Ограничувањата на брзината може да се применуваат на ниво на организација и на проект. Тие не претставуваат дозволени вредности за поединечни корисници. Ограничувањата се разликуваат и според моделот, а некои семејства на модели споделуваат исто ограничување.
Проверете на кое ограничување укажува грешката. На пример, барањата во минута и токените во минута се посебни ограничувања. Може да го достигнете едното, а да останете под другото.
Потврдете која организација ја користи вашето барање
Ако припаѓате на повеќе организации, потврдете дека вашите барања ги користат предвидените организација и проект.
Ако вашиот клуч за API користи стандардна организација, проверете ја поставката за стандардна организација. Различни организации може да имаат различни начини на наплата и нивоа на користење.
Намалете ги привремените грешки поради ограничување на брзината
Распоредете ги барањата и избегнувајте нагли напливи
Распоредете ги барањата во текот на времето наместо да испраќате голем број одеднаш.
Ограничувањата на брзината може да се применуваат во пократки периоди од прикажаниот интервал. На пример, ограничување од 60 барања во минута може да се применува и во периоди од 1 секунда. Затоа, краток наплив може да предизвика грешка дури и ако просечното користење изгледа пониско од ограничувањето во минута.
Долгите промптови и непотребно високите дозволени вредности за излезни токени исто така може да придонесат за грешки во брзината на токените.
Обидете се повторно по извесно време
За привремени грешки поради ограничување на брзината:
Проверете дали одговорот го содржи заглавието Retry-After.
Ако заглавието содржи важечко време на чекање, почекајте барем толку пред повторно да се обидете.
Ако заглавието недостасува или е неважечко, користете експоненцијално одложување со случајно отстапување: зголемувајте го чекањето по секој неуспешен обид и додајте кратко случајно одложување.
Ограничете ги и бројот на повторни обиди и вкупното време потрошено на нив.
Официјалните SDK на OpenAI веќе се обидуваат повторно при соодветни грешки поради ограничување на брзината и го почитуваат Retry-After кога е присутно. Земете ги предвид тие повторни обиди пред да додадете уште една јамка за повторување.
Неуспешните барања се пресметуваат во ограничувањата по минута. Постојаното повторно испраќање на истото барање може да го продолжи проблемот.
За упатства и примери за имплементација, погледнете го водичот за ограничувања на брзината на API. Проверете ја секоја библиотека од трета страна за повторни обиди пред да ја користите во вашата апликација.
Прегледајте ја големината на промптот и излезот
Отстранете ги непотребните инструкции, повторениот контекст и примерите од вашите промптови. Тестирајте го изменетиот промпт за да потврдите дека сè уште го дава потребниот резултат.
Користете го параметарот за излезни токени што го поддржуваат вашата крајна точка и модел:
Chat Completions користи max_completion_tokens.
Responses користи max_output_tokens.
Не поставувајте многу повисока дозволена вредност од онаа што му е потребна на барањето. Овие параметри ги опфаќаат и токените за расудување и видливиот излез, па земете ги предвид и двете кога користите модел со расудување.
Прегледајте го вашето ниво на користење
Ако грешките продолжат откако ќе ги намалите наглите напливи и ќе го проверите користењето токени, на страницата „Ограничувања“ проверете како може да ги зголемите ограничувањата.
Како што се зголемуваат трошоците за API, OpenAI може автоматски да ја префрли организацијата на повисоко ниво на користење. Ова обично ги зголемува ограничувањата на брзината кај повеќето модели.
Вашето одобрено месечно ограничување на користењето е одделно од ограничувањата на брзината за барања и токени. Зголемувањето на едното не треба да се смета за потврда дека и другото е променето.
Ако проблемот продолжи
Пред да побарате дополнителна помош
Имајте ги при рака точната порака за грешката, кодот на грешката ако постои, релевантните ID на барањата, времето на грешката со вашата временска зона и релевантното ограничување прикажано во вашата сметка. Забележете кои чекори веќе сте ги пробале.
Контактирајте со поддршката на OpenAI
Контактирајте со поддршката на OpenAI преку Центарот за помош ако не можете да го решите проблемот откако ќе го проверите пријавеното ограничување. Не вклучувајте клучеви за API или други тајни податоци за автентикација.