OpenAI
Ta stran je bila strojno prevedena. Oglejte si izvirni članek v angleščini.

Odpravljanje težav z omejitvami hitrosti API-ja in napakami 429

Ugotovite vzrok napake API 429, zmanjšajte naval zahtev in izberite ustrezen naslednji korak glede omejitev hitrosti, točk ali uporabe.

Posodobljeno: 4 days ago

Pregled

Za uporabo API-ja veljajo omejitve hitrosti. Te omejitve določajo število zahtev, žetonov ali obseg druge uporabe v določenem obdobju.

Odziv 429 lahko pomeni začasno omejitev hitrosti, porabljeno predplačniško dobroimetje ali omejitev porabe oziroma uporabe. Pred ponovnim poskusom ali spreminjanjem nastavitev obračunavanja preverite podrobnosti napake.

Ugotovite vzrok

Preberite sporočilo o napaki in vrednost error.code, če je navedena. Napake pri obračunavanju lahko še vedno uporabljajo širšo vrednost error.type insufficient_quota.

Napaka ali kodaKaj pomeniKaj storiti
Dosežena je omejitev hitrosti za zahteve ali žetoneZahteve presegajo veljavno omejitev hitrosti.Upočasnite pošiljanje zahtev in sledite spodnjim navodilom za ponovne poskuse.
credit_balance_exhaustedOrganizacija nima več predplačniških točk.Dodajte točke v nastavitvah obračunavanja API-ja.
organization_usage_limit_exceededOrganizacija je dosegla omejitev uporabe, ki jo je določil OpenAI.Zaprosite za odobritev višje omejitve uporabe.
organization_spend_limit_exceededOrganizacija je dosegla uveljavljeno omejitev porabe.Zvišajte ali odstranite omejitev oziroma počakajte na mesečno ponastavitev.
project_spend_limit_exceededProjekt je dosegel uveljavljeno omejitev porabe.Zvišajte ali odstranite omejitev projekta oziroma počakajte na mesečno ponastavitev.

Ponovni poskus pri napaki glede obračunavanja, porabe ali kvote ne obnovi dostopa. Najprej uredite navedeno stanje ali omejitev. Uveljavitev sprememb omejitev porabe lahko traja nekaj časa.

Za spreminjanje omejitve porabe potrebujete dovoljenje za upravljanje nastavitev ustrezne organizacije ali projekta. Če nimate dostopa, se obrnite na osebo, ki upravlja te nastavitve.

Več o nakupu predplačniških točk: Nastavitev in upravljanje predplačniškega obračunavanja API-ja.

Več o različnih načinih nadzora porabe najdete v vodniku po omejitvah porabe API-ja.

Preverite veljavne omejitve hitrosti

Na strani organizacije Omejitve preverite trenutno raven uporabe in omejitve.

Omejitve hitrosti lahko veljajo na ravni organizacije in projekta. Ne gre za dovoljena sredstva posameznih uporabnikov. Omejitve se razlikujejo tudi glede na model, nekatere družine modelov pa si delijo omejitev.

Preverite, katero omejitev navaja napaka. Število zahtev na minuto in število žetonov na minuto sta na primer ločeni omejitvi. Eno lahko dosežete, ne da bi dosegli drugo.

Preverite organizacijo, uporabljeno za zahtevo

Če pripadate več organizacijam, preverite, ali zahteve uporabljajo želeno organizacijo in projekt.

Če vaš ključ API uporablja privzeto organizacijo, preverite nastavitev privzete organizacije. Organizacije imajo lahko različne načine obračunavanja in ravni uporabe.

Zmanjšajte začasne napake zaradi omejitve hitrosti

Upočasnite zahteve in preprečite navale

Zahteve razporedite skozi čas, namesto da jih veliko pošljete naenkrat.

Omejitve hitrosti se lahko uveljavljajo v krajših obdobjih od prikazanega intervala. Omejitev 60 zahtev na minuto se lahko na primer uveljavlja tudi v enosekundnih obdobjih. Kratek naval lahko zato sproži napako, tudi če je videti, da je povprečna uporaba pod omejitvijo na minuto.

K napakam zaradi hitrosti žetonov lahko prispevajo tudi dolgi pozivi in po nepotrebnem visoke omejitve izhodnih žetonov.

Ponovite poskus po zakasnitvi

Pri začasnih napakah zaradi omejitve hitrosti:

  1. Preverite, ali je v odzivu glava Retry-After.

  2. Če glava vsebuje veljavno zakasnitev, pred ponovnim poskusom počakajte vsaj toliko časa.

  3. Če glava manjka ali ni veljavna, uporabite eksponentno podaljševanje premora z naključnim zamikom: po vsakem neuspešnem poskusu podaljšajte premor in dodajte majhen naključni zamik.

  4. Omejite število ponovnih poskusov in njihov skupni čas.

Uradni kompleti SDK družbe OpenAI že ponavljajo poskuse pri ustreznih napakah zaradi omejitve hitrosti in upoštevajo Retry-After, če je ta prisoten. Pred dodajanjem nove zanke za ponovne poskuse upoštevajte te poskuse.

Neuspešne zahteve se vštevajo v omejitve na minuto. Nenehno ponovno pošiljanje iste zahteve lahko podaljša težavo.

Navodila in primere za implementacijo najdete v vodniku po omejitvah hitrosti API-ja. Pred uporabo knjižnice drugega ponudnika za ponovne poskuse v aplikaciji jo preglejte.

Preverite velikost poziva in izhoda

Iz pozivov odstranite nepotrebna navodila, ponovljeni kontekst in primere. Spremenjeni poziv preskusite in se prepričajte, da še vedno ustvari želeni rezultat.

Uporabite parameter za izhodne žetone, ki ga podpirata vaša končna točka in model:

  • Chat Completions uporablja max_completion_tokens.

  • Responses uporablja max_output_tokens.

Ne nastavite veliko višje omejitve, kot jo zahteva zahteva. Ti parametri poleg vidnega izhoda vključujejo tudi žetone sklepanja, zato pri uporabi modela sklepanja upoštevajte oboje.

Preverite raven uporabe

Če se napake po zmanjšanju navalov in pregledu uporabe žetonov nadaljujejo, na strani Omejitve preverite razpoložljive načine za zvišanje omejitev.

Ko se poraba za API povečuje, lahko OpenAI organizacijo samodejno uvrsti na višjo raven uporabe. To običajno zviša omejitve hitrosti pri večini modelov.

Odobrena mesečna omejitev uporabe je ločena od omejitev hitrosti zahtev in žetonov. Zvišanje ene ne pomeni, da se je spremenila tudi druga.

Če se težava nadaljuje

Pred predajo težave v obravnavo

Pripravite natančno sporočilo o napaki, morebitno kodo napake, ustrezne ID-je zahtev, čas napake s časovnim pasom in ustrezno omejitev, prikazano v računu. Zapišite si korake, ki ste jih že poskusili.

Obrnite se na podporo OpenAI

Če težave po preverjanju navedene omejitve ne morete odpraviti, se prek Centra za pomoč obrnite na podporo OpenAI. Ne vključujte ključev API ali drugih skrivnih podatkov za preverjanje pristnosti.

Ali vam je bil ta članek v pomoč?