OpenAI
Táto stránka bola strojovo preložená. Prečítaj si pôvodný článok v angličtine.

Riešenie problémov s limitmi požiadaviek API a chybami 429

Identifikujte príčinu chyby API 429, obmedzte nárazové požiadavky a zvoľte správny postup pri limitoch požiadaviek, kreditov alebo používania.

Aktualizované: 12 days ago

Prehľad

Na používanie API sa vzťahujú limity požiadaviek. Tieto limity obmedzujú počet požiadaviek, tokenov alebo iný spôsob používania za stanovené obdobie.

Odpoveď 429 môže signalizovať dočasný limit požiadaviek, vyčerpaný predplatený zostatok alebo limit výdavkov či používania. Pred opakovaním požiadavky alebo zmenou nastavení fakturácie si pozrite podrobnosti chyby.

Identifikujte príčinu

Prečítajte si chybové hlásenie a prípadne aj hodnotu error.code. Chyby súvisiace s fakturáciou môžu naďalej používať všeobecnejšiu hodnotu error.type insufficient_quota.

Chyba alebo kódČo to znamenáČo treba urobiť
Dosiahnutý limit požiadaviek alebo tokenovPožiadavky prekračujú príslušný limit požiadaviek.Rozložte požiadavky v čase a postupujte podľa nižšie uvedených pokynov na ich opakovanie.
credit_balance_exhaustedOrganizácia už nemá žiadne predplatené kredity.Pridajte kredity v nastaveniach fakturácie API.
organization_usage_limit_exceededOrganizácia dosiahla limit používania pridelený spoločnosťou OpenAI.Požiadajte o schválenie vyššieho limitu používania.
organization_spend_limit_exceededOrganizácia dosiahla vynútený limit výdavkov.Zvýšte alebo odstráňte limit, prípadne počkajte na jeho mesačné obnovenie.
project_spend_limit_exceededProjekt dosiahol vynútený limit výdavkov.Zvýšte alebo odstráňte limit projektu, prípadne počkajte na jeho mesačné obnovenie.

Opakovanie požiadavky pri chybe fakturácie, výdavkov alebo kvóty prístup neobnoví. Najskôr vyriešte uvedený zostatok alebo limit. Uplatnenie zmien vynútených limitov výdavkov môže určitý čas trvať.

Zmena limitu výdavkov vyžaduje oprávnenie na správu nastavení príslušnej organizácie alebo projektu. Ak k nim nemáte prístup, obráťte sa na osobu, ktorá tieto nastavenia spravuje.

Informácie o nákupe predplatených kreditov nájdete v článku Nastavenie a správa predplatenej fakturácie API.

Informácie o rôznych spôsoboch riadenia výdavkov nájdete v príručke k limitom výdavkov API.

Skontrolujte príslušné limity požiadaviek

Aktuálnu úroveň používania a limity organizácie nájdete na jej stránke Limity.

Limity požiadaviek sa môžu uplatňovať na úrovni organizácie aj projektu. Nejde o limity pridelené jednotlivým používateľom. Limity sa líšia aj podľa modelu a niektoré rodiny modelov majú spoločný limit.

Skontrolujte, ktorý limit je uvedený v chybe. Napríklad počet požiadaviek za minútu a počet tokenov za minútu majú samostatné limity. Jeden z nich môžete dosiahnuť, aj keď druhý neprekročíte.

Overte organizáciu použitú v požiadavke

Ak patríte do viacerých organizácií, overte, či vaše požiadavky používajú zamýšľanú organizáciu a projekt.

Ak váš kľúč API používa predvolenú organizáciu, skontrolujte nastavenie predvolenej organizácie. Rôzne organizácie môžu mať odlišné spôsoby fakturácie a úrovne používania.

Obmedzte dočasné chyby limitu požiadaviek

Rozložte požiadavky v čase a vyhnite sa nárazom

Namiesto odoslania veľkého počtu požiadaviek naraz ich rozložte v čase.

Limity požiadaviek sa môžu uplatňovať v kratších obdobiach, než je zobrazený interval. Napríklad limit 60 požiadaviek za minútu sa môže uplatňovať aj v jednosekundových obdobiach. Krátky náraz preto môže vyvolať chybu, aj keď je vaše priemerné používanie zdanlivo pod limitom za minútu.

K chybám limitu tokenov môžu prispieť aj dlhé príkazy a zbytočne vysoké limity počtu výstupných tokenov.

Počkajte a skúste to znova

Pri dočasných chybách limitu požiadaviek:

  1. Skontrolujte, či odpoveď obsahuje hlavičku Retry-After.

  2. Ak hlavička obsahuje platnú dĺžku oneskorenia, pred ďalším pokusom počkajte aspoň uvedený čas.

  3. Ak hlavička chýba alebo je neplatná, použite exponenciálne predlžovanie intervalu s náhodnou odchýlkou: po každom neúspešnom pokuse predĺžte čakanie a pridajte krátke náhodné oneskorenie.

  4. Obmedzte počet opakovaných pokusov aj celkový čas, ktorý im venujete.

Oficiálne súpravy SDK od OpenAI už automaticky opakujú požiadavky pri príslušných chybách limitu požiadaviek a rešpektujú hlavičku Retry-After, ak je uvedená. Pred pridaním ďalšej slučky opakovania zohľadnite tieto pokusy.

Neúspešné požiadavky sa započítavajú do limitov za minútu. Neustále opätovné odosielanie tej istej požiadavky môže problém predĺžiť.

Pokyny a príklady implementácie nájdete v príručke k limitom požiadaviek API. Pred použitím knižnice tretej strany na opakovanie požiadaviek vo svojej aplikácii ju dôkladne skontrolujte.

Skontrolujte veľkosť príkazu a výstupu

Odstráňte z príkazov nepotrebné pokyny, opakujúci sa kontext a príklady. Upravený príkaz otestujte a overte, či stále poskytuje požadovaný výsledok.

Použite parameter výstupných tokenov, ktorý podporuje váš koncový bod a model:

  • Chat Completions používa max_completion_tokens.

  • Responses používa max_output_tokens.

Nenastavujte výrazne vyšší limit, než požiadavka potrebuje. Tieto parametre zahŕňajú tokeny uvažovania aj viditeľný výstup, preto pri používaní uvažovacieho modelu počítajte s oboma.

Skontrolujte svoju úroveň používania

Ak chyby pretrvávajú aj po obmedzení nárazov a kontrole používania tokenov, pozrite si dostupné možnosti zvýšenia limitov na stránke Limity.

S rastúcimi výdavkami na API môže OpenAI automaticky preradiť organizáciu na vyššiu úroveň používania. Zvyčajne sa tým zvýšia limity požiadaviek pre väčšinu modelov.

Schválený mesačný limit používania je oddelený od limitov počtu požiadaviek a tokenov. Zvýšenie jedného z nich nepotvrdzuje, že sa zmenil aj druhý.

Ak problém pretrváva

Pred postúpením problému

Pripravte si presné chybové hlásenie, prípadný kód chyby, príslušné ID požiadaviek, čas chyby s vaším časovým pásmom a príslušný limit zobrazený vo vašom účte. Poznačte si kroky, ktoré ste už vyskúšali.

Kontaktujte podporu OpenAI

Ak problém nevyriešite ani po kontrole uvedeného limitu, kontaktujte podporu OpenAI prostredníctvom Centra pomoci. Neuvádzajte kľúče API ani iné tajné autentifikačné údaje.

Bol tento článok užitočný?