Přehled
Na používání API se vztahují limity frekvence požadavků. Tyto limity omezují počet požadavků, tokenů nebo jiný objem využití za stanovené období.
Odpověď s kódem 429 může znamenat dočasné dosažení limitu frekvence požadavků, vyčerpání předplaceného zůstatku nebo dosažení limitu útraty či využití. Než požadavek zopakujete nebo změníte nastavení fakturace, zkontrolujte podrobnosti chyby.
Zjistěte příčinu
Přečtěte si chybovou zprávu a hodnotu error.code, pokud je uvedena. I chyby související s fakturací mohou mít v poli error.type obecnější hodnotu insufficient_quota.
| Chyba nebo kód | Co to znamená | Jak postupovat |
| Dosažen limit frekvence požadavků nebo tokenů | Požadavky překračují příslušný limit frekvence požadavků. | Rozložte požadavky v čase a řiďte se níže uvedenými pokyny k opakování pokusů. |
| credit_balance_exhausted | Organizaci nezbývají žádné předplacené kredity. | Doplňte kredity v nastavení fakturace API. |
| organization_usage_limit_exceeded | Organizace dosáhla limitu využití stanoveného společností OpenAI. | Požádejte o schválení vyššího limitu využití. |
| organization_spend_limit_exceeded | Organizace dosáhla svého závazného limitu útraty. | Zvyšte či zrušte limit nebo počkejte na jeho měsíční obnovení. |
| project_spend_limit_exceeded | Projekt dosáhl svého závazného limitu útraty. | Zvyšte či zrušte limit projektu nebo počkejte na jeho měsíční obnovení. |
Opakováním požadavku při chybě související s fakturací, útratou nebo kvótou přístup neobnovíte. Nejprve vyřešte problém s nahlášeným zůstatkem nebo limitem. Může chvíli trvat, než se změny závazných limitů útraty projeví.
Ke změně limitu útraty potřebujete oprávnění ke správě příslušných nastavení organizace nebo projektu. Pokud nemáte přístup, požádejte osobu, která tato nastavení spravuje.
Informace o nákupu předplacených kreditů najdete v článku Nastavení a správa předplacené fakturace API.
Informace o jednotlivých možnostech řízení útraty najdete v průvodci limity útraty za API.
Zkontrolujte příslušné limity frekvence požadavků
Na stránce limitů své organizace zkontrolujte její aktuální úroveň využití a limity.
Limity frekvence požadavků se mohou vztahovat na celou organizaci i na jednotlivé projekty. Nejde o limity pro jednotlivé uživatele. Limity se také liší podle modelu a některé rodiny modelů sdílejí společný limit.
Zkontrolujte, na který limit chyba odkazuje. Například počet požadavků za minutu a počet tokenů za minutu mají samostatné limity. Jednoho limitu můžete dosáhnout, zatímco druhý ještě nepřekročíte.
Zkontrolujte limity API pro generování obrázků
Limity frekvence požadavků API pro generování obrázků závisí na modelu a vaší úrovni využití. Na stránce modelů vyberte svůj model a zobrazte si jeho limity.
Pokyny k nastavení najdete v průvodci generováním obrázků pro vývojáře. Další informace o úrovních využití najdete v průvodci limity frekvence požadavků API.
Ověřte, kterou organizaci váš požadavek používá
Pokud jste členem více organizací, ověřte, že vaše požadavky používají správnou organizaci a projekt.
Pokud váš klíč API používá výchozí organizaci, zkontrolujte nastavení výchozí organizace. Jednotlivé organizace mohou mít různé podmínky fakturace a úrovně využití.
Omezte dočasné chyby způsobené limitem frekvence požadavků
Rozložte požadavky v čase a vyhněte se nárazovému odesílání
Místo odesílání velkého počtu požadavků najednou je rozložte v čase.
Limity frekvence požadavků se mohou uplatňovat i v kratších obdobích, než je zobrazený interval. Například limit 60 požadavků za minutu se může uplatňovat i v jednosekundových intervalech. Krátký nápor požadavků proto může vyvolat chybu, i když se vaše průměrné využití zdá být pod minutovým limitem.
K chybám způsobeným limitem počtu tokenů za časový interval mohou přispívat také dlouhé prompty a zbytečně vysoký povolený počet výstupních tokenů.
Opakujte požadavek s prodlevou
Při dočasných chybách způsobených limitem frekvence požadavků:
Zkontrolujte, zda odpověď obsahuje hlavičku Retry-After.
Pokud hlavička obsahuje platnou dobu čekání, vyčkejte před dalším pokusem alespoň po tuto dobu.
Pokud hlavička chybí nebo je neplatná, použijte exponenciální prodlužování prodlevy s náhodnou odchylkou: po každém neúspěšném pokusu prodlevu zvyšte a přidejte krátkou náhodnou prodlevu.
Omezte počet opakovaných pokusů i celkový čas, který jim věnujete.
Oficiální sady SDK od OpenAI už při příslušných chybách limitu frekvence požadavků pokusy automaticky opakují a respektují hlavičku Retry-After, pokud je přítomna. Než přidáte další smyčku pro opakování pokusů, zohledněte toto automatické opakování.
Do minutových limitů se započítávají i neúspěšné požadavky. Neustálé opakované odesílání stejného požadavku může problém prodloužit.
Pokyny k implementaci a příklady najdete v průvodci limity frekvence požadavků API. Než ve své aplikaci použijete knihovnu třetí strany pro opakování požadavků, prověřte ji.
Zkontrolujte délku promptu a výstupu
Z promptů odstraňte zbytečné pokyny, opakující se kontext a příklady. Upravený prompt otestujte a ověřte, že stále poskytuje požadovaný výsledek.
Použijte parametr pro počet výstupních tokenů, který podporuje váš koncový bod a model:
Chat Completions používá max_completion_tokens.
Responses používá max_output_tokens.
Nenastavujte povolený počet tokenů výrazně výš, než požadavek potřebuje. Tyto parametry zahrnují tokeny pro uvažování i viditelný výstup, proto při použití modelu s uvažováním počítejte s obojím.
Zkontrolujte svou úroveň využití
Pokud chyby přetrvávají i po omezení nárazového odesílání a kontrole využití tokenů, podívejte se na stránku limitů, kde najdete dostupné možnosti jejich zvýšení.
Placená úroveň využití vaší organizace se automaticky zvýší, jakmile celková hodnota jejích nákupů kreditů dosáhne hranic pro úrovně Build, Launch a Grow. Vyšší úrovně obvykle nabízejí vyšší limity frekvence požadavků. Požadavky pro jednotlivé úrovně najdete v průvodci limity frekvence požadavků API.
Váš schválený měsíční limit využití je oddělený od limitů frekvence požadavků a počtu tokenů za časový interval. Zvýšení jednoho limitu neznamená, že se změnil i druhý.
Pokud problém přetrvává
Než se obrátíte na podporu
Připravte si přesné znění chybové zprávy, případný kód chyby, ID příslušných požadavků, čas výskytu chyby včetně časového pásma a příslušný limit zobrazený ve vašem účtu. Poznamenejte si kroky, které jste už vyzkoušeli.
Kontaktujte podporu OpenAI
Pokud se vám problém nepodaří vyřešit ani po kontrole nahlášeného limitu, kontaktujte podporu OpenAI prostřednictvím Centra nápovědy. Neuvádějte klíče API ani jiné tajné ověřovací údaje.