Apžvalga
API naudojimui taikomas užklausų dažnio ribojimas. Šie apribojimai nustato užklausų, žetonų ar kitų naudojimo vienetų skaičių per tam tikrą laikotarpį.
429 atsakas gali reikšti laikiną užklausų dažnio apribojimą, išnaudotą išankstinio mokėjimo likutį arba išlaidų ar naudojimo apribojimą. Prieš bandydami dar kartą ar keisdami atsiskaitymo nustatymus, patikrinkite klaidos informaciją.
Nustatykite priežastį
Perskaitykite klaidos pranešimą ir, jei pateiktas, error.code. Su atsiskaitymu susijusioms klaidoms vis tiek gali būti naudojama bendresnė error.type reikšmė insufficient_quota.
| Klaida arba kodas | Ką tai reiškia | Ką daryti |
| Pasiektas užklausų arba žetonų dažnio apribojimas | Užklausos viršija taikomą dažnio apribojimą. | Siųskite užklausas tolygesniu tempu ir vadovaukitės toliau pateiktomis pakartotinių bandymų rekomendacijomis. |
| credit_balance_exhausted | Organizacija nebeturi išankstinio mokėjimo kreditų. | Papildykite kreditus API atsiskaitymo nustatymuose. |
| organization_usage_limit_exceeded | Organizacija pasiekė OpenAI nustatytą naudojimo apribojimą. | Paprašykite patvirtinti didesnį naudojimo apribojimą. |
| organization_spend_limit_exceeded | Organizacija pasiekė jai taikomą išlaidų apribojimą. | Padidinkite arba pašalinkite apribojimą arba palaukite, kol jis bus nustatytas iš naujo kitą mėnesį. |
| project_spend_limit_exceeded | Projektas pasiekė jam taikomą išlaidų apribojimą. | Padidinkite arba pašalinkite projekto apribojimą arba palaukite, kol jis bus nustatytas iš naujo kitą mėnesį. |
Kartojant užklausą po atsiskaitymo, išlaidų ar kvotos klaidos, prieiga neatkuriama. Pirmiausia išspręskite nurodyto likučio ar apribojimo problemą. Taikomų išlaidų apribojimų pakeitimai gali įsigalioti ne iš karto.
Norint pakeisti išlaidų apribojimą, reikia teisės tvarkyti atitinkamos organizacijos ar projekto nustatymus. Jei prieigos neturite, kreipkitės į šiuos nustatymus tvarkantį asmenį.
Apie išankstinio mokėjimo kreditų pirkimą žr. Išankstinio mokėjimo už API nustatymas ir valdymas.
Apie skirtingas išlaidų valdymo priemones žr. API išlaidų apribojimų vadovą.
Patikrinkite taikomus užklausų dažnio apribojimus
Organizacijos Apribojimų puslapyje peržiūrėkite dabartinį jos naudojimo lygį ir apribojimus.
Užklausų dažnio apribojimai gali būti taikomi organizacijos ir projekto lygmenimis. Tai nėra atskiriems naudotojams skirtos kvotos. Apribojimai taip pat skiriasi pagal modelį, o kai kurioms modelių šeimoms taikomas bendras apribojimas.
Patikrinkite, kurį apribojimą nurodo klaida. Pavyzdžiui, užklausų per minutę ir žetonų per minutę apribojimai yra atskiri. Vieną jų galite pasiekti neviršydami kito.
Patikrinkite, kurią organizaciją naudoja jūsų užklausa
Jei priklausote kelioms organizacijoms, patikrinkite, ar užklausose naudojama numatyta organizacija ir projektas.
Jei jūsų API raktui naudojama numatytoji organizacija, patikrinkite numatytosios organizacijos nustatymą. Skirtingoms organizacijoms gali būti taikomos skirtingos atsiskaitymo sąlygos ir naudojimo lygiai.
Sumažinkite laikinų užklausų dažnio ribojimo klaidų skaičių
Siųskite užklausas tolygiai ir venkite pliūpsnių
Paskirstykite užklausas per tam tikrą laiką, užuot siuntę daug jų vienu metu.
Užklausų dažnio apribojimai gali būti taikomi trumpesniais laikotarpiais nei rodomas intervalas. Pavyzdžiui, 60 užklausų per minutę apribojimas gali būti taikomas ir 1 sekundės laikotarpiais. Todėl trumpas pliūpsnis gali sukelti klaidą, net jei vidutinis naudojimas neviršija minutės apribojimo.
Ilgos užklausos ir be reikalo dideli išvesties žetonų limitai taip pat gali lemti žetonų dažnio klaidas.
Bandykite dar kartą po pauzės
Įvykus laikinoms užklausų dažnio ribojimo klaidoms:
Patikrinkite, ar atsake yra Retry-After antraštė.
Jei antraštėje nurodyta tinkama delsa, prieš bandydami dar kartą palaukite bent tiek laiko.
Jei antraštės nėra arba ji netinkama, naudokite eksponentinį delsos didinimą su atsitiktiniu nuokrypiu: po kiekvieno nesėkmingo bandymo didinkite delsą ir pridėkite trumpą atsitiktinę pauzę.
Apribokite ir pakartotinių bandymų skaičių, ir bendrą jiems skirtą laiką.
Oficialūs OpenAI SDK jau kartoja tinkamas užklausų dažnio ribojimo klaidas sukėlusias užklausas ir atsižvelgia į Retry-After, kai ši antraštė pateikiama. Prieš pridėdami kitą kartojimo ciklą, atsižvelkite į šiuos bandymus.
Nesėkmingos užklausos įskaičiuojamos į minutės apribojimus. Nuolat iš naujo siunčiant tą pačią užklausą, problema gali užsitęsti.
Diegimo rekomendacijų ir pavyzdžių rasite API užklausų dažnio ribojimo vadove. Prieš naudodami trečiosios šalies pakartotinių bandymų biblioteką savo programoje, ją įvertinkite.
Peržiūrėkite užklausos ir išvesties dydį
Pašalinkite iš užklausų nereikalingas instrukcijas, pasikartojantį kontekstą ir pavyzdžius. Išbandykite pakeistą užklausą ir įsitikinkite, kad ji vis dar pateikia reikiamą rezultatą.
Naudokite jūsų prieigos taško ir modelio palaikomą išvesties žetonų parametrą:
Chat Completions naudoja max_completion_tokens.
Responses naudoja max_output_tokens.
Nenustatykite gerokai didesnio limito, nei reikia užklausai. Šie parametrai apima ir protavimo žetonus, ir matomą išvestį, todėl naudodami protavimo modelį numatykite vietos abiem.
Peržiūrėkite savo naudojimo lygį
Jei sumažinus pliūpsnius ir peržiūrėjus žetonų naudojimą klaidos išlieka, Apribojimų puslapyje patikrinkite galimus būdus juos padidinti.
Didėjant API išlaidoms, OpenAI gali automatiškai perkelti organizaciją į aukštesnį naudojimo lygį. Paprastai tai padidina daugumai modelių taikomus užklausų dažnio apribojimus.
Patvirtintas mėnesio naudojimo apribojimas yra atskiras nuo užklausų ir žetonų dažnio apribojimų. Vieno apribojimo padidinimas nepatvirtina, kad pasikeitė ir kitas.
Jei problema išlieka
Prieš perduodami problemą aukštesnio lygio specialistams
Turėkite tikslų klaidos pranešimą, klaidos kodą, susijusių užklausų ID, klaidos laiką ir laiko juostą bei paskyroje rodomą atitinkamą apribojimą. Užsirašykite, kokius veiksmus jau išbandėte.
Susisiekite su OpenAI pagalbos tarnyba
Jei patikrinę nurodytą apribojimą negalite išspręsti problemos, susisiekite su OpenAI pagalbos tarnyba per Pagalbos centrą. Nesiųskite API raktų ar kitų slaptų autentifikavimo duomenų.