Apžvalga
Naudojantis API taikomi užklausų dažnio ribojimai. Jais ribojamas užklausų, žetonų ar kitų naudojimo vienetų skaičius per nustatytą laikotarpį.
Atsakymas su kodu 429 gali reikšti laikiną užklausų dažnio ribojimą, išnaudotą išankstinio mokėjimo likutį arba pasiektą išlaidų ar naudojimo limitą. Prieš bandydami dar kartą ar keisdami atsiskaitymo nustatymus, patikrinkite išsamią klaidos informaciją.
Nustatykite priežastį
Perskaitykite klaidos pranešimą ir error.code reikšmę, jei ji pateikta. Su atsiskaitymu susijusių klaidų error.type reikšmė vis tiek gali būti bendresnė – insufficient_quota.
| Klaida arba kodas | Ką tai reiškia | Ką daryti |
| Pasiekta užklausų arba žetonų dažnio ribojimo riba | Užklausos viršija taikomą užklausų dažnio ribojimo ribą. | Siųskite užklausas tolygiau ir laikykitės toliau pateiktų kartojimo rekomendacijų. |
| credit_balance_exhausted | Organizacijai nebeliko iš anksto apmokėtų kreditų. | Papildykite kreditų likutį API atsiskaitymo nustatymuose. |
| organization_usage_limit_exceeded | Organizacija pasiekė OpenAI jai nustatytą naudojimo limitą. | Pateikite prašymą patvirtinti didesnį naudojimo limitą. |
| organization_spend_limit_exceeded | Organizacija pasiekė jai taikomą griežtą išlaidų limitą. | Padidinkite arba panaikinkite limitą arba palaukite, kol prasidės naujas mėnesio apskaitos laikotarpis. |
| project_spend_limit_exceeded | Projektas pasiekė jam taikomą griežtą išlaidų limitą. | Padidinkite arba panaikinkite projekto limitą arba palaukite, kol prasidės naujas mėnesio apskaitos laikotarpis. |
Pakartotinai siunčiant užklausą po atsiskaitymo, išlaidų ar kvotos klaidos, prieiga neatkuriama. Pirmiausia išspręskite nurodytą likučio ar limito problemą. Griežtų išlaidų limitų pakeitimai gali įsigalioti ne iš karto.
Norint pakeisti išlaidų limitą, reikia turėti teisę valdyti atitinkamos organizacijos ar projekto nustatymus. Jei neturite prieigos, kreipkitės į šiuos nustatymus valdantį asmenį.
Apie iš anksto apmokėtų kreditų įsigijimą skaitykite straipsnyje Išankstinio mokėjimo už API nustatymas ir valdymas.
Apie įvairias išlaidų valdymo priemones skaitykite API išlaidų limitų vadove.
Patikrinkite taikomus užklausų dažnio ribojimus
Atverkite savo organizacijos limitų puslapį ir peržiūrėkite dabartinę naudojimo pakopą bei limitus.
Užklausų dažnio ribojimai gali būti taikomi organizacijos ir projekto lygmenimis. Tai nėra atskiriems naudotojams skirti limitai. Limitai taip pat skiriasi priklausomai nuo modelio, o kai kurioms modelių šeimoms taikomas bendras limitas.
Patikrinkite, kuris limitas nurodytas klaidos pranešime. Pavyzdžiui, užklausų per minutę ir žetonų per minutę limitai yra atskiri. Galite pasiekti vieną limitą dar nepasiekę kito.
Patikrinkite vaizdų generavimo API limitus
Vaizdų generavimo API užklausų dažnio ribojimai priklauso nuo modelio ir jūsų naudojimo pakopos. Modelių puslapyje pasirinkite savo modelį, kad pamatytumėte jam taikomus limitus.
Sąrankos instrukcijas rasite vaizdų generavimo vadove kūrėjams. Daugiau apie naudojimo pakopas sužinosite API užklausų dažnio ribojimo vadove.
Patikrinkite, kurios organizacijos vardu siunčiama užklausa
Jei priklausote kelioms organizacijoms, įsitikinkite, kad užklausose nurodyta reikiama organizacija ir projektas.
Jei jūsų API raktas naudoja numatytąją organizaciją, patikrinkite numatytosios organizacijos nustatymą. Skirtingoms organizacijoms gali būti taikomos skirtingos atsiskaitymo sąlygos ir naudojimo pakopos.
Sumažinkite laikinų užklausų dažnio ribojimo klaidų skaičių
Siųskite užklausas tolygiai ir venkite srauto šuolių
Paskirstykite užklausas laike, užuot siuntę daug jų vienu metu.
Užklausų dažnio ribojimai gali būti taikomi ir trumpesniems laikotarpiams nei rodomas intervalas. Pavyzdžiui, 60 užklausų per minutę limitas gali būti taikomas ir skaičiuojant užklausas 1 sekundės intervalais. Todėl trumpas srauto šuolis gali sukelti klaidą, net jei vidutinis naudojimas atrodo mažesnis už minutės limitą.
Ilgos užklausos ir be reikalo dideli išvesties žetonų limitai taip pat gali prisidėti prie žetonų dažnio ribojimo klaidų.
Prieš bandydami dar kartą, palaukite
Jei įvyksta laikina užklausų dažnio ribojimo klaida:
Patikrinkite, ar atsakyme yra antraštė Retry-After.
Jei antraštėje nurodyta tinkama laukimo trukmė, prieš bandydami dar kartą palaukite bent tiek laiko.
Jei antraštės nėra arba ji netinkama, eksponentiškai ilginkite laukimo trukmę su atsitiktiniu nuokrypiu: po kiekvieno nesėkmingo bandymo ilginkite laukimo laiką ir pridėkite nedidelę atsitiktinę delsą.
Apribokite ir pakartotinių bandymų skaičių, ir bendrą jiems skirtą laiką.
Oficialūs OpenAI SDK jau automatiškai kartoja užklausas po atitinkamų užklausų dažnio ribojimo klaidų ir paiso Retry-After antraštės, jei ji yra. Prieš pridėdami dar vieną kartojimo ciklą, atsižvelkite į šiuos pakartotinius bandymus.
Nesėkmingos užklausos taip pat įskaičiuojamos į minutės limitus. Nuolat siunčiant tą pačią užklausą, problema gali užsitęsti.
Įgyvendinimo rekomendacijas ir pavyzdžius rasite API užklausų dažnio ribojimo vadove. Prieš naudodami trečiosios šalies užklausų kartojimo biblioteką savo programoje, ją įvertinkite.
Peržiūrėkite užklausos ir išvesties apimtį
Pašalinkite iš užklausų nereikalingas instrukcijas, pasikartojantį kontekstą ir pavyzdžius. Išbandykite pakoreguotą užklausą ir įsitikinkite, kad ji vis dar duoda reikiamą rezultatą.
Naudokite jūsų prieigos taško ir modelio palaikomą išvesties žetonų parametrą:
Chat Completions naudoja max_completion_tokens.
Responses naudoja max_output_tokens.
Nenustatykite gerokai didesnio limito, nei reikia užklausai. Į šių parametrų ribojamą kiekį įtraukiami ir protavimo, ir matomos išvesties žetonai, todėl naudodami protavimo modelį numatykite pakankamą kiekį abiem.
Peržiūrėkite savo naudojimo pakopą
Jei sumažinus srauto šuolius ir peržiūrėjus žetonų naudojimą klaidos kartojasi, limitų puslapyje patikrinkite, kokiais būdais galite padidinti limitus.
Jūsų organizacijos mokamo naudojimo pakopa automatiškai pakeliama, kai bendra įsigytų kreditų suma pasiekia „Build“, „Launch“ ir „Grow“ pakopų slenksčius. Aukštesnėse pakopose užklausų dažnio ribojimai paprastai leidžia didesnį srautą. Pakopų reikalavimus rasite API užklausų dažnio ribojimo vadove.
Jums patvirtintas mėnesio naudojimo limitas yra atskiras nuo užklausų ir žetonų dažnio ribojimų. Vieno limito padidinimas nereiškia, kad pasikeitė ir kitas.
Jei problema išlieka
Prieš kreipdamiesi pagalbos
Pasiruoškite tikslų klaidos pranešimą, klaidos kodą, jei jis yra, susijusių užklausų ID, klaidos laiką su laiko juosta ir atitinkamą paskyroje rodomą limitą. Užsirašykite, kokius veiksmus jau išbandėte.
Susisiekite su OpenAI pagalbos komanda
Jei patikrinę nurodytą limitą negalite išspręsti problemos, per Pagalbos centrą susisiekite su OpenAI pagalbos komanda. Nepateikite API raktų ar kitų slaptų autentifikavimo duomenų.