Pregled
Korištenje API-ja podliježe ograničenjima brzine. Ta ograničenja ograničavaju broj zahtjeva, tokena ili drugi oblik korištenja u određenom periodu.
Odgovor 429 može ukazivati na privremeno ograničenje brzine, potrošen unaprijed plaćeni saldo ili ograničenje potrošnje ili korištenja. Provjerite detalje greške prije ponovnog pokušaja ili promjene postavki naplate.
Utvrdite uzrok
Pročitajte poruku o grešci i error.code, ako je naveden. Greške povezane s naplatom i dalje mogu koristiti općenitiju vrijednost error.type: insufficient_quota.
| Greška ili kôd | Šta znači | Šta učiniti |
| Dosegnuto je ograničenje brzine za zahtjeve ili tokene | Zahtjevi premašuju primjenjivo ograničenje brzine. | Ravnomjerno rasporedite zahtjeve i slijedite upute za ponovne pokušaje u nastavku. |
| credit_balance_exhausted | Organizacija nema preostalih unaprijed plaćenih kredita. | Dodajte kredite u postavkama naplate za API. |
| organization_usage_limit_exceeded | Organizacija je dosegnula ograničenje korištenja koje je dodijelio OpenAI. | Zatražite odobrenje višeg ograničenja korištenja. |
| organization_spend_limit_exceeded | Organizacija je dosegnula primijenjeno ograničenje potrošnje. | Povećajte ili uklonite ograničenje ili sačekajte mjesečno poništavanje. |
| project_spend_limit_exceeded | Projekt je dosegnuo primijenjeno ograničenje potrošnje. | Povećajte ili uklonite ograničenje projekta ili sačekajte mjesečno poništavanje. |
Ponovni pokušaj nakon greške povezane s naplatom, potrošnjom ili kvotom neće vratiti pristup. Prvo riješite problem s prijavljenim saldom ili ograničenjem. Može proći određeno vrijeme prije nego što se primijene promjene ograničenja potrošnje.
Za promjenu ograničenja potrošnje potrebna je dozvola za upravljanje postavkama odgovarajuće organizacije ili projekta. Ako nemate pristup, obratite se osobi koja upravlja tim postavkama.
Informacije o kupovini unaprijed plaćenih kredita potražite ovdje: Postavljanje i upravljanje unaprijed plaćenom naplatom API-ja.
Informacije o različitim kontrolama potrošnje potražite u vodiču za ograničenja potrošnje API-ja.
Provjerite primjenjiva ograničenja brzine
Otvorite stranicu Ograničenja svoje organizacije kako biste pregledali njen trenutni nivo korištenja i ograničenja.
Ograničenja brzine mogu se primjenjivati na nivou organizacije i projekta. To nisu dopuštene količine za pojedinačne korisnike. Ograničenja se razlikuju i prema modelu, a neke porodice modela dijele isto ograničenje.
Provjerite koje je ograničenje navedeno u grešci. Naprimjer, broj zahtjeva u minuti i broj tokena u minuti zasebna su ograničenja. Možete dosegnuti jedno ograničenje, a ostati ispod drugog.
Potvrdite koju organizaciju koristi vaš zahtjev
Ako pripadate većem broju organizacija, potvrdite da vaši zahtjevi koriste željenu organizaciju i projekt.
Ako vaš API ključ koristi zadanu organizaciju, provjerite postavku zadane organizacije. Različite organizacije mogu imati različite načine naplate i nivoe korištenja.
Smanjite broj privremenih grešaka ograničenja brzine
Ravnomjerno rasporedite zahtjeve i izbjegavajte naglo slanje
Rasporedite zahtjeve tokom vremena umjesto da ih veliki broj šaljete odjednom.
Ograničenja brzine mogu se primjenjivati na periode kraće od prikazanog intervala. Naprimjer, ograničenje od 60 zahtjeva u minuti može se primjenjivati i na periode od jedne sekunde. Zato kratko naglo povećanje broja zahtjeva može izazvati grešku čak i ako je prosječno korištenje naizgled ispod ograničenja po minuti.
Dugi upiti i nepotrebno visoka ograničenja broja izlaznih tokena također mogu doprinijeti greškama ograničenja brzine tokena.
Pokušajte ponovo nakon odgode
Za privremene greške ograničenja brzine:
Provjerite postoji li zaglavlje odgovora Retry-After.
Ako zaglavlje sadrži važeće vrijeme odgode, sačekajte barem toliko prije ponovnog pokušaja.
Ako zaglavlje nedostaje ili nije važeće, koristite eksponencijalno povećavanje odgode uz nasumično odstupanje: povećajte odgodu nakon svakog neuspjelog pokušaja i dodajte kratku nasumičnu odgodu.
Ograničite i broj ponovnih pokušaja i ukupno vrijeme utrošeno na njih.
Zvanični OpenAI SDK-ovi već ponavljaju zahtjeve za odgovarajuće greške ograničenja brzine i poštuju Retry-After kada je prisutan. Uzmite te pokušaje u obzir prije dodavanja još jedne petlje za ponovno pokušavanje.
Neuspješni zahtjevi ubrajaju se u ograničenja po minuti. Neprestano ponovno slanje istog zahtjeva može produžiti problem.
Smjernice i primjere za implementaciju potražite u vodiču za ograničenja brzine API-ja. Pregledajte svaku biblioteku treće strane za ponovne pokušaje prije nego što je upotrijebite u svojoj aplikaciji.
Pregledajte veličinu upita i izlaza
Uklonite nepotrebne upute, ponovljeni kontekst i primjere iz svojih upita. Testirajte izmijenjeni upit kako biste potvrdili da i dalje daje potreban rezultat.
Koristite parametar izlaznih tokena koji podržavaju vaša krajnja tačka i model:
Chat Completions koristi max_completion_tokens.
Responses koristi max_output_tokens.
Nemojte postavljati znatno veće ograničenje nego što zahtjev nalaže. Ti parametri obuhvataju tokene rezonovanja i vidljivi izlaz, pa pri korištenju modela rezonovanja uzmite u obzir oboje.
Pregledajte svoj nivo korištenja
Ako se greške nastave nakon što smanjite naglo slanje zahtjeva i pregledate korištenje tokena, na stranici Ograničenja provjerite dostupne načine povećanja ograničenja.
Kako se potrošnja na API povećava, OpenAI može automatski prebaciti organizaciju na viši nivo korištenja. Time se obično povećavaju ograničenja brzine za većinu modela.
Vaše odobreno mjesečno ograničenje korištenja odvojeno je od ograničenja brzine zahtjeva i tokena. Povećanje jednog ne treba smatrati potvrdom da se promijenilo i drugo.
Ako se problem nastavi
Prije prosljeđivanja problema
Pripremite tačnu poruku o grešci, sve kodove grešaka, relevantne ID-ove zahtjeva, vrijeme greške s vašom vremenskom zonom i relevantno ograničenje prikazano na vašem računu. Zabilježite korake koje ste već isprobali.
Obratite se podršci OpenAI
Obratite se podršci OpenAI putem Centra za pomoć ako ne možete riješiti problem nakon provjere prijavljenog ograničenja. Nemojte navoditi API ključeve ni druge tajne podatke za autentifikaciju.