OpenAI
Ova stranica je mašinski prevedena. Pogledaj originalni članak na engleskom jeziku.

Rješavanje problema s ograničenjima brzine API-ja i greškama 429

Utvrdite uzrok API greške 429, smanjite naglo slanje zahtjeva i odaberite odgovarajući sljedeći korak za ograničenja brzine, kredita ili korištenja.

Ažurirano: 11 days ago

Pregled

Korištenje API-ja podliježe ograničenjima brzine. Ova ograničenja određuju dozvoljeni broj zahtjeva, tokena ili drugi obim korištenja tokom određenog perioda.

Odgovor 429 može ukazivati na privremeno ograničenje brzine, potrošena unaprijed uplaćena sredstva ili ograničenje potrošnje ili korištenja. Provjerite detalje greške prije ponovnog pokušaja ili promjene postavki naplate.

Utvrdite uzrok

Pročitajte poruku o grešci i vrijednost error.code, ako je navedena. Greške povezane s naplatom i dalje mogu imati općenitiju vrijednost insufficient_quota u polju error.type.

Greška ili kôdZnačenjeŠta učiniti
Dostignuto je ograničenje brzine za zahtjeve ili tokeneZahtjevi premašuju važeće ograničenje brzine.Rasporedite zahtjeve u vremenskim razmacima i slijedite upute za ponovne pokušaje u nastavku.
credit_balance_exhaustedOrganizaciji nije preostalo unaprijed plaćenih kredita.Dodajte kredite u postavkama naplate API-ja.
organization_usage_limit_exceededOrganizacija je dostigla ograničenje korištenja koje joj je dodijelio OpenAI.Zatražite odobrenje za više ograničenje korištenja.
organization_spend_limit_exceededOrganizacija je dostigla obavezujuće ograničenje potrošnje.Povećajte ili uklonite ograničenje ili sačekajte mjesečno resetiranje.
project_spend_limit_exceededProjekt je dostigao obavezujuće ograničenje potrošnje.Povećajte ili uklonite ograničenje projekta ili sačekajte mjesečno resetiranje.

Ponovni pokušaji nakon greške povezane s naplatom, potrošnjom ili kvotom ne vraćaju pristup. Prvo riješite prijavljeni problem sa stanjem sredstava ili ograničenjem. Može proći neko vrijeme prije nego što se primijene promjene obavezujućih ograničenja potrošnje.

Za promjenu ograničenja potrošnje potrebna je dozvola za upravljanje postavkama odgovarajuće organizacije ili projekta. Ako nemate pristup, obratite se osobi koja upravlja tim postavkama.

Za kupovinu unaprijed plaćenih kredita pogledajte: Postavljanje i upravljanje unaprijed plaćenom naplatom API-ja.

Informacije o različitim načinima kontrole potrošnje potražite u vodiču za ograničenja potrošnje API-ja.

Provjerite važeća ograničenja brzine

Otvorite stranicu Ograničenja svoje organizacije da biste pregledali njen trenutni nivo korištenja i ograničenja.

Ograničenja brzine mogu se primjenjivati na nivou organizacije i projekta. Ne predstavljaju zasebne kvote za pojedinačne korisnike. Ograničenja se razlikuju i po modelu, a neke porodice modela dijele isto ograničenje.

Provjerite na koje ograničenje ukazuje greška. Naprimjer, broj zahtjeva u minuti i broj tokena u minuti zasebna su ograničenja. Možete dostići jedno, a da i dalje ostanete ispod drugog.

Provjerite ograničenja API-ja za generiranje slike

Ograničenja brzine API-ja za generiranje slike zavise od modela i vašeg nivoa korištenja. Odaberite svoj model na stranici s modelima da biste vidjeli njegova ograničenja.

Upute za postavljanje potražite u vodiču za programere za generiranje slike. Više o nivoima korištenja potražite u vodiču za ograničenja brzine API-ja.

Provjerite koju organizaciju koristi vaš zahtjev

Ako pripadate većem broju organizacija, provjerite da li vaši zahtjevi koriste željenu organizaciju i projekt.

Ako vaš API ključ koristi zadanu organizaciju, provjerite postavku zadane organizacije. Različite organizacije mogu imati različite uslove naplate i nivoe korištenja.

Smanjite broj privremenih grešaka zbog ograničenja brzine

Rasporedite zahtjeve i izbjegavajte nagle skokove

Rasporedite zahtjeve tokom vremena umjesto da šaljete veliki broj odjednom.

Ograničenja brzine mogu se primjenjivati na periode kraće od prikazanog intervala. Naprimjer, ograničenje od 60 zahtjeva u minuti može se primjenjivati i na periode od jedne sekunde. Zato kratak skok broja zahtjeva može izazvati grešku čak i ako se čini da je vaše prosječno korištenje ispod ograničenja po minuti.

Dugi upiti i nepotrebno velik dozvoljeni broj izlaznih tokena također mogu doprinijeti greškama zbog ograničenja brzine tokena.

Sačekajte prije ponovnog pokušaja

Kod privremenih grešaka zbog ograničenja brzine:

  1. Provjerite sadrži li odgovor zaglavlje Retry-After.

  2. Ako zaglavlje sadrži važeće vrijeme čekanja, sačekajte barem toliko prije ponovnog pokušaja.

  3. Ako zaglavlje nedostaje ili nije važeće, koristite eksponencijalno povećanje vremena čekanja uz nasumično odstupanje: nakon svakog neuspjelog pokušaja povećajte vrijeme čekanja i dodajte kratku nasumičnu odgodu.

  4. Ograničite i broj ponovnih pokušaja i ukupno vrijeme utrošeno na njih.

Službeni OpenAI SDK-ovi već ponavljaju zahtjeve kod odgovarajućih grešaka zbog ograničenja brzine i poštuju Retry-After kada je prisutan. Uzmite te ponovne pokušaje u obzir prije dodavanja još jedne petlje za ponovne pokušaje.

I neuspjeli zahtjevi uračunavaju se u ograničenja po minuti. Neprekidno ponovno slanje istog zahtjeva može produžiti trajanje problema.

Upute za implementaciju i primjere potražite u vodiču za ograničenja brzine API-ja. Provjerite svaku biblioteku treće strane za ponovne pokušaje prije nego što je upotrijebite u svojoj aplikaciji.

Provjerite dužinu upita i izlaza

Iz upita uklonite nepotrebne upute, ponovljeni kontekst i primjere. Testirajte izmijenjeni upit da biste potvrdili da i dalje daje potreban rezultat.

Koristite parametar za izlazne tokene koji podržavaju vaša krajnja tačka i model:

  • Chat Completions koristi max_completion_tokens.

  • Responses koristi max_output_tokens.

Nemojte postavljati mnogo veći dozvoljeni broj tokena nego što zahtjev iziskuje. Ovi parametri obuhvataju i tokene rezonovanja i vidljivi izlaz, pa pri korištenju modela rezonovanja ostavite dovoljno prostora za oboje.

Provjerite svoj nivo korištenja

Ako se greške nastave nakon što smanjite nagle skokove broja zahtjeva i provjerite korištenje tokena, na stranici Ograničenja provjerite dostupne načine za povećanje ograničenja.

Plaćeni nivo korištenja vaše organizacije automatski se podiže kada ukupna kupovina kredita dostigne pragove za nivoe Build, Launch i Grow. Viši nivoi uglavnom omogućavaju viša ograničenja brzine. Uslove za pojedine nivoe potražite u vodiču za ograničenja brzine API-ja.

Vaše odobreno mjesečno ograničenje korištenja odvojeno je od ograničenja brzine za zahtjeve i tokene. Povećanje jednog ne treba smatrati potvrdom da se promijenilo i drugo.

Ako se problem nastavi

Prije obraćanja podršci

Pripremite tačan tekst poruke o grešci, kôd greške ako postoji, ID-ove relevantnih zahtjeva, vrijeme nastanka greške s vremenskom zonom i odgovarajuće ograničenje prikazano na vašem računu. Zabilježite korake koje ste već pokušali.

Kontaktirajte OpenAI podršku

Kontaktirajte OpenAI podršku putem Centra za pomoć ako ne možete riješiti problem nakon provjere prijavljenog ograničenja. Nemojte navoditi API ključeve ni druge tajne podatke za autentifikaciju.

Da li je ovaj članak bio koristan?