OpenAI
Tämä sivu on konekäännetty. Katso alkuperäinen englanninkielinen artikkeli.

API:n pyyntörajojen ja 429-virheiden vianmääritys

Selvitä API:n 429-virheen syy, vähennä pyyntöryöppyjä ja valitse sopiva ratkaisu pyyntö-, krediitti- tai käyttörajoihin.

Päivitetty: 12 days ago

Yleiskatsaus

API:n käyttöön sovelletaan pyyntörajoja. Ne rajoittavat pyyntöjen, tokenien tai muun käytön määrää tietyllä aikavälillä.

429-vastaus voi tarkoittaa tilapäistä pyyntörajoitusta, ennakkoon maksetun saldon loppumista tai kulutus- tai käyttörajan täyttymistä. Tarkista virheen tiedot ennen kuin yrität uudelleen tai muutat laskutusasetuksia.

Selvitä syy

Lue virheilmoitus ja error.code-arvo, jos se on annettu. Laskutukseen liittyvissä virheissä error.type-arvona voi silti olla yleisempi insufficient_quota.

Virhe tai koodiMerkitysToimintaohje
Pyyntöjen tai tokenien pyyntöraja saavutettuPyynnöt ylittävät niihin sovellettavan pyyntörajan.Lähetä pyyntöjä tasaisemmin ja noudata alla olevia uudelleenyritysohjeita.
credit_balance_exhaustedOrganisaatiolla ei ole enää ennakkoon maksettuja krediittejä.Lisää krediittejä API:n laskutusasetuksissa.
organization_usage_limit_exceededOrganisaatio on saavuttanut OpenAI:n sille asettaman käyttörajan.Pyydä käyttörajan korotusta.
organization_spend_limit_exceededOrganisaatio on saavuttanut käytön estävän kulutusrajansa.Nosta rajaa, poista se tai odota kuukausittaista nollausta.
project_spend_limit_exceededProjekti on saavuttanut käytön estävän kulutusrajansa.Nosta projektin rajaa, poista se tai odota kuukausittaista nollausta.

Uudelleen yrittäminen laskutus-, kulutus- tai kiintiövirheen jälkeen ei palauta käyttömahdollisuutta. Korjaa ensin ilmoitettu saldoon tai rajaan liittyvä ongelma. Käytön estävien kulutusrajojen muutosten voimaantulo voi kestää jonkin aikaa.

Kulutusrajan muuttaminen edellyttää oikeutta hallita kyseisen organisaation tai projektin asetuksia. Jos sinulla ei ole tarvittavia oikeuksia, pyydä apua näitä asetuksia hallinnoivalta henkilöltä.

Lisätietoja krediittien ostamisesta ennakkoon: Ennakkoon maksettavan API-laskutuksen käyttöönotto ja hallinta.

Lisätietoja kulutuksen eri hallintakeinoista on API:n kulutusrajojen oppaassa.

Tarkista sovellettavat pyyntörajat

Tarkista organisaatiosi nykyinen käyttötaso ja rajat sen Rajat-sivulta.

Pyyntörajoja voidaan soveltaa sekä organisaatio- että projektitasolla. Ne eivät ole käyttäjäkohtaisia kiintiöitä. Rajat vaihtelevat myös malleittain, ja joillakin malliperheillä on yhteinen raja.

Tarkista, mihin rajaan virheilmoitus viittaa. Esimerkiksi pyyntöjen ja tokenien minuuttikohtaisilla määrillä on erilliset rajat. Voit saavuttaa toisen rajan, vaikka jäisit toisen alle.

Tarkista kuvan luonnin API:n rajat

Kuvan luonnin API:n pyyntörajat riippuvat mallista ja käyttötasostasi. Näet mallisi rajat valitsemalla sen mallisivulta.

Käyttöönotto-ohjeet ovat kuvan luonnin kehittäjäoppaassa. Lisätietoja käyttötasoista on API:n pyyntörajojen oppaassa.

Varmista, mitä organisaatiota pyyntösi käyttää

Jos kuulut useaan organisaatioon, varmista, että pyyntösi käyttävät haluamaasi organisaatiota ja projektia.

Jos API-avaimesi käyttää oletusorganisaatiota, tarkista oletusorganisaation asetus. Eri organisaatioilla voi olla erilaiset laskutusjärjestelyt ja käyttötasot.

Vähennä tilapäisiä pyyntorajavirheitä

Lähetä pyyntöjä tasaisesti ja vältä piikkejä

Jaa pyynnöt pidemmälle aikavälille sen sijaan, että lähettäisit suuren määrän kerralla.

Pyyntörajoja voidaan valvoa ilmoitettua aikaväliä lyhyemmissä jaksoissa. Esimerkiksi 60 pyynnön minuuttirajaa voidaan valvoa myös yhden sekunnin jaksoissa. Lyhyt pyyntöpiikki voi siksi aiheuttaa virheen, vaikka keskimääräinen käyttösi näyttäisi jäävän minuuttikohtaisen rajan alle.

Myös pitkät kehotteet ja tulosteen tokenien tarpeettoman suuret enimmäismäärät voivat johtaa tokenien pyyntorajavirheisiin.

Odota ennen uutta yritystä

Tilapäisten pyyntorajavirheiden yhteydessä:

  1. Tarkista, sisältääkö vastaus Retry-After-otsakkeen.

  2. Jos otsake sisältää kelvollisen odotusajan, odota vähintään sen verran ennen uutta yritystä.

  3. Jos otsake puuttuu tai on virheellinen, käytä eksponentiaalista viivettä ja satunnaisvaihtelua: kasvata odotusaikaa jokaisen epäonnistuneen yrityksen jälkeen ja lisää siihen pieni satunnainen viive.

  4. Rajoita sekä uusintayritysten määrää että niihin käytettyä kokonaisaikaa.

OpenAI:n viralliset SDK:t yrittävät jo automaattisesti uudelleen soveltuvien pyyntorajavirheiden yhteydessä ja noudattavat Retry-After-otsaketta, jos se on mukana. Ota nämä uusintayritykset huomioon ennen kuin lisäät oman uudelleenyrityssilmukan.

Myös epäonnistuneet pyynnöt lasketaan minuuttikohtaisiin rajoihin. Saman pyynnön jatkuva lähettäminen uudelleen voi pitkittää ongelmaa.

Toteutusohjeita ja esimerkkejä on API:n pyyntörajojen oppaassa. Arvioi kolmannen osapuolen uudelleenyrityskirjasto ennen sen käyttöönottoa sovelluksessasi.

Tarkista kehotteen ja tulosteen pituus

Poista kehotteistasi tarpeettomat ohjeet, toistuvat taustatiedot ja esimerkit. Testaa muokattua kehotetta ja varmista, että se tuottaa edelleen tarvitsemasi tuloksen.

Käytä endpointisi ja mallisi tukemaa tulosteen tokenmäärän parametria:

  • Chat Completions käyttää parametria max_completion_tokens.

  • Responses käyttää parametria max_output_tokens.

Älä aseta enimmäismäärää paljon suuremmaksi kuin pyyntö edellyttää. Nämä parametrit kattavat sekä päättelytokenit että näkyvän tulosteen, joten varaa tilaa molemmille, kun käytät päättelymallia.

Tarkista käyttötasosi

Jos virheet jatkuvat pyyntöpiikkien vähentämisen ja tokenien käytön tarkistamisen jälkeen, katso Rajat-sivulta, miten voit korottaa rajojasi.

Organisaatiosi maksullinen käyttötaso nousee automaattisesti, kun sen krediittiostojen yhteissumma saavuttaa Build-, Launch- ja Grow-tasojen kynnysarvot. Korkeammilla tasoilla pyyntörajat ovat yleensä suuremmat. Tasojen vaatimukset ovat API:n pyyntörajojen oppaassa.

Hyväksytty kuukausittainen käyttörajasi on erillinen pyyntöjen ja tokenien pyyntörajoista. Yhden rajan korottaminen ei tarkoita, että myös toinen olisi muuttunut.

Jos ongelma jatkuu

Ennen yhteydenottoa tukeen

Pidä saatavilla tarkka virheilmoitus, mahdollinen virhekoodi, asiaan liittyvien pyyntöjen tunnisteet, virheen ajankohta aikavyöhykkeineen sekä tililläsi näkyvä kyseinen raja. Kirjaa ylös, mitä olet jo kokeillut.

Ota yhteyttä OpenAI:n tukeen

Ota yhteyttä OpenAI:n tukeen ohjekeskuksen kautta, jos et saa ongelmaa ratkaistua tarkistettuasi ilmoitetun rajan. Älä liitä mukaan API-avaimia tai muita salaisia todennustietoja.

Oliko tästä artikkelista apua?