OpenAI
See leht on masintõlgitud. Vaadake algset ingliskeelset artiklit.

API kiiruse piirangute ja tõrgete 429 veaotsing

Tuvastage API tõrke 429 põhjus, vähendage päringupuhanguid ja valige kiiruse, krediidi- või kasutuspiirangu jaoks õige järgmine samm.

Värskendatud: 5 days ago

Ülevaade

API kasutamisele kehtivad kiiruse piirangud. Need piiravad päringute ja tokenite arvu või muud kasutust kindla ajavahemiku jooksul.

Vastus koodiga 429 võib viidata ajutisele kiiruse piirangule, ettemaksujäägi ammendumisele või kulu- või kasutuslimiidile. Enne uuesti proovimist või arveldusseadete muutmist kontrolli vea üksikasju.

Selgita välja põhjus

Loe veateadet ja välja error.code väärtust, kui see on esitatud. Arveldusega seotud vigade puhul võib välja error.type väärtus endiselt olla üldisem insufficient_quota.

Viga või koodMida see tähendabMida teha
Päringute või tokenite kiiruse piirang on saavutatudPäringud ületavad kehtivat kiiruse piirangut.Hajuta päringud ajas ja järgi allolevaid korduskatsete juhiseid.
credit_balance_exhaustedOrganisatsioonil ei ole enam ettemakstud krediite.Lisa krediite API arveldusseadetes.
organization_usage_limit_exceededOrganisatsioon on saavutanud OpenAI määratud kasutuslimiidi.Taotle kinnitatud kasutuslimiidi suurendamist.
organization_spend_limit_exceededOrganisatsioon on saavutanud oma jõustatud kululimiidi.Suurenda limiiti või eemalda see või oota igakuist lähtestamist.
project_spend_limit_exceededProjekt on saavutanud oma jõustatud kululimiidi.Suurenda projekti limiiti või eemalda see või oota igakuist lähtestamist.

Arvelduse, kulude või kvoodiga seotud vea korral ei taasta uuesti proovimine juurdepääsu. Lahenda esmalt teates osutatud saldo või limiidi probleem. Jõustatud kululimiitide muudatuste rakendumine võib aega võtta.

Kululimiidi muutmiseks peab sul olema õigus hallata vastava organisatsiooni või projekti seadeid. Kui sul pole juurdepääsu, pöördu nende seadete haldaja poole.

Teavet ettemakstud krediitide ostmise kohta leiad artiklist API ettemaksuga arvelduse seadistamine ja haldamine.

Kulude piiramise eri võimaluste kohta leiad teavet API kululimiitide juhendist.

Kontrolli kehtivaid kiiruse piiranguid

Ava oma organisatsiooni limiitide leht, et vaadata selle praegust kasutustaset ja limiite.

Kiiruse piirangud võivad kehtida organisatsiooni ja projekti tasandil. Need ei ole kasutajapõhised limiidid. Piirangud erinevad ka mudeliti ning mõnel mudeliperel on ühine piirang.

Kontrolli, millisele piirangule veateade viitab. Näiteks päringute arvule minutis ja tokenite arvule minutis kehtivad eraldi piirangud. Võid saavutada ühe piiri, jäädes samal ajal teisest allapoole.

Kontrolli pildi genereerimise API piiranguid

Pildi genereerimise API kiiruse piirangud sõltuvad mudelist ja sinu kasutustasemest. Vali mudelite lehel oma mudel, et näha selle piiranguid.

Seadistusjuhised leiad pildi genereerimise arendajajuhendist. Lisateavet kasutustasemete kohta leiad API kiiruse piirangute juhendist.

Kontrolli, millist organisatsiooni sinu päring kasutab

Kui kuulud mitmesse organisatsiooni, veendu, et sinu päringud kasutaksid soovitud organisatsiooni ja projekti.

Kui sinu API-võti kasutab vaikeorganisatsiooni, kontrolli vaikeorganisatsiooni seadet. Eri organisatsioonidel võivad olla erinevad arveldustingimused ja kasutustasemed.

Vähenda ajutisi kiiruse piirangu vigu

Hajuta päringud ajas ja väldi koormustippe

Jaota päringud ajas ühtlaselt, selle asemel et saata korraga suur hulk päringuid.

Kiiruse piiranguid võidakse jõustada kuvatud ajavahemikust lühemate perioodide kaupa. Näiteks 60 päringu piirangut minutis võidakse jõustada ka 1-sekundiliste perioodide kaupa. Lühike koormustipp võib seega põhjustada vea isegi siis, kui keskmine kasutus näib jäävat alla minutilimiidi.

Pikad viibad ja tarbetult suured väljundtokenite limiidid võivad samuti põhjustada tokenite kiiruse piirangu vigu.

Oota enne uuesti proovimist

Ajutiste kiiruse piirangu vigade korral:

  1. Kontrolli, kas vastus sisaldab päist Retry-After.

  2. Kui päis sisaldab kehtivat ooteaega, oota enne uuesti proovimist vähemalt nii kaua.

  3. Kui päis puudub või on vigane, kasuta eksponentsiaalselt kasvavat ooteaega koos juhusliku kõikumisega: pikenda ooteaega pärast iga ebaõnnestunud katset ja lisa väike juhuslik viivitus.

  4. Piira nii korduskatsete arvu kui ka neile kuluvat koguaega.

OpenAI ametlikud SDK-d proovivad korduskatset lubavate kiiruse piirangu vigade korral juba ise uuesti ja arvestavad päisega Retry-After, kui see on olemas. Arvesta nende korduskatsetega enne uue korduskatsete tsükli lisamist.

Ka ebaõnnestunud päringud lähevad minutilimiitide arvestusse. Sama päringu pidev uuesti saatmine võib probleemi kestust pikendada.

Rakendusjuhised ja näited leiad API kiiruse piirangute juhendist. Enne kolmanda osapoole korduskatsete teegi kasutamist oma rakenduses tutvu selle toimimisega.

Vaata üle viiba ja väljundi pikkus

Eemalda viipadest tarbetud juhised, korduv kontekst ja ebavajalikud näited. Katseta muudetud viipa, et veenduda, kas see annab endiselt vajaliku tulemuse.

Kasuta väljundtokenite parameetrit, mida sinu lõpp-punkt ja mudel toetavad:

  • Chat Completions kasutab parameetrit max_completion_tokens.

  • Responses kasutab parameetrit max_output_tokens.

Ära määra päringu vajadusest palju suuremat limiiti. Need parameetrid hõlmavad nii arutlustokeneid kui ka nähtavat väljundit, seega jäta arutlusmudeli kasutamisel ruumi mõlemale.

Vaata üle oma kasutustase

Kui vead jätkuvad ka pärast koormustippude vähendamist ja tokenikasutuse ülevaatamist, vaata limiitide lehelt, millised võimalused on limiitide suurendamiseks.

Sinu organisatsiooni tasuline kasutustase tõuseb automaatselt, kui krediidiostude kogusumma jõuab tasemete Build, Launch ja Grow lävenditeni. Kõrgematel tasemetel on kiiruse piirangud üldiselt leebemad. Tasemete nõuded leiad API kiiruse piirangute juhendist.

Sinu kinnitatud igakuine kasutuslimiit on päringute ja tokenite kiiruse piirangutest eraldiseisev. Ühe suurendamine ei tähenda, et ka teine oleks muutunud.

Kui probleem püsib

Enne toe poole pöördumist

Hoia käepärast täpne veateade, veakood (kui see on olemas), asjakohaste päringute ID-d, vea tekkimise aeg koos ajavööndiga ja sinu kontol kuvatav vastav limiit. Pane kirja, mida oled juba proovinud.

Võta ühendust OpenAI toega

Kui probleem ei lahene pärast teates osutatud limiidi kontrollimist, võta Abikeskuse kaudu ühendust OpenAI toega. Ära lisa API-võtmeid ega muid salajasi autentimisandmeid.

Kas sellest artiklist oli abi?