OpenAI
Din il-paġna ġiet tradotta awtomatikament bl-IA. Ara l-artiklu oriġinali bl-Ingliż.

Soluzzjoni tal-problemi bil-limiti tal-veloċità tal-API u l-iżbalji 429

Identifika l-kawża ta’ żball 429 tal-API, naqqas il-volumi f’daqqa ta’ talbiet, u agħżel il-pass xieraq għal-limiti tal-veloċità, tal-krediti jew tal-użu.

Aġġornat: 17 days ago

Ħarsa ġenerali

L-użu tal-API huwa soġġett għal-limiti tal-veloċità. Dawn il-limiti jirrestrinġu t-talbiet, it-tokens jew użu ieħor matul perjodu speċifikat.

Rispons 429 jista’ jindika limitu temporanju tal-veloċità, bilanċ imħallas minn qabel li ntuża kollu, jew limitu tal-infiq jew tal-użu. Iċċekkja d-dettalji tal-iżball qabel terġa’ tipprova jew tibdel is-settings tal-fatturazzjoni.

Identifika l-kawża

Aqra l-messaġġ tal-iżball u error.code, meta dan jingħata. Żbalji relatati mal-fatturazzjoni xorta jistgħu jużaw il-valur usa’ insufficient_quota għal error.type.

Żball jew kodiċiXi jfisserX’għandek tagħmel
Intlaħaq il-limitu tal-veloċità għat-talbiet jew it-tokensIt-talbiet qed jaqbżu limitu tal-veloċità applikabbli.Qassam it-talbiet tul iż-żmien u segwi l-gwida hawn taħt biex terġa’ tipprova.
credit_balance_exhaustedL-organizzazzjoni ma fadlilha l-ebda krediti mħallsa minn qabel.Żid il-krediti fis-settings tal-fatturazzjoni tal-API tiegħek.
organization_usage_limit_exceededL-organizzazzjoni laħqet il-limitu tal-użu assenjat minn OpenAI.Itlob limitu tal-użu approvat ogħla.
organization_spend_limit_exceededL-organizzazzjoni laħqet il-limitu obbligatorju tal-infiq tagħha.Żid jew neħħi l-limitu, jew stenna li jerġa’ jiġi ssettjat kull xahar.
project_spend_limit_exceededIl-proġett laħaq il-limitu obbligatorju tal-infiq tiegħu.Żid jew neħħi l-limitu tal-proġett, jew stenna li jerġa’ jiġi ssettjat kull xahar.

Jekk terġa’ tipprova wara żball fil-fatturazzjoni, fl-infiq jew fil-kwota, l-aċċess ma jiġix restawrat. L-ewwel indirizza l-bilanċ jew il-limitu rrappurtat. Il-bidliet fil-limiti obbligatorji tal-infiq jistgħu jieħdu ż-żmien biex jiġu applikati.

Biex tibdel limitu tal-infiq, teħtieġ permess biex timmaniġġja s-settings tal-organizzazzjoni jew tal-proġett rilevanti. Jekk m’għandekx aċċess, staqsi lill-persuna li timmaniġġja dawk is-settings.

Għax-xiri ta’ krediti mħallsa minn qabel, ara: Kif tikkonfigura u timmaniġġja l-fatturazzjoni mħallsa minn qabel tal-API.

Għall-kontrolli differenti tal-infiq, ara l-gwida dwar il-limiti tal-infiq tal-API.

Iċċekkja l-limiti tal-veloċità applikabbli

Mur fil-paġna Limiti tal-organizzazzjoni tiegħek biex tirrevedi l-livell ta’ użu u l-limiti attwali tagħha.

Il-limiti tal-veloċità jistgħu japplikaw fil-livelli tal-organizzazzjoni u tal-proġett. Dawn mhumiex kwoti għal utenti individwali. Il-limiti jvarjaw ukoll skont il-mudell, u xi familji ta’ mudelli jaqsmu l-istess limitu.

Iċċekkja liema limitu jidentifika l-iżball. Pereżempju, it-talbiet kull minuta u t-tokens kull minuta għandhom limiti separati. Tista’ tilħaq wieħed waqt li tibqa’ taħt l-ieħor.

Ikkonferma l-organizzazzjoni użata mit-talba tiegħek

Jekk tagħmel parti minn diversi organizzazzjonijiet, ikkonferma li t-talbiet tiegħek jużaw l-organizzazzjoni u l-proġett maħsuba.

Meta ċ-ċavetta tal-API tiegħek tuża organizzazzjoni predefinita, iċċekkja s-setting tal-organizzazzjoni predefinita tiegħek. Organizzazzjonijiet differenti jista’ jkollhom arranġamenti tal-fatturazzjoni u livelli ta’ użu differenti.

Naqqas l-iżbalji temporanji tal-limitu tal-veloċità

Qassam it-talbiet tul iż-żmien u evita volumi f’daqqa

Qassam it-talbiet tul iż-żmien minflok tibgħat għadd kbir f’daqqa.

Il-limiti tal-veloċità jistgħu jiġu infurzati fuq perjodi iqsar mill-intervall muri. Pereżempju, limitu ta’ 60 talba kull minuta jista’ jiġi infurzat ukoll fuq perjodi ta’ sekonda. Għalhekk, volum kbir f’daqqa jista’ jikkawża żball anki jekk l-użu medju tiegħek jidher taħt il-limitu għal kull minuta.

Prompts twal u kwoti kbar bla bżonn għat-tokens tal-output jistgħu jikkontribwixxu wkoll għal żbalji fil-veloċità tat-tokens.

Erġa’ pprova wara dewmien

Għal żbalji temporanji tal-limitu tal-veloċità:

  1. Iċċekkja jekk hemmx header tar-rispons Retry-After.

  2. Jekk il-header fih dewmien validu, stenna mill-inqas dak il-ħin qabel terġa’ tipprova.

  3. Jekk il-header huwa nieqes jew invalidu, uża dewmien esponenzjali b’varjazzjoni każwali: żid id-dewmien wara kull tentattiv li ma jirnexxix u żid dewmien każwali qasir.

  4. Illimita kemm l-għadd ta’ tentattivi mill-ġdid kif ukoll il-ħin totali li tqatta’ terġa’ tipprova.

L-SDKs uffiċjali ta’ OpenAI diġà jerġgħu jippruvaw żbalji eliġibbli tal-limitu tal-veloċità u jirrispettaw Retry-After meta jkun preżenti. Ikkunsidra dawk it-tentattivi qabel iżżid ċiklu ieħor ta’ tentattivi mill-ġdid.

It-talbiet li ma jirnexxux jgħoddu mal-limiti għal kull minuta. Jekk tibqa’ tibgħat l-istess talba mill-ġdid, il-problema tista’ ddum aktar.

Għal gwida u eżempji dwar l-implimentazzjoni, ara l-gwida dwar il-limiti tal-veloċità tal-API. Irrevedi kull librerija ta’ parti terza għat-tentattivi mill-ġdid qabel tużaha fl-applikazzjoni tiegħek.

Irrevedi d-daqs tal-prompt u tal-output

Neħħi mill-prompts tiegħek struzzjonijiet mhux meħtieġa, kuntest ripetut u eżempji. Ittestja l-prompt rivedut biex tikkonferma li għadu jipproduċi r-riżultat li teħtieġ.

Uża l-parametru tat-tokens tal-output appoġġjat mill-punt ta’ tmiem u l-mudell tiegħek:

  • Chat Completions juża max_completion_tokens.

  • Responses juża max_output_tokens.

Evita li tissettja kwota ferm akbar minn dik meħtieġa mit-talba. Dawn il-parametri jinkludu t-tokens tar-raġunament kif ukoll l-output viżibbli, għalhekk ikkunsidra t-tnejn meta tuża mudell tar-raġunament.

Irrevedi l-livell ta’ użu tiegħek

Jekk l-iżbalji jkomplu wara li tnaqqas il-volumi f’daqqa u tirrevedi l-użu tat-tokens, iċċekkja l-paġna Limiti tiegħek għall-modi disponibbli biex iżżid il-limiti.

Hekk kif jiżdied l-infiq fuq l-API, OpenAI tista’ awtomatikament tmexxi organizzazzjoni għal livell ta’ użu ogħla. Dan normalment iżid il-limiti tal-veloċità għall-biċċa l-kbira tal-mudelli.

Il-limitu approvat tal-użu ta’ kull xahar tiegħek huwa separat mil-limiti tal-veloċità tat-talbiet u tat-tokens. Iż-żieda ta’ wieħed m’għandhiex titqies bħala konferma li nbidel l-ieħor.

Jekk il-problema tippersisti

Qabel teskala l-problema

Żomm disponibbli l-messaġġ eżatt tal-iżball, kwalunkwe kodiċi tal-iżball, l-IDs rilevanti tat-talbiet, il-ħin tal-iżball flimkien maż-żona tal-ħin tiegħek, u l-limitu rilevanti muri fil-kont tiegħek. Ħu nota tal-passi li diġà ppruvajt.

Ikkuntattja lill-Appoġġ ta’ OpenAI

Ikkuntattja lill-Appoġġ ta’ OpenAI permezz taċ-Ċentru tal-Għajnuna jekk ma tkunx tista’ ssolvi l-problema wara li tiċċekkja l-limitu rrappurtat. Tinkludix ċwievet tal-API jew sigrieti oħra tal-awtentikazzjoni.

Dan l-artiklu kien ta’ għajnuna?