Pangkalahatang-ideya
May mga rate limit ang paggamit ng API. Nililimitahan ng mga ito ang mga request, token, o iba pang paggamit sa loob ng itinakdang panahon.
Maaaring magpahiwatig ang isang 429 response ng pansamantalang rate limit, naubos na prepaid na balanse, o limitasyon sa paggastos o paggamit. Suriin ang mga detalye ng error bago subukang muli o baguhin ang iyong mga setting sa pagsingil.
Tukuyin ang sanhi
Basahin ang mensahe ng error at ang error.code, kung ibinigay. Maaari pa ring gamitin ng mga error na may kaugnayan sa pagsingil ang insufficient_quota bilang mas pangkalahatang value ng error.type.
| Error o code | Kahulugan nito | Ang dapat gawin |
| Naabot ang rate limit para sa mga request o token | Lumalagpas ang mga request sa isang naaangkop na rate limit. | Pagitanin ang pagpapadala ng mga request at sundin ang gabay sa muling pagsubok sa ibaba. |
| credit_balance_exhausted | Wala nang natitirang prepaid credits ang organisasyon. | Magdagdag ng credits sa iyong mga setting sa pagsingil ng API. |
| organization_usage_limit_exceeded | Naabot ng organisasyon ang limitasyon sa paggamit na itinakda ng OpenAI. | Humiling ng pag-apruba para sa mas mataas na limitasyon sa paggamit. |
| organization_spend_limit_exceeded | Naabot ng organisasyon ang ipinapatupad nitong limitasyon sa paggastos. | Taasan o alisin ang limitasyon, o hintayin ang buwanang pag-reset. |
| project_spend_limit_exceeded | Naabot ng proyekto ang ipinapatupad nitong limitasyon sa paggastos. | Taasan o alisin ang limitasyon ng proyekto, o hintayin ang buwanang pag-reset. |
Hindi maibabalik ang access sa pamamagitan ng muling pagsubok kapag may error sa pagsingil, paggastos, o quota. Ayusin muna ang iniulat na problema sa balanse o limitasyon. Maaaring abutin ng ilang oras bago magkabisa ang mga pagbabago sa ipinapatupad na mga limitasyon sa paggastos.
Para baguhin ang isang limitasyon sa paggastos, kailangan mo ng pahintulot na pamahalaan ang mga setting ng kaugnay na organisasyon o proyekto. Kung wala kang access, humingi ng tulong sa taong namamahala sa mga setting na iyon.
Para sa pagbili ng prepaid credits, tingnan ang: Pag-set up at pamamahala ng prepaid na pagsingil ng API.
Para sa iba't ibang kontrol sa paggastos, tingnan ang gabay sa limitasyon sa paggastos ng API.
Suriin ang mga naaangkop na rate limit
Pumunta sa pahina ng Mga Limitasyon ng iyong organisasyon para suriin ang kasalukuyang antas ng paggamit at mga limitasyon nito.
Maaaring magtakda ng mga rate limit para sa buong organisasyon at sa bawat proyekto. Hindi ito mga nakalaang limitasyon para sa bawat indibidwal na user. Nag-iiba rin ang mga limitasyon ayon sa modelo, at may ilang magkakapamilyang modelo na may iisang pinagsasaluhang limitasyon.
Suriin kung aling limitasyon ang tinutukoy ng error. Halimbawa, magkahiwalay ang mga limitasyon para sa mga request kada minuto at mga token kada minuto. Maaari mong maabot ang isa habang mas mababa pa rin sa isa ang iyong paggamit.
Suriin ang mga limitasyon ng API para sa pag-generate ng larawan
Nakadepende sa modelo at sa iyong antas ng paggamit ang mga rate limit ng API para sa pag-generate ng larawan. Piliin ang iyong modelo sa pahina ng mga modelo para makita ang mga limitasyon nito.
Para sa mga tagubilin sa pag-set up, tingnan ang gabay ng developer sa pag-generate ng larawan. Para sa higit pang impormasyon tungkol sa mga antas ng paggamit, tingnan ang gabay sa rate limit ng API.
Tiyakin kung aling organisasyon ang ginagamit ng iyong request
Kung kabilang ka sa maraming organisasyon, tiyaking ang nilalayong organisasyon at proyekto ang ginagamit ng iyong mga request.
Kapag gumagamit ang iyong API key ng default na organisasyon, suriin ang iyong setting ng default na organisasyon. Maaaring magkakaiba ang mga kasunduan sa pagsingil at antas ng paggamit ng bawat organisasyon.
Bawasan ang mga pansamantalang error sa rate limit
Pagitanin ang mga request at iwasang magpadala nang sabay-sabay
Magpadala ng mga request nang may pagitan sa halip na magpadala ng marami nang sabay-sabay.
Maaaring ipatupad ang mga rate limit sa mas maiikling panahon kaysa sa ipinapakitang agwat. Halimbawa, ang limitasyong 60 request kada minuto ay maaari ring ipatupad sa mga agwat na 1 segundo. Kaya maaaring magdulot ng error ang pagpapadala ng maraming request sa maikling panahon, kahit mukhang mas mababa sa limitasyon kada minuto ang iyong karaniwang paggamit.
Maaari ring mag-ambag sa mga error sa rate ng token ang mahahabang prompt at ang pagtatakda ng mas maraming pinapayagang output token kaysa sa kailangan.
Maghintay bago subukang muli
Para sa mga pansamantalang error sa rate limit:
Tingnan kung may Retry-After response header.
Kung may wastong tagal ng paghihintay sa header, hintaying lumipas ang hindi bababa sa tagal na iyon bago subukang muli.
Kung wala o hindi wasto ang header, gumamit ng exponential backoff na may jitter: pahabain ang paghihintay pagkatapos ng bawat bigong pagsubok at magdagdag ng maikling paghihintay na random ang tagal.
Limitahan ang bilang ng muling pagsubok at ang kabuuang oras na ginugugol dito.
Awtomatiko nang sumusubok muli ang mga opisyal na OpenAI SDK para sa mga error sa rate limit na maaaring subukang muli, at sinusunod ng mga ito ang Retry-After kapag mayroon nito. Isaalang-alang ang mga muling pagsubok na iyon bago magdagdag ng isa pang retry loop.
Kasama sa binibilang para sa mga limitasyon kada minuto ang mga bigong request. Maaaring tumagal ang problema kung patuloy na muling ipapadala ang parehong request.
Para sa gabay sa pagpapatupad at mga halimbawa, tingnan ang gabay sa rate limit ng API. Suriin muna ang anumang third-party na retry library bago ito gamitin sa iyong application.
Suriin ang haba ng prompt at output
Alisin sa iyong mga prompt ang mga hindi kailangang tagubilin, paulit-ulit na konteksto, at mga halimbawa. Subukan ang binagong prompt para matiyak na nagbibigay pa rin ito ng resultang kailangan mo.
Gamitin ang parameter para sa output token na sinusuportahan ng iyong endpoint at modelo:
Ginagamit ng Chat Completions ang max_completion_tokens.
Ginagamit ng Responses ang max_output_tokens.
Iwasang magtakda ng mas maraming pinapayagang token kaysa sa kailangan ng request. Kasama sa mga parameter na ito ang mga token sa pangangatwiran at ang nakikitang output, kaya maglaan para sa pareho kapag gumagamit ng nangangatwirang modelo.
Suriin ang iyong antas ng paggamit
Kung patuloy ang mga error matapos bawasan ang sabay-sabay na pagpapadala at suriin ang paggamit ng token, tingnan ang iyong pahina ng Mga Limitasyon para sa mga available na paraan ng pagtaas ng iyong mga limitasyon.
Awtomatikong tumataas ang bayad na antas ng paggamit ng iyong organisasyon kapag naabot ng kabuuang halaga ng binili nitong credits ang mga itinakdang halaga para sa Build, Launch, at Grow. Karaniwang nagbibigay ng mas matataas na rate limit ang mas matataas na antas. Tingnan ang gabay sa rate limit ng API para sa mga kinakailangan sa bawat antas.
Hiwalay ang iyong inaprubahang buwanang limitasyon sa paggamit sa mga rate limit ng request at token. Ang pagtaas ng isa ay hindi dapat ituring na kumpirmasyong nagbago rin ang isa.
Kung magpatuloy ang problema
Bago humingi ng karagdagang tulong
Ihanda ang eksaktong mensahe ng error, anumang error code, mga kaugnay na request ID, oras ng error kasama ang iyong time zone, at kaugnay na limitasyong nakasaad sa iyong account. Itala ang mga hakbang na nasubukan mo na.
Makipag-ugnayan sa Suporta ng OpenAI
Makipag-ugnayan sa Suporta ng OpenAI sa pamamagitan ng Help Center kung hindi mo malutas ang problema matapos suriin ang iniulat na limitasyon. Huwag isama ang mga API key o iba pang lihim na impormasyon sa pagpapatotoo.