అవలోకనం
ఏపీఐ వినియోగానికి రేట్ లిమిట్లు వర్తిస్తాయి. ఈ పరిమితులు నిర్దిష్ట వ్యవధిలో అభ్యర్థనలు, టోకెన్‌లు లేదా ఇతర వినియోగాన్ని నియంత్రిస్తాయి.
429 ప్రతిస్పందన తాత్కాలిక రేట్ లిమిట్‌ను, ముందుగా చెల్లించిన నిల్వ అయిపోవడాన్ని లేదా ఖర్చు లేదా వినియోగ పరిమితిని సూచించవచ్చు. మళ్లీ ప్రయత్నించే ముందు లేదా మీ బిల్లింగ్ సెట్టింగ్‌లను మార్చే ముందు లోపం వివరాలను తనిఖీ చేయండి.
కారణాన్ని గుర్తించండి
లోప సందేశాన్ని చదవండి. error.code ఇచ్చి ఉంటే దాన్ని కూడా చదవండి. బిల్లింగ్‌కు సంబంధించిన లోపాల్లో కూడా విస్తృత వర్గాన్ని సూచించే insufficient_quota అనే error.type విలువ ఉండవచ్చు.
| లోపం లేదా కోడ్ | దాని అర్థం | ఏం చేయాలి |
| అభ్యర్థనలు లేదా టోకెన్‌లకు వర్తించే రేట్ లిమిట్ చేరుకుంది | అభ్యర్థనలు వర్తించే రేట్ లిమిట్‌ను మించుతున్నాయి. | అభ్యర్థనలను విరామాలతో పంపండి. దిగువ పునఃప్రయత్న సూచనలను పాటించండి. |
| credit_balance_exhausted | సంస్థ వద్ద ముందుగా చెల్లించిన క్రెడిట్స్ ఏవీ మిగిలి లేవు. | మీ ఏపీఐ బిల్లింగ్ సెట్టింగ్‌లలో క్రెడిట్స్ జోడించండి. |
| organization_usage_limit_exceeded | సంస్థకు OpenAI కేటాయించిన వినియోగ పరిమితి చేరుకుంది. | మరింత అధిక వినియోగ పరిమితికి ఆమోదం కోరండి. |
| organization_spend_limit_exceeded | సంస్థకు అమలులో ఉన్న ఖర్చు పరిమితి చేరుకుంది. | పరిమితిని పెంచండి లేదా తొలగించండి. లేదంటే నెలవారీ పరిమితి పునరుద్ధరించబడే వరకు వేచి ఉండండి. |
| project_spend_limit_exceeded | ప్రాజెక్ట్‌కు అమలులో ఉన్న ఖర్చు పరిమితి చేరుకుంది. | ప్రాజెక్ట్ పరిమితిని పెంచండి లేదా తొలగించండి. లేదంటే నెలవారీ పరిమితి పునరుద్ధరించబడే వరకు వేచి ఉండండి. |
బిల్లింగ్, ఖర్చు లేదా కోటా లోపం వచ్చినప్పుడు మళ్లీ ప్రయత్నించినంత మాత్రాన ప్రాప్యత పునరుద్ధరించబడదు. ముందుగా లోపంలో పేర్కొన్న నిల్వ లేదా పరిమితి సమస్యను పరిష్కరించండి. అమలులో ఉన్న ఖర్చు పరిమితులకు చేసిన మార్పులు వర్తించడానికి కొంత సమయం పట్టవచ్చు.
ఖర్చు పరిమితిని మార్చడానికి సంబంధిత సంస్థ లేదా ప్రాజెక్ట్ సెట్టింగ్‌లను నిర్వహించే అనుమతి అవసరం. మీకు ప్రాప్యత లేకపోతే, ఆ సెట్టింగ్‌లను నిర్వహించే వ్యక్తిని అడగండి.
ముందుగా చెల్లించి క్రెడిట్స్ కొనుగోలు చేయడం గురించి, ముందస్తు చెల్లింపు ఏపీఐ బిల్లింగ్‌ను ఏర్పాటు చేయడం, నిర్వహించడం చూడండి.
వివిధ ఖర్చు నియంత్రణల కోసం, ఏపీఐ ఖర్చు పరిమితి మార్గదర్శిని చూడండి.
వర్తించే రేట్ లిమిట్‌లను తనిఖీ చేయండి
మీ సంస్థ ప్రస్తుత వినియోగ స్థాయి, పరిమితులను సమీక్షించడానికి దాని పరిమితుల పేజీకి వెళ్లండి.
రేట్ లిమిట్లు సంస్థ, ప్రాజెక్ట్ స్థాయుల్లో వర్తించవచ్చు. అవి ఒక్కో వినియోగదారుకు విడిగా ఇచ్చే కేటాయింపులు కావు. పరిమితులు మోడల్‌ను బట్టి కూడా మారుతాయి. కొన్ని మోడల్ కుటుంబాలకు ఉమ్మడి పరిమితి ఉంటుంది.
లోపం ఏ పరిమితిని సూచిస్తోందో తనిఖీ చేయండి. ఉదాహరణకు, నిమిషానికి అభ్యర్థనలు, నిమిషానికి టోకెన్‌లు వేర్వేరు పరిమితులు. ఒక పరిమితికి లోబడే ఉన్నా, మరో పరిమితిని చేరుకోవచ్చు.
ఇమేజ్ జనరేషన్ ఏపీఐ పరిమితులను తనిఖీ చేయండి
ఇమేజ్ జనరేషన్ ఏపీఐ రేట్ లిమిట్లు మోడల్, మీ వినియోగ స్థాయిపై ఆధారపడి ఉంటాయి. మీ మోడల్ పరిమితులను చూడటానికి మోడల్‌ల పేజీలో దాన్ని ఎంచుకోండి.
సెటప్ సూచనల కోసం, ఇమేజ్ జనరేషన్ డెవలపర్ మార్గదర్శిని చూడండి. వినియోగ స్థాయుల గురించి మరింత తెలుసుకోవడానికి, ఏపీఐ రేట్ లిమిట్ మార్గదర్శిని చూడండి.
మీ అభ్యర్థన ఏ సంస్థను ఉపయోగిస్తోందో నిర్ధారించుకోండి
మీరు పలు సంస్థల్లో సభ్యులైతే, మీ అభ్యర్థనలు మీరు ఉద్దేశించిన సంస్థను, ప్రాజెక్ట్‌ను ఉపయోగిస్తున్నాయని నిర్ధారించుకోండి.
మీ ఏపీఐ కీ డిఫాల్ట్ సంస్థను ఉపయోగిస్తున్నప్పుడు, మీ డిఫాల్ట్ సంస్థ సెట్టింగ్‌ను తనిఖీ చేయండి. వేర్వేరు సంస్థలకు వేర్వేరు బిల్లింగ్ ఏర్పాట్లు, వినియోగ స్థాయులు ఉండవచ్చు.
తాత్కాలిక రేట్ లిమిట్ లోపాలను తగ్గించండి
అభ్యర్థనలను విరామాలతో పంపండి, ఒక్కసారిగా అధిక సంఖ్యలో పంపవద్దు
ఒకేసారి ఎక్కువ అభ్యర్థనలను పంపకుండా, కొంత వ్యవధిలో విడతలుగా పంపండి.
చూపిన వ్యవధి కంటే తక్కువ వ్యవధులకు కూడా రేట్ లిమిట్లు అమలు కావచ్చు. ఉదాహరణకు, నిమిషానికి 60 అభ్యర్థనల పరిమితిని 1 సెకను వ్యవధులకు కూడా వర్తింపజేయవచ్చు. అందువల్ల మీ సగటు వినియోగం నిమిషానికి వర్తించే పరిమితి కంటే తక్కువగా కనిపించినా, స్వల్ప వ్యవధిలో అధిక అభ్యర్థనలు పంపడం వల్ల లోపం రావచ్చు.
పొడవైన ప్రాంప్ట్‌లు, అవుట్‌పుట్ టోకెన్‌లకు అవసరానికి మించి అధిక కేటాయింపులు కూడా టోకెన్ రేట్ లోపాలకు దారితీయవచ్చు.
కొంతసేపు వేచి ఉండి మళ్లీ ప్రయత్నించండి
తాత్కాలిక రేట్ లిమిట్ లోపాల కోసం:
ప్రతిస్పందనలో Retry-After హెడర్ ఉందో లేదో తనిఖీ చేయండి.
హెడర్‌లో చెల్లుబాటు అయ్యే నిరీక్షణ వ్యవధి ఉంటే, మళ్లీ ప్రయత్నించే ముందు కనీసం అంత సమయం వేచి ఉండండి.
హెడర్ లేకపోతే లేదా చెల్లకపోతే, యాదృచ్ఛిక స్వల్ప విరామాన్ని జోడిస్తూ నిరీక్షణ సమయాన్ని ఘాతాంక పద్ధతిలో పెంచండి: ప్రతి విఫల ప్రయత్నం తర్వాత నిరీక్షణ వ్యవధిని పెంచి, దానికి యాదృచ్ఛికంగా కొద్దిపాటి అదనపు సమయాన్ని జోడించండి.
పునఃప్రయత్నాల సంఖ్యకు, వాటి కోసం వెచ్చించే మొత్తం సమయానికి పరిమితి విధించండి.
అధికారిక OpenAI ఎస్‌డీకేలు పునఃప్రయత్నానికి అర్హమైన రేట్ లిమిట్ లోపాలు వచ్చినప్పుడు ఇప్పటికే మళ్లీ ప్రయత్నిస్తాయి. Retry-After ఉంటే దాని సూచనను పాటిస్తాయి. మరో పునఃప్రయత్న లూప్‌ను జోడించే ముందు ఆ పునఃప్రయత్నాలను కూడా పరిగణనలోకి తీసుకోండి.
విఫలమైన అభ్యర్థనలు కూడా నిమిషానికి వర్తించే పరిమితుల్లో లెక్కించబడతాయి. అదే అభ్యర్థనను నిరంతరం మళ్లీ పంపడం వల్ల సమస్య మరింత కాలం కొనసాగవచ్చు.
అమలు చేసే విధానంపై సూచనలు, ఉదాహరణల కోసం, ఏపీఐ రేట్ లిమిట్ మార్గదర్శిని చూడండి. ఏ మూడవ పక్ష పునఃప్రయత్న లైబ్రరీనైనా మీ అప్లికేషన్‌లో ఉపయోగించే ముందు సమీక్షించండి.
ప్రాంప్ట్, అవుట్‌పుట్ పరిమాణాన్ని సమీక్షించండి
మీ ప్రాంప్ట్‌ల నుంచి అనవసర సూచనలు, పునరావృత నేపథ్య సమాచారం, ఉదాహరణలను తొలగించండి. సవరించిన ప్రాంప్ట్ ఇప్పటికీ మీకు కావాల్సిన ఫలితాన్ని ఇస్తోందని నిర్ధారించుకోవడానికి దాన్ని పరీక్షించండి.
మీ ఎండ్‌పాయింట్, మోడల్ మద్దతిచ్చే అవుట్‌పుట్ టోకెన్ పరామితిని ఉపయోగించండి:
Chat Completions లో max_completion_tokens ఉపయోగించబడుతుంది.
Responses లో max_output_tokens ఉపయోగించబడుతుంది.
అభ్యర్థనకు అవసరమైన దానికంటే చాలా ఎక్కువ కేటాయింపును సెట్ చేయవద్దు. ఈ పరామితుల్లో కనిపించే అవుట్‌పుట్‌తో పాటు రీజనింగ్ టోకెన్‌లు కూడా లెక్కించబడతాయి. కాబట్టి రీజనింగ్ మోడల్‌ను ఉపయోగిస్తున్నప్పుడు రెండింటికీ సరిపడా కేటాయించండి.
మీ వినియోగ స్థాయిని సమీక్షించండి
ఒక్కసారిగా పంపే అభ్యర్థనల సంఖ్యను తగ్గించి, టోకెన్ వినియోగాన్ని సమీక్షించిన తర్వాత కూడా లోపాలు కొనసాగితే, పరిమితులను పెంచడానికి అందుబాటులో ఉన్న మార్గాల కోసం మీ పరిమితుల పేజీని చూడండి.
మీ సంస్థ మొత్తం క్రెడిట్స్ కొనుగోళ్లు బిల్డ్, లాంచ్, గ్రో స్థాయులకు నిర్దేశించిన మొత్తాలను చేరుకున్నప్పుడు, దాని చెల్లింపు వినియోగ స్థాయి స్వయంచాలకంగా పెరుగుతుంది. ఉన్నత స్థాయుల్లో సాధారణంగా అధిక రేట్ లిమిట్లు ఉంటాయి. స్థాయులకు అవసరమైన అర్హతల కోసం ఏపీఐ రేట్ లిమిట్ మార్గదర్శిని చూడండి.
మీ ఆమోదిత నెలవారీ వినియోగ పరిమితి, అభ్యర్థనలు మరియు టోకెన్‌ల రేట్ లిమిట్‌లకు వేరుగా ఉంటుంది. ఒకదాన్ని పెంచినంత మాత్రాన మరొకటి కూడా మారిందని భావించకూడదు.
సమస్య కొనసాగితే
సమస్యను సహాయ బృందం దృష్టికి తీసుకెళ్లే ముందు
లోప సందేశాన్ని యథాతథంగా, ఏదైనా లోప కోడ్ ఉంటే దాన్ని, సంబంధిత అభ్యర్థన ఐడీలను, మీ సమయ మండలంతో సహా లోపం సంభవించిన సమయాన్ని, మీ ఖాతాలో చూపిన సంబంధిత పరిమితిని అందుబాటులో ఉంచుకోండి. మీరు ఇప్పటికే ప్రయత్నించిన దశలను నమోదు చేసుకోండి.
OpenAI సహాయ బృందాన్ని సంప్రదించండి
లోపంలో పేర్కొన్న పరిమితిని తనిఖీ చేసిన తర్వాత కూడా సమస్యను పరిష్కరించలేకపోతే, హెల్ప్ సెంటర్ ద్వారా OpenAI సహాయ బృందాన్ని సంప్రదించండి. ఏపీఐ కీలను లేదా ఇతర ప్రామాణీకరణ రహస్యాలను చేర్చవద్దు.