కొన్ని మోడళ్లలో వేగవంతమైన, మరింత స్థిరమైన పనితీరును కోరుకునే API వినియోగదారులకు మేము వేగవంతమైన మోడ్‌ను అందిస్తున్నాము. ఇది ఎలా పనిచేస్తుంది, ధరలు, మోడల్ లభ్యత, రేట్ లిమిట్లు, విశ్వసనీయత, విధానాలు, అర్హత వంటి సాధారణ ప్రశ్నలకు సమాధానాలు దిగువన ఉన్నాయి.

గమనిక: ప్రాధాన్య ప్రాసెసింగ్ పేరును 2026 జూలై 30న వేగవంతమైన మోడ్‌గా మార్చారు. మీ API అభ్యర్థనల్లో service_tier: priority లేదా service_tier: fast రెండింటిలో దేనినైనా ఉపయోగించవచ్చు. 

మరింత తెలుసుకోవడానికి ఇక్కడ చూడండి.

వేగవంతమైన మోడ్ అన్ని ప్రాంతాల్లో అందుబాటులో ఉందా.

వేగవంతమైన మోడ్ లభ్యత ప్రతి అధికార పరిధిలో వర్తించే చట్టాలు, నిబంధనలపై ఆధారపడి ఉంటుంది. మీ ప్రాంతంలో లభ్యత గురించి ప్రశ్నలు ఉంటే, దయచేసి మీ ఖాతా సంచాలకుడిని సంప్రదించండి.

ఇది ఎలా పనిచేస్తుంది

వినియోగదారులు ఇప్పటికే ఉన్న service_tier పరామితిలో service_tier = "fast" ఎంపికను ఉపయోగించి, ఒక్కో అభ్యర్థనను వేగవంతమైన మోడ్‌కు పంపవచ్చు.

వేగవంతమైన మోడ్‌లో ప్రాసెస్ చేసిన టోకెన్‌లకు ఒక్కో టోకెన్ చొప్పున బిల్లు వేస్తారు. ఈ ధరలు ప్రామాణిక ప్రాసెసింగ్ ధరల కంటే ఎక్కువగా ఉంటాయి.

ఒక్కో అభ్యర్థన స్థాయిలో సెట్ చేయడంతో పాటు, ప్రాజెక్ట్ సెట్టింగ్‌లు > డిఫాల్ట్ సర్వీస్ టియర్: వేగవంతం ద్వారా ప్రాజెక్ట్ మొత్తానికి వేగవంతమైన మోడ్‌ను డిఫాల్ట్‌గా సెట్ చేయవచ్చు. అయినా, ఒక్కో అభ్యర్థనకు ఈ సెట్టింగ్‌ను మార్చుకోవచ్చు. మీ ప్రాజెక్ట్ సెట్టింగ్‌లలో వేగవంతం ఎంపికను ఎంచుకోవడం, ప్రాధాన్యం ఎంపికను ఎంచుకోవడంతో సమానం.

ఇది స్కేల్ టియర్‌తో కలిసి ఎలా పనిచేస్తుంది.

స్కేల్ టియర్, వేగవంతమైన మోడ్ వేర్వేరుగానే ఉంటాయి. వేగవంతమైన మోడ్‌కు పంపే అభ్యర్థనలకు విడిగా బిల్లు వేస్తారు. వాటిని మీరు కొనుగోలు చేసిన స్కేల్ టియర్ TPM ప్యాకేజీల వినియోగంలో లెక్కించరు.

నా స్కేల్ టియర్ పరిమితిని మించిన ట్రాఫిక్‌ను స్వయంచాలకంగా వేగవంతమైన మోడ్‌కు పంపవచ్చా.

లేదు. స్కేల్ టియర్‌కు పంపిన ట్రాఫిక్ పరిమితిని మించితే, అది స్వయంచాలకంగా వేగవంతమైన మోడ్‌కు మళ్లదు.

వేగవంతమైన మోడ్‌కు బిల్లును ఎలా లెక్కిస్తారు.

వేగవంతమైన మోడ్‌లో ప్రాసెస్ చేసిన టోకెన్‌లకు ఒక్కో టోకెన్ చొప్పున బిల్లు వేస్తారు. ఈ ధరలు ప్రామాణిక ప్రాసెసింగ్ ధరల కంటే ఎక్కువగా ఉంటాయి.

నా వార్షిక వ్యయ ఒప్పందం ఒక నిర్దిష్ట ప్రాసెసింగ్ మోడ్‌కే పరిమితమా.

కాదు. అన్ని ప్రాసెసింగ్ మోడ్‌ల ఖర్చులనూ మీ ఎంటర్‌ప్రైజ్ ఒప్పందంలోని వార్షిక వ్యయ లక్ష్యంలో లెక్కిస్తారు.

కాష్ చేసిన ఇన్‌పుట్ టోకెన్‌లపై నాకు ఇప్పటికీ రాయితీ లభిస్తుందా.

అవును. ప్రామాణిక ప్రాసెసింగ్‌లో మాదిరిగానే కాష్ చేసిన ఇన్‌పుట్‌లకు 50-75% రాయితీ లభిస్తుంది.

వేగవంతమైన మోడ్‌లో నా వినియోగం, ఖర్చును ఎలా చూడాలి.

వేగవంతమైన మోడ్‌లో (గతంలో ప్రాధాన్య ప్రాసెసింగ్) ప్రాసెస్ చేసిన టోకెన్‌లను చూడటానికి, వినియోగ డ్యాష్‌బోర్డ్‌కు వెళ్లి, చాట్ పూర్తింపులు లేదా ప్రతిస్పందనలు ఎంచుకుని, సర్వీస్ టియర్ ఆధారంగా సమూహపరచండి.

వేగవంతమైన మోడ్ ఖర్చును చూడటానికి, వినియోగ డ్యాష్‌బోర్డ్‌కు వెళ్లి, బిల్లులోని అంశం ఆధారంగా సమూహపరచే ఎంపికను ఎంచుకోండి.

వినియోగ డ్యాష్‌బోర్డ్‌లో, service_tier విలువగా priority లేదా fast ఉపయోగించే అభ్యర్థనలు priorityగానే కనిపిస్తాయి. భవిష్యత్తులో వచ్చే మోడల్‌ల కోసం దీన్ని నవీకరిస్తాము.

మోడల్‌లు

సుదీర్ఘ సందర్భం, ప్రత్యేకంగా సర్దుబాటు చేసిన మోడల్‌లు, ఎంబెడ్డింగ్‌లు మొదలైనవాటికి వేగవంతమైన మోడ్ అందుబాటులో ఉందా.

ప్రస్తుతం లేదు. మా తాజా మోడల్‌లతో పాటు ఇతర ఉత్పత్తుల్లోనూ వేగవంతమైన మోడ్‌ను అందించాలా అనే విషయాన్ని భవిష్యత్తులో పరిశీలిస్తాము.

వేగవంతమైన మోడ్‌లో ఇతర రకాల మాధ్యమాలు ఎలా పనిచేస్తాయి.

ప్రామాణిక మోడ్‌లో అందుబాటులో ఉన్న బహుళ మాధ్యమ సామర్థ్యాలన్నింటికీ వేగవంతమైన మోడ్ మద్దతు ఇస్తుంది. ముఖ్యంగా, ప్రాధాన్య ప్రాసెసింగ్‌కు చిత్రాలను ఇన్‌పుట్‌లుగా ఉపయోగించవచ్చు. వాటిని కూడా అంతే తక్కువ జాప్యంతో ప్రాసెస్ చేస్తారు.

భవిష్యత్తులో వచ్చే మోడల్‌లకు మద్దతు ఉంటుందా.

కొత్త GPT మోడల్‌లలో వేగవంతమైన మోడ్‌ను అందించాలని భావిస్తున్నాము. అయితే, ప్రతి మోడల్‌కూ మద్దతు ఉంటుందని హామీ ఇవ్వలేము.

రేట్ లిమిట్‌లు

రేట్ లిమిట్‌లు ఏమిటి.

రేట్ లిమిట్‌ల విషయంలో ప్రాధాన్య ప్రాసెసింగ్ వినియోగాన్ని సాధారణ API ట్రాఫిక్‌తో సమానంగా పరిగణిస్తారు.

ర్యాంప్ రేట్ పరిమితులు ఏమిటి.

వేగవంతమైన మోడ్‌లో వినియోగానికి అనుగుణంగా చెల్లించే వెసులుబాటు ఉంటూనే, వినియోగదారులందరికీ నిలకడైన మెరుగైన పనితీరును అందించడానికి ర్యాంప్ రేట్ పరిమితులు ఉంటాయి. (ఎ) వేగవంతమైన మోడ్ పనితీరు తగ్గడంతో పాటు (బి) ఒక వినియోగదారు ట్రాఫిక్ మరీ వేగంగా పెరుగుతుంటే, అరుదైన సందర్భాల్లో కొన్ని అభ్యర్థనలను తక్కువ స్థాయి అయిన ప్రామాణిక ప్రాసెసింగ్‌కు మళ్లించవచ్చు.

వేగవంతమైన మోడ్‌కు ప్రస్తుతం వర్తించే ర్యాంప్ రేట్ పరిమితిని ఇక్కడ మా ప్రధాన మార్గదర్శక పత్రాల్లో నిర్వచించాము.

మీ ర్యాంప్ రేట్ పరిమితిని మించకుండా ఉండేందుకు ఉత్తమ పద్ధతులు

మోడల్‌లను మార్చేటప్పుడు ట్రాఫిక్‌ను క్రమంగా పెంచండి. ఉదాహరణకు, మీ అనువర్తనాన్ని పాత స్నాప్‌షాట్ నుంచి కొత్తదానికి మారుస్తుంటే, ట్రాఫిక్‌ను ఒకేసారి మళ్లించకుండా ఫీచర్ ఫ్లాగ్ సాయంతో కొన్ని గంటల వ్యవధిలో క్రమంగా మళ్లించండి.

భారీ డేటా ప్రాసెసింగ్ పనులను లేదా అసమకాలిక పనులను వేగవంతమైన మోడ్‌లో అమలు చేయవద్దు. ఈ పనుల వల్ల ట్రాఫిక్ చాలా వేగంగా పెరగవచ్చు. తరచుగా వీటికి వేగవంతమైన మోడ్ అందించే మెరుగైన పనితీరు అవసరం ఉండదు.

మీరు తరచూ ర్యాంప్ రేట్ పరిమితులను చేరుకుంటుంటే, బదులుగా స్కేల్ టియర్ కోటాను కొనుగోలు చేయడాన్ని పరిశీలించండి.

నా ప్రాజెక్ట్‌లు లేదా సంస్థలన్నింటికీ కలిపి ఒకే ర్యాంప్ రేట్ పరిమితులు వర్తిస్తాయా.

అవును, మీ మొత్తం ట్రాఫిక్‌ను ఒకే ర్యాంప్ రేట్ పరిమితి కింద లెక్కిస్తారు.

విధానాలు

వేగవంతమైన మోడ్ నిర్దేశించిన జాప్య లక్ష్యాన్ని చేరుకోకపోతే ఏమవుతుంది.

ఏవైనా ప్రశ్నలు లేదా ఆందోళనలు ఉంటే మీ ఏడీని సంప్రదించండి. వేగవంతమైన మోడ్ సేవా స్థాయి ఒప్పందాలను స్కేల్ టియర్ సేవా స్థాయి ఒప్పందాలతో సమానంగా పరిగణిస్తాము. ఎంటర్‌ప్రైజ్ ఒప్పందాలు ఉన్న వినియోగదారులకు ఒక నిర్దిష్ట కాలవ్యవధిలో ఆ సేవా స్థాయి ప్రమాణాలను అందించలేకపోతే, సేవా క్రెడిట్స్ అందిస్తాము.

వేగవంతమైన మోడ్ డేటా రెసిడెన్సీకి అనుకూలంగా ఉందా.

అవును.

వేగవంతమైన మోడ్ ZDR, BAAలకు అనుకూలంగా ఉందా.

అవును.

GPT-6 Astra కోసం అతివేగం

పరస్పర చర్యలతో నడిచే అనువర్తనాలు, కోడింగ్ కార్యప్రవాహాలు వంటి పనుల్లో GPT-6 Astra ప్రతిస్పందనలు తక్కువ జాప్యంతో అవసరమైనప్పుడు ఉపయోగించేందుకు అతివేగం అనే ప్రత్యేక సర్వీస్ టియర్ ఉంది.

service_tier="fast" ఉపయోగించే అభ్యర్థనలకు వేగవంతమైన మోడ్ ధరలు, రేట్ లిమిట్, విధాన మార్గదర్శకాలు వర్తిస్తాయి. అతివేగం అభ్యర్థనలు ప్రత్యేకమైన service_tier="ultrafast" టియర్‌ను ఉపయోగిస్తాయి.

అతివేగం అభ్యర్థనను ఎలా పంపాలి.

అతివేగం యాక్సెస్ ఉన్న సంస్థ కోసం, కింది వివరాలతో Responses APIని ఉపయోగించండి:

• మోడల్: gpt-6-astra

• సర్వీస్ టియర్: ultrafast

• అభ్యర్థన హెడర్: OpenAI-Service-Tier: ultrafast

సర్వీస్ టియర్ సెట్టింగ్‌తో పాటు అభ్యర్థన హెడర్ కూడా తప్పనిసరి.

సాధనాలను కాల్ చేసే అనువర్తనాల్లో, WebSocket మోడ్ ద్వారా వరుస సంభాషణ దశల్లో ఒకే కనెక్షన్‌ను మళ్లీ ఉపయోగించవచ్చు. దీనివల్ల కనెక్షన్ ఏర్పాటుకు అయ్యే అదనపు భారం తగ్గుతుంది.

ఇతర సర్వీస్ టియర్‌ల కోసం ఇదే అభ్యర్థన హెడర్‌ను ఉపయోగించవచ్చా.

అతివేగం ఆల్ఫా దశలో, OpenAI-Service-Tier హెడర్ ultrafast విలువను మాత్రమే అంగీకరిస్తుంది. default, fast లేదా flex సహా ఏ ఇతర విలువను పంపినా HTTP 400 లోపం వస్తుంది. మరొక టియర్‌ను ఉపయోగిస్తున్నప్పుడు ఈ హెడర్‌ను చేర్చవద్దు.

వర్క్ లేదా Codexలో అతివేగం ఉపయోగించవచ్చా.

అర్హత ఉన్న ప్లాన్‌లు, కార్యస్థలాలకు వర్క్, Codexలో కూడా అతివేగం అందుబాటులో ఉంది. ChatGPT ప్లాన్ అర్హత, వినియోగ నిబంధనలు API యాక్సెస్ నిబంధనలకు భిన్నంగా ఉంటాయి.

లభ్యత, వినియోగ వివరాల కోసం ChatGPT వర్క్ మరియు Codex చూడండి.