కొన్ని మోడళ్లలో మరింత వేగవంతమైన, స్థిరమైన పనితీరు కోరుకునే ఏపీఐ వినియోగదారులకు మేము వేగవంతమైన మోడ్ను అందిస్తున్నాము. ఇది పనిచేసే విధానం, ధరలు, మోడళ్ల లభ్యత, రేట్ లిమిట్లు, విశ్వసనీయత, విధానాలు, అర్హత గురించి తరచుగా అడిగే ప్రశ్నలకు సమాధానాలు కింద ఉన్నాయి.
గమనిక: ప్రాధాన్య ప్రాసెసింగ్ పేరును 2026 జూలై 30న వేగవంతమైన మోడ్గా మార్చాము. మీ ఏపీఐ అభ్యర్థనల్లో service_tier: priority లేదా service_tier: fast ఉపయోగించవచ్చు.
వేగవంతమైన మోడ్ గురించి మరింత తెలుసుకోండి.
వేగవంతమైన మోడ్ అన్ని ప్రాంతాల్లో అందుబాటులో ఉందా.
వేగవంతమైన మోడ్ లభ్యత ఆయా ప్రాంతాల్లో వర్తించే చట్టాలు, నిబంధనలపై ఆధారపడి ఉంటుంది. మీ ప్రాంతంలో లభ్యత గురించి ప్రశ్నలు ఉంటే, దయచేసి మీ OpenAI ప్రతినిధిని సంప్రదించండి.
ఇది పనిచేసే విధానం
ఇప్పటికే ఉన్న service_tier పరామితిలో service_tier = "fast" ఎంపికను ఉపయోగించి, వినియోగదారులు ఒక్కో అభ్యర్థనను వేగవంతమైన మోడ్కు పంపవచ్చు.
వేగవంతమైన మోడ్ ద్వారా ప్రాసెస్ చేసిన టోకెన్లకు ఒక్కో టోకెన్ చొప్పున బిల్లు వేస్తారు. ధరలు సాధారణ ప్రాసెసింగ్ ధరల కంటే ఎక్కువగా ఉంటాయి.
అభ్యర్థన స్థాయిలో సెట్ చేయడంతో పాటు, ప్రాజెక్ట్ సెట్టింగ్లు > ప్రాజెక్ట్ డిఫాల్ట్ సర్వీస్ టియర్: వేగవంతం ద్వారా ప్రాజెక్ట్కు వేగవంతమైన మోడ్ను డిఫాల్ట్గా సెట్ చేయవచ్చు. అయినప్పటికీ, ఒక్కో అభ్యర్థనకు ఈ సెట్టింగ్ను మార్చవచ్చు. మీ ప్రాజెక్ట్ సెట్టింగ్లలో వేగవంతం ఎంచుకోవడం, ప్రాధాన్యం ఎంచుకోవడంతో సమానం.
ఇది స్కేల్ టియర్తో కలిసి ఎలా పనిచేస్తుంది.
స్కేల్ టియర్, వేగవంతమైన మోడ్ వేర్వేరుగానే ఉంటాయి. వేగవంతమైన మోడ్కు పంపే అభ్యర్థనలకు విడిగా బిల్లు వేస్తారు. వాటిని మీరు కొనుగోలు చేసిన స్కేల్ టియర్ TPM ప్యాకేజీల వినియోగంలో లెక్కించరు.
నా స్కేల్ టియర్ పరిమితిని మించిన ట్రాఫిక్ను స్వయంచాలకంగా వేగవంతమైన మోడ్కు పంపవచ్చా.
లేదు. స్కేల్ టియర్కు పంపిన ట్రాఫిక్ పరిమితిని మించితే, అది స్వయంచాలకంగా వేగవంతమైన మోడ్కు మళ్లదు.
వేగవంతమైన మోడ్కు బిల్లును ఎలా లెక్కిస్తారు.
వేగవంతమైన మోడ్లో ప్రాసెస్ చేసిన టోకెన్లకు ఒక్కో టోకెన్ చొప్పున బిల్లు వేస్తారు. ఈ ధరలు ప్రామాణిక ప్రాసెసింగ్ ధరల కంటే ఎక్కువగా ఉంటాయి.
నా వార్షిక వ్యయ ఒప్పందం ఒక నిర్దిష్ట ప్రాసెసింగ్ మోడ్కే పరిమితమా.
కాదు. అన్ని ప్రాసెసింగ్ మోడ్ల ఖర్చులనూ మీ ఎంటర్ప్రైజ్ ఒప్పందంలోని వార్షిక వ్యయ లక్ష్యంలో లెక్కిస్తారు.
క్యాష్ చేసిన ఇన్పుట్ టోకెన్లపై నాకు తగ్గింపు కొనసాగుతుందా.
అవును. అర్హత ఉన్న క్యాష్ చేసిన ఇన్పుట్ టోకెన్లకు సాధారణ ప్రాసెసింగ్లో లభించే తగ్గింపులే వర్తిస్తాయి.
వేగవంతమైన మోడ్లో నా వినియోగం, ఖర్చును ఎలా చూడాలి.
వేగవంతమైన మోడ్ (గతంలో ప్రాధాన్య ప్రాసెసింగ్) ద్వారా ప్రాసెస్ చేసిన టోకెన్లను చూడటానికి, వినియోగ డ్యాష్బోర్డ్కు వెళ్లి, చాట్ పూర్తీకరణలు లేదా స్పందనలు ఎంచుకుని, సర్వీస్ టియర్ ఆధారంగా సమూహపరచండి ఎంచుకోండి.
వేగవంతమైన మోడ్ ఖర్చును చూడటానికి, వినియోగ డ్యాష్బోర్డ్కు వెళ్లి, బిల్లు అంశం ఆధారంగా సమూహపరచండి ఎంచుకోండి.
వినియోగ డ్యాష్బోర్డ్లో, GPT-5.6, అంతకుముందు మోడళ్ల వేగవంతమైన మోడ్ అభ్యర్థనలు priorityగా కనిపిస్తాయి, అభ్యర్థనలో fast అని పేర్కొన్నప్పటికీ.
మోడల్లు
వేగవంతమైన మోడ్ సుదీర్ఘ సందర్భానికి, ప్రత్యేకంగా శిక్షణ సర్దుబాటు చేసిన మోడళ్లకు లేదా ఎంబెడ్డింగ్లకు మద్దతు ఇస్తుందా.
GPT-5.6 మోడళ్లు వేగవంతమైన మోడ్లో సుదీర్ఘ సందర్భానికి మద్దతు ఇస్తాయి. వేగవంతమైన మోడ్ ప్రత్యేకంగా శిక్షణ సర్దుబాటు చేసిన మోడళ్లకు లేదా ఎంబెడ్డింగ్లకు మద్దతు ఇవ్వదు.
ఇతర మాధ్యమ రూపాలు వేగవంతమైన మోడ్లో ఎలా పనిచేస్తాయి.
సాధారణ సేవలో అందుబాటులో ఉన్న బహుళ మాధ్యమ సామర్థ్యాలన్నింటికీ వేగవంతమైన మోడ్ మద్దతు ఇస్తుంది. ముఖ్యంగా, వేగవంతమైన మోడ్కు చిత్రాలను ఇన్పుట్లుగా అందించవచ్చు. వాటినీ అంతే తక్కువ జాప్యంతో ప్రాసెస్ చేస్తుంది.
భవిష్యత్తులో వచ్చే మోడల్లకు మద్దతు ఉంటుందా.
కొత్త GPT మోడల్లలో వేగవంతమైన మోడ్ను అందించాలని భావిస్తున్నాము. అయితే, ప్రతి మోడల్కూ మద్దతు ఉంటుందని హామీ ఇవ్వలేము.
రేట్ లిమిట్లు
రేట్ లిమిట్లు ఏమిటి.
రేట్ లిమిట్ల విషయంలో వేగవంతమైన మోడ్ వినియోగాన్ని సాధారణ ఏపీఐ ట్రాఫిక్తో సమానంగా పరిగణిస్తారు.
ర్యాంప్ రేట్ పరిమితులు ఏమిటి.
అవసరానికి అనుగుణంగా చెల్లించే సౌలభ్యాన్ని అందిస్తూనే, వినియోగదారులందరికీ స్థిరమైన, ఉన్నత పనితీరును నిర్ధారించడానికి వేగవంతమైన మోడ్లో ర్యాంప్ రేట్ పరిమితులు ఉన్నాయి. (ఎ) వేగవంతమైన మోడ్ పనితీరు తగ్గడంతో పాటు (బి) వినియోగదారు ట్రాఫిక్ మరీ వేగంగా పెరుగుతుంటే, అరుదైన సందర్భాల్లో కొన్ని అభ్యర్థనలను సాధారణ ప్రాసెసింగ్కు మార్చవచ్చు.
వేగవంతమైన మోడ్కు ప్రస్తుతం వర్తించే ర్యాంప్ రేట్ పరిమితిని మా వేగవంతమైన మోడ్ పత్రాల్లో పేర్కొన్నాము.
మీ ర్యాంప్ రేట్ పరిమితిని మించకుండా ఉండేందుకు ఉత్తమ పద్ధతులు
మోడళ్లను మార్చేటప్పుడు ట్రాఫిక్ను క్రమంగా పెంచండి. ఉదాహరణకు, మీ అనువర్తనం పాత స్నాప్షాట్ నుంచి కొత్తదానికి మారుతుంటే, ట్రాఫిక్ మొత్తాన్ని ఒకేసారి మార్చకుండా ఫీచర్ ఫ్లాగ్ను ఉపయోగించి కొన్ని గంటల వ్యవధిలో క్రమంగా మార్చండి.
వేగవంతమైన మోడ్లో భారీ డేటా ప్రాసెసింగ్ లేదా అసమకాలిక పనులను అమలు చేయడం మానుకోండి. ఈ పనులు ట్రాఫిక్ను చాలా వేగంగా పెంచవచ్చు. సాధారణంగా వీటికి వేగవంతమైన మోడ్ అందించే మెరుగైన పనితీరు అవసరం ఉండదు.
మీరు తరచుగా ర్యాంప్ రేట్ పరిమితులను చేరుకుంటుంటే, బదులుగా స్కేల్ టియర్ కోటాను కొనుగోలు చేయడాన్ని పరిశీలించండి.
నా ప్రాజెక్ట్లు లేదా సంస్థలన్నింటికీ కలిపి ఒకే ర్యాంప్ రేట్ పరిమితులు వర్తిస్తాయా.
అవును, మీ మొత్తం ట్రాఫిక్ను ఒకే ర్యాంప్ రేట్ పరిమితి కింద లెక్కిస్తారు.
విధానాలు
వేగవంతమైన మోడ్ నిర్దేశిత జాప్య లక్ష్యాన్ని చేరుకోకపోతే ఏమవుతుంది.
GPT-6 Astra వేగవంతమైన మోడ్కు జాప్యం విషయంలో సేవా స్థాయి ఒప్పందం లేదు. GPT-5.6, అంతకుముందు మోడళ్లకు వేగవంతమైన మోడ్, స్కేల్ టియర్ రెండింటిలోనూ ఒకే విధంగా సేవా స్థాయి ఒప్పందం వర్తిస్తుంది. జాప్య లక్ష్యాలను చేరుకోనప్పుడు, అర్హత ఉన్న ఎంటర్ప్రైజ్ ఒప్పందాల ప్రకారం సేవా క్రెడిట్స్ లభించవచ్చు. ప్రశ్నలు ఉంటే మీ ఖాతా డైరెక్టర్ను సంప్రదించండి.
వేగవంతమైన మోడ్ డేటా రెసిడెన్సీకి అనుకూలంగా ఉందా.
అవును, అయితే ఇది ఆయా మోడళ్ల లభ్యతపై ఆధారపడి ఉంటుంది. GPT-6.1 Sol, GPT-6 Sol, GPT-6 Luna మోడళ్లలో ఐరోపా సమాఖ్య డేటా రెసిడెన్సీకి మద్దతు ఉంది, కానీ GPT-6 Astraలో లేదు.
వేగవంతమైన మోడ్ జెడ్డీఆర్, బీఏఏకు అనుకూలంగా ఉందా.
అవును, అయితే వర్తించే మోడల్, ఎండ్పాయింట్, సాధనం, అర్హత, ఒప్పంద అవసరాలకు లోబడి ఉంటుంది.
GPT-6 Astra, GPT-6.1 Sol కోసం అత్యంత వేగవంతమైన సేవ
పరస్పర చర్యలకు వీలున్న అనువర్తనాలు, కోడింగ్ పనిప్రవాహాల వంటి పనుల్లో GPT-6 Astra, GPT-6.1 Sol నుంచి తక్కువ జాప్యంతో స్పందనలు అవసరమైనప్పుడు ఉపయోగించేందుకు అత్యంత వేగవంతమైన సేవ అనే ప్రత్యేక సర్వీస్ టియర్ ఉంది.
service_tier="fast" ఉపయోగించే అభ్యర్థనలకు వేగవంతమైన మోడ్ ధరలు, రేట్ లిమిట్లు, విధానాలకు సంబంధించిన మార్గదర్శకాలు వర్తిస్తాయి. అత్యంత వేగవంతమైన సేవ అభ్యర్థనలు ప్రత్యేక service_tier="ultrafast" టియర్ను ఉపయోగిస్తాయి.
అత్యంత వేగవంతమైన సేవకు అభ్యర్థన ఎలా పంపాలి.
అత్యంత వేగవంతమైన సేవకు యాక్సెస్ ఉన్న సంస్థ కోసం, కింది వివరాలతో రెస్పాన్సెస్ ఏపీఐని ఉపయోగించండి:
మోడల్:
gpt-6-astraలేదాgpt-6.1-solసర్వీస్ టియర్:
ultrafastఐచ్ఛిక అభ్యర్థన హెడర్:
OpenAI-Service-Tier: ultrafast
అభ్యర్థన హెడర్ ఐచ్ఛికం. దాన్ని చేరిస్తే, దాని విలువ అభ్యర్థన బాడీలోని సర్వీస్ టియర్తో సరిపోలాలి.
సాధనాలను పిలిచి అమలు చేసే అనువర్తనాల్లో, వెబ్సాకెట్ మోడ్ ద్వారా ప్రతి సంభాషణ దశలో ఒకే కనెక్షన్ను తిరిగి ఉపయోగించవచ్చు. దీనివల్ల కనెక్షన్ ఏర్పాటుకు అవసరమయ్యే అదనపు వనరులు తగ్గుతాయి.
ఇతర సర్వీస్ టియర్లకు ఇదే అభ్యర్థన హెడర్ను ఉపయోగించవచ్చా.
అందించినప్పుడు, OpenAI-Service-Tier హెడర్ fast లేదా ultrafast విలువలను అంగీకరిస్తుంది. మీరు default, fast లేదా flex వంటి మరో సర్వీస్ టియర్కు మారితే, అభ్యర్థనకు సరిపోయేలా హెడర్ను మార్చండి లేదా తీసివేయండి.
వర్క్ లేదా Codexలో అత్యంత వేగవంతమైన సేవను ఉపయోగించవచ్చా.
అర్హత ఉన్న ప్లాన్లు, కార్యస్థలాలకు వర్క్, Codexలో కూడా అత్యంత వేగవంతమైన సేవ అందుబాటులో ఉంది. ChatGPT ప్లాన్ అర్హత, వినియోగం ఏపీఐ ద్వారా పొందే యాక్సెస్కు భిన్నంగా ఉంటాయి.
లభ్యత, వినియోగ వివరాల కోసం ChatGPT వర్క్, Codex చూడండి.
