OpenAI
ఈ పేజీ మెషిన్ ట్రాన్స్‌లేషన్‌తో అనువదించబడింది. అసలు ఇంగ్లీష్ ఆర్టికల్‌ను చూడండి.

ప్రస్తుత ఎంటర్‌ప్రైజ్ కస్టమర్‌ల కోసం API ప్లాట్‌ఫారమ్ - స్కేల్ టియర్

అప్డేట్ చేయబడిన: 7 days ago

API ప్లాట్‌ఫారమ్‌లోని స్కేల్ టియర్ ద్వారా, ఒక ప్రత్యేక మోడల్ స్నాప్‌షాట్‌కు యాక్సెస్ కోసం నిమిషానికి నిర్దిష్ట సంఖ్యలో API ఇన్‌పుట్, అవుట్‌పుట్ టోకెన్లను (“టోకెన్ యూనిట్‌లు” అని పిలుస్తారు) ముందుగానే కొనుగోలు చేయవచ్చు. ప్రతి టోకెన్ యూనిట్‌ను కనీసం 30 రోజుల కోసం కొనుగోలు చేయాలి.

మీరు ఆర్డర్ ఫారమ్‌పై సంతకం చేసిన తర్వాత, మీ API ప్లాట్‌ఫారమ్ ఖాతా ద్వారా టోకెన్ యూనిట్‌లను జోడించవచ్చు మరియు తీసివేయవచ్చు. సంస్థ యజమానులు మరియు అధీకృత వినియోగదారులు మాత్రమే స్కేల్ టియర్ సెట్టింగ్‌లను చూడగలరు మరియు ఇన్‌పుట్, అవుట్‌పుట్ టోకెన్ యూనిట్‌లను కొనుగోలు చేయగలరు అని దయచేసి గమనించండి.


స్కేల్ టియర్‌లో ధరల గురించి మరింత తెలుసుకోండి.

నా స్కేల్ టియర్ సెట్టింగ్‌లను ఎలా యాక్సెస్ చేయగలను?

API ప్లాట్‌ఫారమ్ సంస్థ యజమానులు, పేజీ కుడి ఎగువనున్న సెట్టింగ్‌ల గియర్‌ను ఎంచుకుని, స్క్రీన్ ఎడమ వైపు మెనూలోని “సంస్థ” విభాగం కింద స్కేల్ టియర్‌ను ఎంచుకోవడం ద్వారా తమ స్కేల్ టియర్ సెట్టింగ్‌లను యాక్సెస్ చేయవచ్చు.

Image

స్కేల్ టియర్ సెట్టింగ్‌ల పేజీ మరింత సామర్థ్యాన్ని జోడించడానికి, మీ ఇన్‌పుట్ టోకెన్ వినియోగాన్ని చూడడానికి, సామర్థ్యాన్ని ప్రణాళిక చేయడానికి, మీ ప్రొవిజన్ చేసిన టోకెన్లను చూడడానికి మరియు మీ అధీకృత కొనుగోలుదారులను సమీక్షించడానికి వీలు కల్పిస్తుంది.

మరింత సామర్థ్యాన్ని ఎలా కొనుగోలు చేయగలను?

మీ స్కేల్ టియర్ పేజీలో కుడి ఎగువన ఉన్న “సామర్థ్యాన్ని జోడించు” బటన్‌ను ఎంచుకోవడం ద్వారా సామర్థ్యాన్ని కొనుగోలు చేయవచ్చు. ఇన్‌పుట్ మరియు అవుట్‌పుట్ టోకెన్ యూనిట్‌లకు సంబంధించిన TPM కేటాయింపులపై తాజా వివరాల కోసం మా స్కేల్ టియర్ ప్రధాన పేజీని చూడండి.

మీరు కొనుగోలు చేయబోయే టోకెన్ల రకాన్ని ఎంచుకున్న తర్వాత, మీరు కొనుగోలు చేయాలనుకుంటున్న టోకెన్ల సంఖ్యను నేరుగా నమోదు చేయవచ్చు లేదా స్లైడర్‌ను కదిలించి ఎంచుకోవచ్చు. టోకెన్లను మార్చే కొద్దీ, సారాంశం కింద TPM మార్పులను సులభంగా చూడడానికి స్లైడర్ సహాయపడుతుంది. మీ గత 30 రోజుల ట్రాఫిక్‌ను కవర్ చేయడానికి కొనుగోలు చేయాల్సిన యూనిట్‌ల సంఖ్యపై మేము సిఫార్సు కూడా అందిస్తాము.

Add token capacity dialog for gpt-4o with Input Tokens selected and input limit increasing from 40K to 60K

మీ ఎంపికను ఖరారు చేసిన తర్వాత, తదుపరి మోడల్ విండోలో మీ కొనుగోలును నిర్ధారించడానికి చెకౌట్‌ను ఎంచుకోండి.

మా సారాంశంలో చూపిన ధరలు మా ప్రామాణిక రేట్లు మాత్రమే; మీ సంస్థ ఆర్డర్ ఫారమ్‌లో చర్చించి నిర్ణయించిన రాయితీలు అందులో చేర్చబడవు అని దయచేసి గమనించండి. వర్తించే ఏవైనా రాయితీలు మీ సంస్థకు జారీ చేసే ఇన్‌వాయిస్‌లో వర్తింపజేయబడి ప్రతిబింబిస్తాయి. కొనుగోలు చేసిన ఏ యూనిట్‌లైనా తదుపరి ఇన్‌వాయిస్ వ్యవధి ప్రారంభం వరకు సక్రియంగా ఉంటాయి; ఆ తర్వాత ప్రతి రోజు పునరుద్ధరించబడతాయి.

కాల్స్ స్కేల్ టియర్ టోకెన్లను ఉపయోగించేలా ఎలా ప్రారంభించాలి?

ప్రాజెక్ట్ సెట్టింగ్‌ల కింద ఉన్న Scale Tier Enabled టాగుల్‌ను ఆన్‌గా సెట్ చేయాలి.

మీరు Completions API ఉపయోగిస్తుంటే, మా డాక్యుమెంటేషన్‌ను కూడా చూడండి. అది service_tier కీని వివరిస్తుంది, తద్వారా దాన్ని మాన్యువల్‌గా సెట్ చేయాలా లేదా డిఫాల్ట్ ప్రవర్తనపై ఆధారపడాలా అనేది నిర్ణయించుకోవచ్చు.

Responses APIకి చేసే కాల్స్‌లో డిఫాల్ట్‌గా service_tier=auto ఉంటుంది. ఏదైనా ప్రాజెక్ట్‌లో స్కేల్ టియర్ ప్రారంభించబడి ఉంటే, service_tierను వదిలివేసిన లేదా autoను ఉపయోగించిన అభ్యర్థనలు, స్కేల్ టియర్ కోటా అందుబాటులో ఉన్నప్పుడు డిఫాల్ట్‌గా స్కేల్ టియర్‌ను ఉపయోగిస్తాయి. service_tier=default ఉన్న అభ్యర్థనలు పంచుకున్న/PAYG కంప్యూట్‌ను ఉపయోగిస్తాయి.

నా కొనుగోలు చరిత్రను మరియు గడువు ముగిసిన టోకెన్లను ఎలా చూడగలను?

మీ స్కేల్ టియర్ పేజీలో ప్రొవిజన్ చేసిన టోకెన్ల కింద ఒక మోడల్‌ను ఎంచుకోవడం ద్వారా మీ స్కేల్ టియర్ కొనుగోలు చరిత్రను చూడవచ్చు.

Provisioned tokens table with active allocations for gpt-4o and gpt-4o-mini

మోడల్‌ను ఎంచుకున్న తర్వాత, పేజీ దిగువన గడువు ముగిసిన టోకెన్లు మరియు గత లావాదేవీలను చూడగలరు.

Image

నా టోకెన్ సామర్థ్యాన్ని ఎలా సవరించగలను?

మీ స్కేల్ టియర్ పేజీలో ప్రొవిజన్ చేసిన టోకెన్ల కింద ఒక మోడల్‌ను ఎంచుకుని, ఆ మోడల్ యొక్క టోకెన్ సామర్థ్యాన్ని సవరించవచ్చు. మోడల్‌ను ఎంచుకున్న తర్వాత, సక్రియం శీర్షిక కింద మీ కొనుగోలును కనుగొని, సవరించడానికి మీ కొనుగోలు పక్కన ఉన్న రద్దు చేయి ఎంచుకోండి.

Image

మోడల్ విండోలో, రద్దు చేయాల్సిన యూనిట్‌ల సంఖ్యను నేరుగా నమోదు చేయవచ్చు లేదా ఎంపిక చేస్తూ TPM ఎలా మారుతుందో అంచనా వేయడానికి స్లైడర్‌ను ఉపయోగించవచ్చు.

Edit Token Capacity dialog for gpt-4o canceling 1 package and reducing output limit TPM from 2.248M to 2.246M

నా స్కేల్ టియర్ RPM/TPM మరియు వినియోగాన్ని ఎలా చూడగలను?

మీ స్కేల్ టియర్ పేజీలో మీ సంస్థ కోసం API వినియోగ సారాంశాన్ని చూడవచ్చు. అన్ని తేదీలు మరియు సమయాలు UTC ఆధారంగా ఉంటాయి, అలాగే డేటాకు 5 నిమిషాల వరకు ఆలస్యం కావచ్చు.

Input token usage chart for the last 30 days with several spikes and a peak near 700K

మోడళ్ల డ్రాప్‌డౌన్‌లో మీ స్కేల్ టియర్ మోడల్‌లను ఎంచుకోవడం ద్వారా, కార్యాచరణ వినియోగ డ్యాష్‌బోర్డ్‌లో మీ వినియోగాన్ని సమీక్షించవచ్చు. ఈ డేటాను 30 రోజుల, 1 రోజు మరియు 15 నిమిషాల విండోలో చూడవచ్చు. మీ స్కేల్ టియర్ కవర్ చేసే మోడల్ వినియోగ పరిమాణాన్ని, మీ ఖాతా ప్లాన్ కవర్ చేసే వినియోగ పరిమాణంతో పోల్చి చూపడానికి మీ వినియోగ డేటా స్తరాలుగా చూపబడుతుంది.

వినియోగ డ్యాష్‌బోర్డ్‌ను సంస్థ యజమానులు మాత్రమే చూడగలరు అని దయచేసి గమనించండి.

నా టోకెన్ సామర్థ్యంలో మార్పు వినియోగ డ్యాష్‌బోర్డ్‌లో ఎప్పుడు కనిపిస్తుంది?

మీరు చేసిన మార్పులు ప్రతిబింబించడానికి 24 గంటల వరకు పట్టవచ్చు. అయితే ఆ మార్పులు దాదాపు తక్షణమే అమల్లోకి వస్తాయి.

ఈ వ్యాసం ఉపయోగకరంగా ఉందా?