అవలోకనం
మీరు API వినియోగాన్ని రెండు విధాలుగా సమీక్షించవచ్చు:
ప్రస్తుత, గత బిల్లింగ్ కాలాల్లోని కార్యకలాపాన్ని సమీక్షించడానికి వినియోగ డ్యాష్బోర్డ్ను ఉపయోగించండి.
ఒక్కో అభ్యర్థనను తనిఖీ చేయడానికి API ప్రతిస్పందనలోని వినియోగ సమాచారాన్ని చదవండి.
Playground మీ అప్లికేషన్లు ఉపయోగించే API కాల్లనే ఉపయోగిస్తుంది. దాని టోకెన్లు మీ ఖాతా API వినియోగంలో లెక్కించబడతాయి, అలాగే అవే వినియోగ నియమాలు, ధరలు వర్తిస్తాయి.
డ్యాష్బోర్డ్ యాక్సెస్
వినియోగ డ్యాష్బోర్డ్ను యాక్సెస్ చేయడానికి మీరు సంస్థ యజమాని అయి ఉండాలి లేదా వినియోగ డ్యాష్బోర్డ్ అనుమతి కలిగి ఉండాలి.
డ్యాష్బోర్డ్లో వినియోగాన్ని సమీక్షించండి
వినియోగ డ్యాష్బోర్డ్ను తెరిచి, మీరు సమీక్షించాలనుకునే సంస్థను ఎంచుకుని, సంబంధిత నివేదిక కాలాన్ని ఎంచుకోండి.
డ్యాష్బోర్డ్ డేటా UTCలో ప్రదర్శించబడుతుంది. డ్యాష్బోర్డ్ కార్యకలాపాన్ని మీ అప్లికేషన్ లాగ్లతో పోల్చేటప్పుడు ఆ సమయ మండలాన్ని గుర్తుంచుకోండి.
ప్రాజెక్ట్లను ఎంచుకోండి
డ్యాష్బోర్డ్కు ప్రత్యేక ప్రాజెక్ట్ ఎంపిక సాధనం ఉంది. ఇది API ప్లాట్ఫారమ్లో మరెక్కడైనా ఎంచుకున్న ప్రాజెక్ట్తో సంబంధం లేకుండా పనిచేస్తుంది.
ఒక ప్రాజెక్ట్ను, అనేక ప్రాజెక్ట్లను లేదా అన్ని ప్రాజెక్ట్లను సమీక్షించడానికి డ్యాష్బోర్డ్ ఎంపిక సాధనాన్ని ఉపయోగించండి. సంస్థ మొత్తం డేటాను చూడటానికి, ఎంచుకున్న ప్రాజెక్ట్లను తొలగించండి. ఏ ప్రాజెక్ట్నూ ఎంచుకోకపోతే, డ్యాష్బోర్డ్ అన్ని ప్రాజెక్ట్ల డేటాను చూపుతుంది.
ఒక వినియోగదారు వినియోగాన్ని సమీక్షించండి
ఒక వినియోగదారు రెస్పాన్సెస్, చాట్ కంప్లీషన్స్ వినియోగాన్ని సమీక్షించడానికి:
వినియోగ డ్యాష్బోర్డ్లో API సామర్థ్యాలు > రెస్పాన్సెస్, చాట్ కంప్లీషన్స్కు వెళ్లండి.
దీని ప్రకారం ఫిల్టర్ చేయండి ఎంచుకోండి.
వినియోగదారులు కింద వినియోగదారును ఎంచుకుని, ఆపై ఫిల్టర్లను వర్తింపజేయండి ఎంచుకోండి.
నిమిషానికి టోకెన్లను చూడండి
వినియోగ వివరాల పేజీల్లో విరామాన్ని ఎంచుకోవచ్చు. నిమిషానికి టోకెన్లను (TPM) పరిశీలించడానికి 1 నిమిషం విరామాన్ని ఎంచుకోండి.
ఈ విరామం వినియోగ డేటాకు వర్తిస్తుంది, బిల్లింగ్ డేటాకు కాదు.
వినియోగ డేటాను ఎగుమతి చేయండి
ఎగుమతి తేదీ పరిధికి పరిమితి లేదు. ఎక్కువ కాలాన్ని కవర్ చేసే ఎగుమతులను అనేక ఫైళ్లుగా విభజించవచ్చు.
నెలవారీ ఇన్వాయిస్ సరిపోలిక, పంక్తుల వారీ ఎగుమతుల కోసం చూడండి: నెలవారీ వినియోగ వివరాలను ఎగుమతి చేయడం.
క్రెడిట్ మంజూరులను చూడండి
క్రెడిట్ మంజూరు వివరాలు మీ సంస్థ బిల్లింగ్ పేజీలో అందుబాటులో ఉంటాయి.
క్రెడిట్ మంజూరులు, API వినియోగం వేర్వేరు విషయాలను తెలియజేస్తాయి: క్రెడిట్ మంజూరులు మీ సంస్థకు సంబంధించిన క్రెడిట్స్ను చూపితే, వినియోగం దాని API కార్యకలాపాన్ని చూపుతుంది.
స్కేల్ టియర్ వినియోగం, ఖర్చులను సమీక్షించండి
మీ సంస్థలో స్కేల్ టియర్ ప్రారంభించబడి, మీకు అవసరమైన యాక్సెస్ ఉంటే, వివరణాత్మక వినియోగం కోసం స్కేల్ టియర్ వినియోగ పేజీని తెరవండి.
స్కేల్ టియర్ బండిల్ ఖర్చులు విడివిడి ప్రాజెక్ట్లకు కాకుండా సంస్థకు కేటాయించబడతాయి.
వినియోగం సున్నా కంటే ఎక్కువగా ఉన్నా, ప్రాజెక్ట్ ఖర్చు సున్నాగా ఉంది
మోడల్ వినియోగం మీ స్కేల్ టియర్ కేటాయింపులో కవర్ అవుతుందో లేదో తనిఖీ చేయండి. ఆ మోడల్ వినియోగమంతా స్కేల్ టియర్ TPM కేటాయింపు పరిధిలో ఉంటే, అదనపు మోడల్ ఖర్చు లేకుండానే ప్రాజెక్ట్ వినియోగాన్ని చూపవచ్చు.
స్కేల్ టియర్ సభ్యత్వ ఖర్చు సంస్థ స్థాయిలోనే ఉంటుంది. దాన్ని సమీక్షించడానికి:
వినియోగ డ్యాష్బోర్డ్లో ప్రాజెక్ట్ ఫిల్టర్ను తొలగించండి.
ఖర్చు వర్గాలు ఎంచుకోండి.
అనేక సంస్థలను సమీక్షించండి
వినియోగ డ్యాష్బోర్డ్ వేర్వేరు సంస్థల ఖర్చు లేదా వినియోగ డేటాను కలపదు. ఉప-సంస్థతో సహా ప్రతి సంస్థను విడిగా పరిగణిస్తారు.
ఉప-సంస్థను చూడటానికి, సంస్థ ఎంపిక సాధనంలో దాన్ని ఎంచుకోండి.
మీకు సంయుక్త నివేదికలు అవసరమైతే, వేర్వేరు ఉప-సంస్థలకు బదులుగా ఒకే సంస్థలో ప్రాజెక్ట్లను ఉపయోగించడాన్ని పరిశీలించండి లేదా అనుకూల విశ్లేషణ కోసం వినియోగ APIని ఉపయోగించండి.
API ప్రతిస్పందనలో టోకెన్ వినియోగాన్ని తనిఖీ చేయండి
టోకెన్ వినియోగ ఫీల్డ్ పేర్లు ఎండ్పాయింట్పై ఆధారపడి ఉంటాయి.
| టోకెన్ల సంఖ్య | చాట్ కంప్లీషన్స్ | రెస్పాన్సెస్ |
| ఇన్పుట్ టోకెన్లు | usage.prompt_tokens | usage.input_tokens |
| అవుట్పుట్ టోకెన్లు | usage.completion_tokens | usage.output_tokens |
| మొత్తం టోకెన్లు | usage.total_tokens | usage.total_tokens |
ఉదాహరణకు, చాట్ కంప్లీషన్స్ ప్రతిస్పందనలో ఇది ఉండవచ్చు:
| { "usage": { "prompt_tokens": 13, "completion_tokens": 7, "total_tokens": 20 }} |
ఎండ్పాయింట్, మోడల్ను బట్టి వినియోగ వివరాల్లో కాష్ చేసిన ఇన్పుట్, రీజనింగ్ టోకెన్ల సంఖ్యలు కూడా ఉండవచ్చు. ప్రతిస్పందన కనిపించే పొడవు దాని పూర్తి టోకెన్ వినియోగాన్ని ఎందుకు చూపదో అర్థం చేసుకోవడానికి ఇవి సహాయపడతాయి.
వివిధ టోకెన్ వర్గాల వివరణ కోసం చూడండి: టోకెన్లను అర్థం చేసుకోవడం, లెక్కించడం.
స్ట్రీమ్ చేసిన చాట్ కంప్లీషన్స్ నుంచి వినియోగాన్ని పొందండి
స్ట్రీమింగ్ చాట్ కంప్లీషన్స్ అభ్యర్థన కోసం, దీన్ని చేర్చండి:
| { "stream": true, "stream_options": { "include_usage": true }} |
include_usage ప్రారంభించబడితే, data: [DONE]కు ముందు వచ్చే అదనపు భాగంలో మొత్తం అభ్యర్థన వినియోగం ఉంటుంది. దాని choices అర్రే ఖాళీగా ఉంటుంది. ఇతర భాగాల్లో usage విలువ nullగా ఉంటుంది.
స్ట్రీమ్కు అంతరాయం కలిగితే, ఆ చివరి వినియోగ భాగం మీకు అందకపోవచ్చు. చివరి భాగం లేకపోవడం అంటే అభ్యర్థన టోకెన్లను ఉపయోగించలేదని నిర్ధారణ కాదు.
ఈ కాన్ఫిగరేషన్ చాట్ కంప్లీషన్స్కు మాత్రమే వర్తిస్తుంది. వివరాల కోసం చాట్ కంప్లీషన్స్ API సూచనను చూడండి.