Există două opțiuni principale pentru verificarea utilizării tokenurilor:
1. Panou de utilizare
Panoul de utilizare afișează utilizarea API-ului în ciclurile de facturare lunare curent și anterioare. Pentru a afișa utilizarea unui anumit utilizator al contului tău organizațional, poți folosi meniul derulant de lângă „Defalcare zilnică a utilizării”.
2. Date de utilizare din răspunsul API
Poți accesa datele de utilizare a tokenurilor și prin API. Informațiile despre utilizarea tokenurilor sunt incluse în răspunsurile de la punctele noastre finale, sub cheia usage.
Iată un exemplu:
{
"id": "chatcmpl-abc123",
"object": "chat.completion",
"created": 1677858242,
"model": "gpt-3.5-turbo",
"usage": {
"prompt_tokens": 13,
"completion_tokens": 7,
"total_tokens": 20
},
"choices": [
{
"message": {
"role": "assistant",
"content": "Acesta este un test!"
}
}
]
}Dacă folosești streamingul pentru completările noastre și vrei să accesezi datele de utilizare, asigură-te că parametrul stream_options conține următoarele:
stream_options: {"include_usage": true}. Iată ghidul nostru cookbook pentru Cum să transmiți în streaming completările și documentația platformei noastre despre streaming.