Има две основни опции за проверка на използването на токени:
1. Табло за използването
Таблото за използването показва използването на API от вас през текущия и предишните месечни цикли на фактуриране. За да покажете използването от конкретен потребител на организационния ви акаунт, можете да използвате падащото меню до „Разбивка на дневното използване“.
2. Данни за използването от отговора на API
Можете също да получите достъп до данните за използването на токени чрез API. Информацията за използването на токени е включена в отговорите от нашите крайни точки под ключа usage.
Ето пример:
{
"id": "chatcmpl-abc123",
"object": "chat.completion",
"created": 1677858242,
"model": "gpt-3.5-turbo",
"usage": {
"prompt_tokens": 13,
"completion_tokens": 7,
"total_tokens": 20
},
"choices": [
{
"message": {
"role": "assistant",
"content": "Това е тест!"
}
}
]
}Ако използвате стрийминг за нашите completions и искате достъп до данните за използването, уверете се, че параметърът stream_options съдържа следното:
stream_options: {"include_usage": true}. Ето нашия cookbook за Как да стриймвате completions и нашата документация за платформата относно стрийминга.