Есть два основных способа проверить использование токенов:
1. Панель использования
Панель использования показывает использование вашего API за текущий и прошлые месячные расчетные циклы. Чтобы показать использование определенным пользователем вашего организационного аккаунта, используйте раскрывающееся меню рядом с «Daily usage breakdown».
2. Данные об использовании из ответа API
Вы также можете получить данные об использовании токенов через API. Информация об использовании токенов включается в ответы наших конечных точек в ключе usage.
Пример:
{
"id": "chatcmpl-abc123",
"object": "chat.completion",
"created": 1677858242,
"model": "gpt-3.5-turbo",
"usage": {
"prompt_tokens": 13,
"completion_tokens": 7,
"total_tokens": 20
},
"choices": [
{
"message": {
"role": "assistant",
"content": "This is a test!"
}
}
]
}Если вы используете потоковую передачу при генерации ответов и хотите получать данные об использовании, убедитесь, что параметр stream_options содержит следующее:
stream_options: {"include_usage": true}. О том, как передавать результаты генерации в потоковом режиме, читайте в нашем руководстве, а дополнительные сведения см. в документации платформы.