Есть два основных способа проверить использование токенов:
1. Панель использования
Панель использования показывает использование вашего API за текущий и прошлые месячные расчетные циклы. Чтобы показать использование определенным пользователем вашего организационного аккаунта, используйте раскрывающееся меню рядом с «Daily usage breakdown».
2. Данные об использовании из ответа API
Вы также можете получить данные об использовании токенов через API. Информация об использовании токенов включается в ответы наших конечных точек в ключе usage.
Пример:
{
"id": "chatcmpl-abc123",
"object": "chat.completion",
"created": 1677858242,
"model": "gpt-3.5-turbo",
"usage": {
"prompt_tokens": 13,
"completion_tokens": 7,
"total_tokens": 20
},
"choices": [
{
"message": {
"role": "assistant",
"content": "This is a test!"
}
}
]
}Если вы используете потоковую передачу для наших завершений и хотите получить доступ к данным об использовании, убедитесь, что ваш параметр stream_options содержит следующее:
stream_options: {"include_usage": true}. Вот наш материал Cookbook о том, как передавать завершения в потоковом режиме, и наша документация платформы о потоковой передаче.