你可透過以下兩個主要選項查看 token 使用量:
1. 使用量儀表板
使用量儀表板會顯示你在目前及過往每月帳單週期內的 API 使用量。如要顯示你組織帳戶中特定使用者的使用量,可使用「每日使用量細分」旁邊的下拉式選單。
2. API 回應中的使用量資料
你亦可透過 API 存取 token 使用量資料。token 使用量資料會包含在我們端點的回應中,位於 usage 鍵之下。
例如:
{
"id": "chatcmpl-abc123",
"object": "chat.completion",
"created": 1677858242,
"model": "gpt-3.5-turbo",
"usage": {
"prompt_tokens": 13,
"completion_tokens": 7,
"total_tokens": 20
},
"choices": [
{
"message": {
"role": "assistant",
"content": "This is a test!"
}
}
]
}如果你正為我們的補全功能使用串流,並想存取使用量資料,請確保你的 stream_options 參數包含以下內容:
stream_options: {"include_usage": true}。以下是我們關於如何串流傳送補全結果的 Cookbook,以及有關串流的平台文件。
