トークン使用量を確認する主な方法は 2 つあります:
1. 使用状況ダッシュボード
使用状況ダッシュボードには、現在および過去の月次請求サイクルにおける API 使用量が表示されます。組織アカウントの特定のユーザーの使用状況を表示するには、「日次使用量の内訳」の横にあるドロップダウンを使用できます。
2. API レスポンスからの使用状況データ
API からトークン使用状況データにアクセスすることもできます。トークン使用量情報は、当社のエンドポイントからのレスポンスの usage キーに含まれています。
例を以下に示します:
{
"id": "chatcmpl-abc123",
"object": "chat.completion",
"created": 1677858242,
"model": "gpt-3.5-turbo",
"usage": {
"prompt_tokens": 13,
"completion_tokens": 7,
"total_tokens": 20
},
"choices": [
{
"message": {
"role": "assistant",
"content": "これはテストです！"
}
}
]
}当社の completions でストリーミングを使用していて、使用状況データにアクセスしたい場合は、stream_options パラメーターに次の内容が含まれていることを確認してください:
stream_options: {"include_usage": true}.ストリーミングについては、Cookbook の Completions をストリーミングする方法と、プラットフォームドキュメントをご覧ください。