概述
您可以通过两种方式查看 API 用量:
使用用量仪表板查看当前和以往账单周期内的活动。
读取 API 响应中的用量信息,以检查单个请求。
Playground 使用的 API 调用与您的应用相同。其中的 Token 会计入您账户的 API 用量,并遵循相同的用量规则和定价。
仪表板访问权限
您必须是组织所有者或拥有用量仪表板权限,才能访问用量仪表板。
选择项目
该仪表板有独立的项目选择器。它与 API 平台中其他位置选择的项目相互独立。
使用仪表板的选择器可查看一个、多个或所有项目。要查看组织的整体数据,请清除已选项目。未选择任何项目时,仪表板会显示所有项目的数据。
查看单个用户的用量
要查看某个用户的 Responses 和 Chat Completions 用量:
在用量仪表板中,前往 API 功能 > Responses 和 Chat Completions。
选择筛选方式。
在用户下选择相应用户,然后选择应用筛选条件。
查看每分钟 Token 数量
用量详情页面支持选择时间间隔。选择 1 分钟的时间间隔,以查看每分钟 Token 数量 (TPM)。
此时间间隔适用于用量数据,不适用于账单数据。
用量大于零,但项目支出为零
检查该模型的用量是否包含在您的规模层级分配额度内。如果该模型的所有用量均未超出规模层级的 TPM 分配额度,项目可能会显示用量,但不会产生额外的模型支出。
规模层级订阅费用仍归入组织层级。查看方法:
清除用量仪表板中的项目筛选条件。
选择支出类别。
查看多个组织
用量仪表板不会合并不同组织的费用或用量数据。每个组织(包括子组织)均单独处理。
要查看子组织,请在组织选择器中选择该组织。
如果需要合并报告,可考虑在同一组织中使用项目,而不是使用单独的子组织;也可以使用用量 API 进行自定义分析。
检查 API 响应中的 Token 用量
Token 用量字段的名称因端点而异。
| Token 数量 | Chat Completions | Responses |
| 输入 Token | usage.prompt_tokens | usage.input_tokens |
| 输出 Token | usage.completion_tokens | usage.output_tokens |
| Token 总数 | usage.total_tokens | usage.total_tokens |
例如,Chat Completions 响应可能包含:
| { "usage": { "prompt_tokens": 13, "completion_tokens": 7, "total_tokens": 20 }} |
根据端点和模型的不同,用量详情还可能包括缓存输入 Token 和推理 Token 的数量。这些信息有助于解释为什么响应的可见长度无法反映其完整的 Token 用量。
有关不同 Token 类别的说明,请参阅:了解和计算 Token。
获取流式 Chat Completions 的用量
对于流式 Chat Completions 请求,请包含:
| { "stream": true, "stream_options": { "include_usage": true }} |
启用 include_usage 后,data: [DONE] 之前会额外返回一个数据块,其中包含整个请求的用量。其 choices 数组为空。其他数据块的 usage 值为 null。
如果数据流中断,您可能无法收到最后的用量数据块。未收到最后的数据块并不表示该请求没有使用 Token。
此配置仅适用于 Chat Completions。有关详细信息,请参阅 Chat Completions API 参考。
