概覽
您可以透過以下兩種方式查看 API 用量:
使用用量儀表板查看目前及過往帳單週期內的活動。
查看 API 回應中的用量資訊,以檢查個別要求。
Playground 使用與您的應用程式相同的 API 呼叫。當中使用的 Token 會計入您帳戶的 API 用量,並遵循相同的用量規則和定價。
儀表板存取權限
您必須是機構擁有者或具有用量儀表板權限,才能存取用量儀表板。
選擇專案
儀表板設有獨立的專案選擇器。其運作不受您在 API 平台其他位置所選的專案影響。
您可以使用儀表板的選擇器查看單一、多個或所有專案。如要查看機構的整體資料,請清除已選專案。未有選擇任何專案時,儀表板會顯示所有專案的資料。
查看個別用戶的用量
如要查看個別用戶的 Responses 和 Chat Completions 用量:
在用量儀表板中,前往 API 功能 > Responses 和 Chat Completions。
選擇篩選依據。
在用戶下選擇用戶,然後選擇套用篩選條件。
查看每分鐘 Token 數量
用量詳情頁面支援選擇時間間隔。選擇 1 分鐘間隔,以查看每分鐘 Token 數量 (TPM)。
此時間間隔適用於用量資料,而非帳單資料。
用量大於零,但專案支出為零
請檢查模型用量是否由您的規模層級配額涵蓋。如果該模型的所有用量均在規模層級的 TPM 配額內,專案可能會顯示用量,但不會產生額外的模型支出。
規模層級的訂閱費用仍會計入機構層級。查看方法:
在用量儀表板中清除專案篩選條件。
選擇支出類別。
查看多個機構
用量儀表板不會合併不同機構的費用或用量資料。每個機構(包括子機構)均會分開處理。
如要查看子機構,請在機構選擇器中選取該機構。
如需綜合報告,可考慮在單一機構內使用多個專案,而非建立獨立子機構;亦可使用用量 API 進行自訂分析。
檢查 API 回應中的 Token 用量
Token 用量欄位名稱視乎端點而定。
| Token 數量 | Chat Completions | Responses |
| 輸入 Token | usage.prompt_tokens | usage.input_tokens |
| 輸出 Token | usage.completion_tokens | usage.output_tokens |
| Token 總數 | usage.total_tokens | usage.total_tokens |
例如,Chat Completions 回應可包含:
| { "usage": { "prompt_tokens": 13, "completion_tokens": 7, "total_tokens": 20 }} |
視乎端點和模型,用量詳情亦可能包含快取輸入及推理 Token 的數量。這些資料有助解釋為何回應的可見長度未能反映完整的 Token 用量。
如要了解不同 Token 類別,請參閱:了解及計算 Token。
取得串流 Chat Completions 的用量
如要提出串流 Chat Completions 要求,請加入:
| { "stream": true, "stream_options": { "include_usage": true }} |
啟用 include_usage 後,data: [DONE] 前會出現一個額外區塊,其中包含整項要求的用量。其 choices 陣列為空。其他區塊的 usage 值為 null。
如果串流中斷,您可能無法收到最後的用量區塊。缺少最後一個區塊並不表示該要求沒有使用任何 Token。
此設定僅適用於 Chat Completions。詳情請參閱 Chat Completions API 參考資料。
