概覽
您可以透過兩種方式查看 API 使用情況:
使用使用情況儀表板查看目前及過往帳單週期內的活動。
查看 API 回應中的使用情況資訊,以檢查個別請求。
Playground 使用的 API 呼叫與您的應用程式相同。其 Token 會計入您帳戶的 API 使用量,並遵循相同的使用規則與定價。
儀表板存取權
您必須是組織擁有者,或具備使用情況儀表板權限,才能存取使用情況儀表板。
選取專案
儀表板有自己的專案選取器。其運作不受 API 平台其他位置所選專案的影響。
使用儀表板的選取器查看單一、多個或所有專案。若要查看整個組織的資料,請清除已選取的專案。未選取任何專案時,儀表板會顯示所有專案的資料。
查看個別使用者的使用情況
若要查看某位使用者的 Responses 與 Chat Completions 使用情況:
在使用情況儀表板中,前往API 功能 > Responses 和 Chat Completions。
選取篩選依據。
在使用者下選取該使用者,然後選取套用篩選條件。
查看每分鐘 Token 數
使用情況詳細資料頁面支援選取時間間隔。選取 1 分鐘間隔,以查看每分鐘 Token 數(TPM)。
此時間間隔適用於使用情況資料,而非帳單資料。
使用量大於零,但專案支出為零
請確認該模型的使用量是否涵蓋在您的規模層級配額內。如果該模型的所有使用量都在規模層級的 TPM 配額內,專案可能會顯示使用量,但不會產生額外的模型支出。
規模層級的訂閱費用仍會歸於組織層級。若要查看該費用:
清除使用情況儀表板中的專案篩選條件。
選取支出類別。
查看多個組織
使用情況儀表板不會合併不同組織的費用或使用情況資料。每個組織(包括子組織)都會分開處理。
若要查看子組織,請在組織選取器中選取該子組織。
如果需要合併報告,可考慮在單一組織內使用專案,而不要建立不同的子組織;也可以使用使用情況 API進行自訂分析。
查看 API 回應中的 Token 用量
Token 用量的欄位名稱因端點而異。
| Token 數量 | Chat Completions | Responses |
|---|---|---|
| 輸入 Token | usage.prompt_tokens | usage.input_tokens |
| 輸出 Token | usage.completion_tokens | usage.output_tokens |
| Token 總數 | usage.total_tokens | usage.total_tokens |
例如,Chat Completions 回應可能包含:
{
"usage": {
"prompt_tokens": 13,
"completion_tokens": 7,
"total_tokens": 20
}
}視端點與模型而定,用量明細也可能包含快取輸入 Token 和推理 Token 的數量。這些資訊有助於說明,為何回應的可見內容長度無法反映完整的 Token 用量。
如需瞭解不同 Token 類別的說明,請參閱:瞭解與計算 Token。
取得 Chat Completions 串流回應的用量
在 Chat Completions 串流請求中,加入以下設定:
{
"stream": true,
"stream_options": {
"include_usage": true
}
}啟用 include_usage 後,系統會在 data: [DONE] 之前額外傳送一個資料區塊,其中包含整個請求的用量。該區塊的 choices 陣列為空。其他區塊的 usage 值為 null。
如果串流中斷,你可能無法收到最後的用量區塊。未收到最後的區塊,並不代表該請求未使用任何 Token。
這項設定僅適用於 Chat Completions。詳情請參閱:Chat Completions API 參考文件。
