概覽
您可以透過兩種方式查看 API 使用情況:
使用使用情況儀表板查看目前及過往帳單週期內的活動。
查看 API 回應中的使用情況資訊,以檢查個別請求。
Playground 使用的 API 呼叫與您的應用程式相同。其 Token 會計入您帳戶的 API 使用量,並遵循相同的使用規則與定價。
儀表板存取權
您必須是組織擁有者,或具備使用情況儀表板權限,才能存取使用情況儀表板。
選取專案
儀表板有自己的專案選取器。其運作不受 API 平台其他位置所選專案的影響。
使用儀表板的選取器查看單一、多個或所有專案。若要查看整個組織的資料,請清除已選取的專案。未選取任何專案時,儀表板會顯示所有專案的資料。
查看個別使用者的使用情況
若要查看某位使用者的 Responses 與 Chat Completions 使用情況:
在使用情況儀表板中,前往API 功能 > Responses 和 Chat Completions。
選取篩選依據。
在使用者下選取該使用者,然後選取套用篩選條件。
查看每分鐘 Token 數
使用情況詳細資料頁面支援選取時間間隔。選取 1 分鐘間隔,以查看每分鐘 Token 數(TPM)。
此時間間隔適用於使用情況資料,而非帳單資料。
使用量大於零,但專案支出為零
請確認該模型的使用量是否涵蓋在您的規模層級配額內。如果該模型的所有使用量都在規模層級的 TPM 配額內,專案可能會顯示使用量,但不會產生額外的模型支出。
規模層級的訂閱費用仍會歸於組織層級。若要查看該費用:
清除使用情況儀表板中的專案篩選條件。
選取支出類別。
查看多個組織
使用情況儀表板不會合併不同組織的費用或使用情況資料。每個組織(包括子組織)都會分開處理。
若要查看子組織,請在組織選取器中選取該子組織。
如果需要合併報告,可考慮在單一組織內使用專案,而不要建立不同的子組織;也可以使用使用情況 API進行自訂分析。
檢查 API 回應中的 Token 使用量
Token 使用量的欄位名稱因端點而異。
| Token 數量 | Chat Completions | Responses |
| 輸入 Token | usage.prompt_tokens | usage.input_tokens |
| 輸出 Token | usage.completion_tokens | usage.output_tokens |
| Token 總數 | usage.total_tokens | usage.total_tokens |
例如,Chat Completions 回應可能包含:
| { "usage": { "prompt_tokens": 13, "completion_tokens": 7, "total_tokens": 20 }} |
視端點和模型而定,使用情況詳細資料也可能包含快取輸入和推理 Token 的數量。這些資料有助於說明,為何回應的可見長度無法反映其完整的 Token 使用量。
如需各種 Token 類別的說明,請參閱:瞭解及計算 Token。
取得串流 Chat Completions 的使用情況
對於串流 Chat Completions 請求,請加入:
| { "stream": true, "stream_options": { "include_usage": true }} |
啟用 include_usage 後,data: [DONE] 之前會多出一個區塊,其中包含整個請求的使用情況。其 choices 陣列為空。其他區塊的 usage 值為 null。
如果串流中斷,您可能不會收到最後的使用情況區塊。未收到最後一個區塊不代表該請求未使用任何 Token。
此設定僅適用於 Chat Completions。如需詳細資訊,請參閱 Chat Completions API 參考資料。
