總覽
你可以透過兩種方式查看 API 用量:
使用分析 > 用量,查看目前及過往報告期間的 API 活動。
讀取 API 回應中的用量資訊,以檢查個別請求。
Playground 與你的應用程式使用相同的 API 呼叫。其 Token 會計入你帳戶的 API 用量,並適用相同的使用規則及收費標準。
儀表板存取權限
您必須是機構擁有者或具有用量儀表板權限,才能存取用量儀表板。
在儀表板中查看用量
在 API 平台開啟分析,然後選取用量,即可查看目前專案的用量。如要查看整個組織的報告,請選取組織分析。選取你想查看的報告期間,並在切換專案分析與組織分析後再次確認。
儀表板數據以 UTC 顯示。將儀表板活動與應用程式記錄作比較時,請留意此時區。
近期用量可能需要一段時間才會顯示在儀表板上。如果未見近期活動,請稍後再查看。
篩選用量
專案分析中的用量僅限於所選專案。在組織分析中,使用專案選取你想查看的專案。所有專案涵蓋組織內的每個專案,但仍受其他已選取的篩選條件限制。
使用篩選條件,按 API 來源、API 金鑰、模型、使用者或處理層級縮小用量範圍。API 來源可讓你選取所有 API 來源、Agents API 或直接 API。
移除個別選取項目,或選取清除篩選條件以重設篩選條件面板。清除篩選條件不會切換專案分析與組織分析。
使用用量圖表上的篩選,按批次篩選。選取重設圖表篩選條件,即可重設該圖表的篩選條件。
如果某項功能不支援所選篩選條件,其數值可能無法顯示。數值無法顯示並不代表用量為零。
如果篩選條件顯示權限錯誤,你可能沒有權限存取其選項。這不代表沒有記錄到任何用量。
查看個別使用者的用量
在你想查看的專案或組織分析畫面中,開啟用量。在 API 功能表格中,選取 Responses 和 Chat Completions 的查看。
在篩選條件中選取使用者,然後選取該使用者。結果會即時更新。
查看該使用者的圖表及表格。
如要查看某位使用者在各項功能的用量,請在用量總覽套用使用者篩選條件。如要比較不同使用者,請清除該篩選條件,並選取表格的使用者分頁。
查看每日、每小時或每分鐘的 Token 數
如果用量提供時間間隔控制項,請選取 1 天或 1 小時以查看每日或每小時的 Token 數,或選取 1 分鐘以查看每分鐘 Token 數(TPM)。選取自動,讓儀表板按報告期間選擇時間間隔。這些時間間隔適用於用量數據,而非計費數據。
如果 1 分鐘選項已停用,請選取較短的報告期間,或使用選取以縮放並在圖表上拖曳,以縮小範圍。然後選取 1 分鐘。按 Esc 取消縮放範圍的選取。選取分析工具列中目前的日期範圍,即可選擇其他報告期間。
查看用量圖表及表格
使用指標選取一個或多個數據系列,以便一併顯示,包括輸入 Token、未快取輸入 Token、已快取輸入 Token、快取寫入輸入 Token、輸入音訊 Token、輸出 Token及輸出音訊 Token。可用指標視乎功能而定。使用圖例識別各個數據系列。
使用分組依據,按可用的類別(例如專案、使用者或模型)整理用量。篩選條件決定納入哪些用量;分組則決定用量的顯示方式。切換折線圖與長條圖,以查看趨勢或比較不同類別。
使用用量表格的分頁,查看可用的分類明細。表格會在每一列顯示相關數值,例如請求數、輸入和輸出 Token 數,或特定功能的計量單位。
在 API 功能中,選取某項功能的查看,開啟其詳細圖表及分類明細。Responses 和 Chat Completions 分別提供 Token 及請求圖表,以及模型請求指標。其分類明細分頁採用與總覽相同的維度,但不設 API 功能分頁。使用導覽路徑中的用量返回總覽。
選取分組依據選項後,圖表可能會將其餘類別合併為其他。如果圖例中出現其他,請選取該標籤,查看其中包含的類別及各自的用量數值。
選取比較儀表板,即可並排查看同一報告期間的用量及另一個儀表板。使用左側儀表板及右側儀表板選取檢視畫面。如果這對儀表板不支援所選的時間間隔,檢視畫面便會切換至自動。選取結束比較以返回儀表板。
查明來源不明的用量
如果用量顯示的活動無法對應至應用程式記錄中的請求,請進行以下檢查:
確認組織、專案範圍及報告期間。比較儀表板時間戳記與應用程式記錄時,請使用 UTC。
開啟相關專案的專案檢視畫面,或在組織分析的專案下選取該專案。然後使用篩選條件,按 API 金鑰及模型縮小用量範圍,並選取較短的報告期間。
將活動與同一期間、專案及 API 金鑰的記錄作比較。檢查記錄是否涵蓋所有使用該金鑰的應用程式或整合服務。
如果多個應用程式或整合服務共用同一專案或 API 金鑰,單憑總用量未必能識別請求的來源。將儀表板與各個應用程式在同一 UTC 時段的記錄作比較。
如果仍無法查明用量來源,請聯絡 OpenAI 支援團隊,並提供相關 UTC 時段、組織及專案 ID、API 金鑰識別碼,以及相關螢幕截圖或記錄。如有請求 ID,亦請一併提供。請勿提供 API 金鑰的秘密值。
匯出用量數據
如要匯出用量,請在分析工具列中選取匯出 CSV圖示,然後選取活動數據。
選取 API 功能,以及一個或多個分組依據維度。
檢查 API 來源、專案、使用者、API 金鑰及模型。專案及 API 來源會沿用分析中的選取項目;其他匯出篩選條件則需在對話方塊中選取。
選取檔案格式、開始時間、結束時間及時間間隔,然後選取下載。日期涵蓋完整的 UTC 日。
你可以查看及匯出從一個曆年前當日 UTC 00:00 起至今天的活動及費用數據。如需更早的數據,請聯絡 OpenAI 支援團隊。每日數據會分批匯出,每個檔案涵蓋 31 天。
如需按月核對發票或匯出明細項目,請參閱:匯出每月用量明細。
如果匯出的活動數據包含負數資料列,請比較單位、分組及日期相同的資料列。如要查看已計費金額,請使用費用數據。單憑一列負數活動數據,並不能確定發票金額已獲抵扣。
查看支出
開啟分析並選取支出,即可查看目前專案的費用。如要查看整個組織的費用,請選取組織分析,然後選取支出。
比較費用與用量前,請先檢查目前的日期範圍及篩選條件。用量及支出提供不同的篩選條件;一個儀表板可用的篩選條件,未必適用於另一個。
使用 API 來源、API 金鑰、模型及明細項目,縮小支出範圍。在組織分析中,使用專案納入你想查看的專案。使用表格的明細項目、API 金鑰、使用者、專案及模型分頁,查看可用的分類明細。
支出上限數值無法顯示,並不代表上限為零或已套用新的上限。存取權限不足、尚未設定上限或請求失敗,都可能令儀表板無法顯示數值。
查看服務健康狀態
如果你的組織有權存取服務健康狀態,請在分析中開啟該儀表板,以查看 API 效能。有關使用資格及指標定義,請參閱:排解 API 錯誤及延遲問題。
查看獲發積分
你可以在組織的帳單頁面查看獲發積分的詳情。
獲發積分與 API 用量反映不同資訊:獲發積分顯示與組織相關的積分,而用量則顯示組織的 API 活動。
用量大於零,但專案支出為零
檢查模型用量是否由你的規模層級配額涵蓋。如果該模型的所有用量均在規模層級的 TPM 配額之內,專案便可能顯示有用量,但沒有額外的模型支出。
規模層級的訂閱費用仍計入組織層面。請查看整個組織的支出,而非僅以個別專案的支出作判斷。
查看多個組織的數據
用量儀表板不會合併不同組織的費用或用量數據。每個組織(包括子組織)均獨立處理。
如要查看子組織,請在組織選擇器中選取該子組織。
如需合併報告,可考慮在同一組織內使用不同專案,而非建立獨立的子組織,或使用 Usage API 進行自訂分析。
檢查 API 回應中的 Token 用量
Token 用量的欄位名稱視乎端點而定。
| Token 數量 | Chat Completions | Responses |
|---|---|---|
| 輸入 Token | usage.prompt_tokens | usage.input_tokens |
| 輸出 Token | usage.completion_tokens | usage.output_tokens |
| Token 總數 | usage.total_tokens | usage.total_tokens |
Chat Completions 回應可包含 Token 用量資訊。例子包括:
{
"usage": {
"prompt_tokens": 13,
"completion_tokens": 7,
"total_tokens": 20
}
}視乎所用的端點和模型,用量明細亦可能包含快取輸入及推理 Token 的數量。這些數據有助說明為何回應的可見長度無法反映其完整的 Token 用量。
如需了解不同 Token 類別的說明,請參閱:了解及計算 Token。
如果轉錄回應提供 Token 用量,音訊及文字輸入 Token 已計入 input_tokens。請勿將這些部分再次加進輸入總量。請另行比對 output_tokens。
從串流 Chat Completions 取得用量
發出串流 Chat Completions 請求時,請加入:
{
"stream": true,
"stream_options": {
"include_usage": true
}
}啟用 include_usage 後,data: [DONE] 之前會多出一個區塊,當中包含整個請求的用量。該區塊的 choices 陣列為空。其他區塊的 usage 值為 null。
如果串流中斷,你可能無法收到最後這個用量區塊。未收到最後一個區塊,並不代表該請求沒有使用任何 Token。
此設定僅適用於 Chat Completions。詳情請參閱:Chat Completions API 參考文件。
