OpenAI
此頁面由機器翻譯。查看原文英文文章

API Platform - 現有企業客戶的規模層級

更新日期:7 hours ago

API Platform 上的規模層級讓你可預先購買每分鐘固定數量的 API 輸入及輸出 token(稱為「token 單位」),以存取一個專用模型快照。每個 token 單位的最短購買期為 30 天。

簽署訂單表格後,你可透過你的 API Platform 帳戶新增或移除 token 單位。請注意,只有機構擁有人及獲授權用戶才可查看規模層級設定,以及購買輸入和輸出 token 單位。

了解更多有關規模層級定價的資訊。

如何存取我的規模層級設定?

API Platform 機構擁有人可按一下頁面右上角的設定齒輪,然後在畫面左側選單的「Organization」部分下選擇 Scale Tier,以存取其規模層級設定。

Image

規模層級設定頁面可讓你新增更多容量、查看輸入 token 用量、規劃容量、查看已配置的 token,以及檢視獲授權購買者。

如何購買更多容量?

你可在規模層級頁面右上角按一下 Add capacity 按鈕以購買容量。請參閱我們的規模層級主頁,了解每個輸入及輸出 token 單位的 TPM 配額最新詳情。

選擇你要購買的 token 類型後,你可直接輸入數量,或移動滑桿以選擇想購買的 token 數量。當你更改 token 時,滑桿可讓你在 Summary 下輕鬆查看 TPM 變化。我們亦會就需購買的單位數量提供建議,以涵蓋你過去 30 天的流量。

Add token capacity dialog for gpt-4o with Input Tokens selected and input limit increasing from 40K to 60K

完成選擇後,按一下 Checkout,於下一個模態視窗確認購買。

請注意,我們在摘要中顯示的價格為標準費率,未包括你機構訂單表格中議定的任何折扣。任何適用折扣將套用並反映於向你機構發出的發票中。任何已購買的單位將維持有效至下一個發票週期開始,之後每日自動續期。

如何啟用呼叫以使用規模層級 token?

你需要將 Project Settings 下的 Scale Tier Enabled 切換掣設為開啟。

如果你使用的是 Completions API,亦請參閱我們說明 docsservice_tier鍵的內容,以決定你應否手動設定,或依賴預設行為。

對 Responses API 的呼叫預設為 service_tier=auto。若某個專案已啟用 Scale Tier Enabled,則省略 service_tier(或使用 auto)的請求會在有可用規模層級配額時預設使用規模層級。帶有 service_tier=default 的請求則會使用共享/PAYG 運算資源。

如何查看我的購買記錄及已過期 token?

你可在規模層級頁面中,於 Provisioned tokens 下選擇模型,以查看你的規模層級購買記錄。

Provisioned tokens table with active allocations for gpt-4o and gpt-4o-mini

選擇模型後,你便可在頁面底部查看 Expired tokens 及 Prior transactions。

Image

如何編輯我的 token 容量?

你可在規模層級頁面的 Provisioned tokens 下選擇模型,以編輯該模型的 token 容量。選擇模型後,在 Active 標題下找到你的購買項目,然後按一下購買項目旁的 Cancel 以進行編輯

Image

在模態視窗中,你可直接輸入要取消的單位數量,或使用滑桿在作出選擇時模擬 TPM。

Edit Token Capacity dialog for gpt-4o canceling 1 package and reducing output limit TPM from 2.248M to 2.246M

如何查看我的規模層級 RPM/TPM 及用量?

你可在規模層級頁面查看你機構的 API 用量摘要。所有日期和時間均以 UTC 為準,數據可能最多延遲 5 分鐘。

Input token usage chart for the last 30 days with several spikes and a peak near 700K

你可在 Activity Usage Dashboard 的模型下拉式選單中選擇你的規模層級模型,以查看用量。你可在 30 天、1 天及 15 分鐘的視窗中查看這些數據。你的用量數據會以堆疊方式顯示,展示模型由規模層級涵蓋的用量,以及由你的帳戶方案涵蓋的用量。

請注意,只有機構擁有人可查看 Usage Dashboard。

我何時會在用量儀表板看到 token 容量變更已反映?

你所作的變更最多可能需要 24 小時才會反映出來。變更本身則幾乎會即時生效。

這篇文章對你有幫助嗎?