OpenAI

API 平台:適用於現有企業客戶的規模層級

更新日期:21 days ago

API 平台上的規模層級可讓你預先購買固定數量的每分鐘 API 輸入及輸出 Token 單位,用於存取單一專屬模型快照。每個 Token 單位的最低購買時數為 30 天。在你簽署訂購表格後,你可以透過API Platform 帳戶新增和移除 Token 單位。請注意,只有組織擁有者和授權使用者可以檢視規模層級設定,並購買輸入和輸出 Token 單位。深入了解規模層級的定價。

如何存取我的 Scale Tier 設定?

API Platform 組織擁有者可以選取頁面右上角的「設定」齒輪圖示,然後在螢幕左側選單的「組織」區段下選取「規模層級」,以存取其 規模層級 設定。

Image

規模層級設定頁面可讓你增加更多容量、檢視輸入 Token 使用量、進行容量規劃、檢視已佈建的 Token,以及審閱授權購買者。

如何加購更多容量?

您可以在您的 規模層級 頁面右上角選取 [新增容量] 按鈕來購買容量。請參閱我們的 規模層級主頁面,以取得每個輸入與輸出 Token 單位對應的 TPM 額度最新資訊。

選擇要購買的 Token 類型後,你可以直接輸入數量,或拖曳滑桿選取想購買的 Token 數量。拖曳滑桿調整 Token 時,你可以在「摘要」下方輕鬆查看 TPM 的變化。我們也會提供建議的購買單位數量,讓你能涵蓋過去 30 天的流量。

Add token capacity dialog for gpt-4o with Input Tokens selected and input limit increasing from 40K to 60K

完成選取後,請選取「結帳」,以在下一個對話框中確認購買。

請注意,本摘要中顯示的價格為我們的標準費率,並未包含貴機構訂購單中協商的任何折扣。任何適用的折扣都將套用,並反映在開立給貴機構的發票中。所購買的任何單位都會持續啟用,直到下一個發票週期開始為止,之後將每日續訂。

我要如何啟用請求以使用規模層級 Token?

你需要在「專案設定」中,將 規模層級 Enabled 切換開關設為開啟。

如果你使用的是 Completions API,也請參閱我們的說明文件,其中說明 service_tier 鍵,以判斷你是否應手動設定該值,或依賴預設行為。

對回應 API 的呼叫預設為 service_tier=auto。如果專案已啟用規模層級,當有可用的規模層級配額時,省略 service_tier(或使用 auto)的要求預設會使用規模層級。service_tier=default 的請求將使用共用/PAYG 運算資源。

如何查看我的購買紀錄和已過期的 token?

您可以在 規模層級 頁面中,於「已佈建的 Token」下選取模型,以查看您的規模層級購買記錄。

Provisioned tokens table with active allocations for gpt-4o and gpt-4o-mini

選擇模型後,你就能在頁面底部查看「已過期的 Token」和「先前交易」。

Image

我要如何修改我的 Token 容量?

你可以在 規模層級 頁面的「已佈建的 Token」下選取模型,以編輯模型的 Token 容量。選取模型後,請在「啟用中」標題下找到購買項目,然後選取購買項目旁的「取消」以進行編輯。

Image

在模式視窗中,你可以直接輸入要取消的單位數量,或在選擇時使用滑桿調整 TPM 模型。

Edit Token Capacity dialog for gpt-4o canceling 1 package and reducing output limit TPM from 2.248M to 2.246M

如何查看我的規模層級 (Scale Tier) RPM/TPM 和使用量?

你可以在你的規模層級頁面查看你組織的 API 使用情況摘要。所有日期和時間皆以 UTC 為基準,資料最多可能會延遲 5 分鐘。

Input token usage chart for the last 30 days with several spikes and a peak near 700K

你可以在模型下拉式選單中選取你的規模層級模型,並在「活動使用量資訊主頁」中查看你的使用情況。你可以使用 30 天、1 天和 15 分鐘的時間範圍檢視此資料。你的使用量資料會以堆疊方式顯示,以呈現該模型由你的規模層級涵蓋的使用量,以及由你的帳戶方案涵蓋的使用量。

請注意,使用量資訊主頁僅限組織擁有者檢視。

我什麼時候會在用量資訊主頁中看到我的 Token 變更反映出來?

您所做的變更可能需要長達 24 小時才會反映出來。這些變更本身將幾乎立即生效。

這篇文章有幫助嗎?