OpenAI
此頁面由機器翻譯。查看原始英文文章。

快速模式常見問題

快速模式與超快速服務層級的常見問題。

更新日期:28 minutes ago

我們提供快速模式,讓 API 客戶在使用特定模型時,能獲得更快速、更穩定的效能。以下整理了運作方式、定價、可用模型、速率限制、可靠性、政策及使用資格等常見問題的解答。

注意:優先處理已於 2026 年 7 月 30 日更名為快速模式。你可以在 API 請求中使用 service_tier: priority 或 service_tier: fast。 

進一步了解快速模式。

所有地區都能使用快速模式嗎?

快速模式是否開放使用,取決於各司法管轄區的適用法律與法規。如果你對所在地區的開放情況有任何疑問,請聯絡你的 OpenAI 代表。

運作方式

客戶可使用現有的 service_tier 參數,將選項設為 service_tier = "fast",逐筆將請求導向快速模式。

快速模式處理的 Token 會按 Token 數量計費,單價高於標準處理。

除了逐筆請求設定外,你也可以在專案設定 > 專案預設服務層級:快速中,將專案預設為快速模式。你仍可針對個別請求覆寫此設定。在專案設定中選擇「快速」,等同於選擇優先。

快速模式與規模層級有何關係?

規模層級與快速模式將維持彼此獨立。傳送至快速模式的請求將另外計費,不會扣除你已購買的規模層級 TPM 套組配額。

我可以將超出規模層級配額的流量自動轉送至快速模式嗎?

不行。傳送至規模層級的流量,即使超出配額,也不會自動轉送至快速模式。

快速模式如何計費?

快速模式處理的 Token 將按 Token 數量計費,單價高於標準處理。

我的年度承諾支出是否綁定特定處理模式?

不會。所有處理模式的費用,都會計入企業合約的年度承諾支出。

快取的輸入 Token 仍可享有折扣嗎?

可以。符合資格的快取輸入 Token 可享有與標準處理相同的折扣。

如何查看快速模式的用量與支出?

若要查看快速模式(原稱優先處理)處理的 Token 數量,請前往用量儀表板,選擇 Chat Completions 或 Responses,再選擇依服務層級分組。

若要查看快速模式的費用,請前往用量儀表板,並選擇依明細項目分組。

在用量儀表板中,GPT-5.6 及更早模型的快速模式請求會顯示為 priority,即使請求指定的是 fast 也一樣。

模型

快速模式支援長上下文、微調模型或嵌入向量嗎?

GPT-5.6 模型在快速模式下支援長上下文。快速模式不支援微調模型或嵌入向量。

快速模式如何處理其他模態?

快速模式支援與標準處理相同的多模態功能。例如,快速模式可接受圖片作為輸入,並以同樣的低延遲進行處理。

未來的模型也會支援嗎?

我們計畫為新的 GPT 模型提供快速模式,但不保證每個模型都會支援。

速率限制

有哪些速率限制?

在速率限制方面,快速模式的用量與標準 API 流量一視同仁。

提升速率有哪些限制?

快速模式設有提升速率限制,確保所有客戶都能持續享有高效能,同時保有彈性的隨用隨付計價方式。如果同時發生 (a) 快速模式效能下降,以及 (b) 客戶流量增加過快的情況,極少數情況下,部分請求可能會降級為標準處理。

目前快速模式的提升速率限制詳見我們的快速模式文件。

避免超出提升速率限制的最佳做法

切換模型時,請逐步增加流量。例如,如果應用程式正從舊快照轉換到新快照,請使用功能旗標,在數小時內逐步轉移流量,而非一次全部切換。

避免在快速模式下執行大量資料處理或非同步作業。這類作業可能導致流量迅速增加,而且通常不需要快速模式提供的效能提升。

如果你經常觸及提升速率限制,可考慮改為購買規模層級配額。

我的專案或組織之間是否共用提升速率限制?

是的,你的所有流量都會合併計入同一個提升速率限制。

政策

如果快速模式未達到延遲目標,會如何處理?

GPT-6 Astra 的快速模式不提供延遲 SLA。對於 GPT-5.6 及更早的模型,快速模式與規模層級適用相同的 SLA 規定。若未達到延遲目標,符合資格的企業合約可能會提供服務抵用額。如有疑問,請聯絡你的客戶總監。

快速模式支援資料駐留嗎?

支援,但取決於各模型的支援情況。GPT-6.1 Sol、GPT-6 Sol 和 GPT-6 Luna 支援歐盟資料駐留,但 GPT-6 Astra 不支援。

快速模式是否相容於 ZDR 和 BAA?

是,但須符合適用的模型、端點、工具、使用資格及合約要求。

適用於 GPT-6 Astra 和 GPT-6.1 Sol 的超快速服務

超快速是獨立的服務層級,適用於需要 GPT-6 Astra 和 GPT-6.1 Sol 以更低延遲回應的工作負載,例如互動式應用程式和程式開發工作流程。

快速模式的定價、速率限制及政策指引適用於使用 service_tier="fast" 的請求。超快速請求則使用獨立的 service_tier="ultrafast" 層級。

如何傳送超快速請求?

如果組織已取得超快速服務的使用權限,請使用 Responses API 並設定以下項目:

  • 模型:gpt-6-astra 或 gpt-6.1-sol

  • 服務層級:ultrafast

  • 選填的請求標頭:OpenAI-Service-Tier: ultrafast

請求標頭為選填項目。如果提供此標頭,其值必須與請求主體中的服務層級一致。

對於會執行工具呼叫的應用程式,WebSocket 模式可讓你在多個回合間重複使用同一連線,減少連線開銷。

其他服務層級可以使用相同的請求標頭嗎?

若有提供 OpenAI-Service-Tier 標頭,其接受的值為 fast 或 ultrafast。如果改用其他服務層級,例如 default、fast 或 flex,請更新標頭,使其與請求一致,或省略標頭。

我可以在工作或 Codex 中使用超快速服務嗎?

符合資格的方案與工作區,也可以在工作和 Codex 中使用超快速服務。ChatGPT 方案的使用資格與用量規則不同於 API。

如需了解開放情況與用量詳情,請參閱:ChatGPT 工作和 Codex。

這篇文章有幫助嗎?