OpenAI
此頁面由機器翻譯。查看原文英文文章。

API 速率限制及 429 錯誤疑難排解

找出 API 429 錯誤的成因、減少突發請求,並針對速率、積分或用量限制採取合適的後續步驟。

更新日期:2 hours ago

概覽

API 使用受速率限制約束。這些限制會約束指定時段內的請求數、Token 數或其他用量。

429 回應可能表示暫時觸及速率限制、預付餘額已用盡,或已達支出或用量上限。重試或更改帳單設定前,請先查看錯誤詳情。

找出原因

閱讀錯誤訊息,以及 error.code(如有提供)。計費相關錯誤仍可能使用較廣泛的 error.type 值 insufficient_quota。

錯誤或代碼含義處理方法
請求數或 Token 數已達速率限制請求超出了適用的速率限制。放慢發送請求的速度,並遵循下方的重試指引。
credit_balance_exhausted組織的預付積分已用盡。在 API 帳單設定中增購積分。
organization_usage_limit_exceeded組織已達 OpenAI 設定的用量上限。申請提高獲批的用量上限。
organization_spend_limit_exceeded組織已達強制執行的支出上限。提高或移除上限,或等待每月重設。
project_spend_limit_exceeded專案已達強制執行的支出上限。提高或移除專案上限,或等待每月重設。

遇到計費、支出或配額錯誤時,重試並不能恢復使用。請先處理錯誤訊息指出的餘額或上限問題。強制執行的支出上限在更改後可能需要一段時間才會生效。

更改支出上限需要具備管理相關組織或專案設定的權限。如果你沒有權限,請向負責管理這些設定的人員求助。

如需了解如何購買預付積分,請參閱:設定及管理 API 預付計費。

如需了解各種支出控制方式,請參閱 API 支出上限指南。

查看適用的速率限制

前往組織的限制頁面,查看目前的用量級別和限制。

速率限制可在組織和專案層級套用。這些限制並非個別用戶的配額。限制也因模型而異,部分模型系列會共用同一限制。

請查看錯誤訊息指出的是哪一項限制。例如,每分鐘請求數和每分鐘 Token 數是兩項獨立的限制。你可能已達其中一項上限,但仍低於另一項上限。

查看圖像生成 API 限制

圖像生成 API 的速率限制取決於模型和你的用量級別。在模型頁面選取你使用的模型,即可查看其限制。

如需設定說明,請參閱圖像生成開發者指南。如需進一步了解用量級別,請參閱 API 速率限制指南。

確認請求使用的組織

如果你屬於多個組織,請確認請求使用的是預期的組織和專案。

如果你的 API 金鑰使用預設組織,請檢查你的預設組織設定。不同組織的計費安排和用量級別可能不同。

減少暫時性的速率限制錯誤

控制請求發送速度,避免短時間內大量發送

將請求分散在不同時間發送,而非一次過大量發送。

速率限制可能按比顯示間隔更短的時段執行。例如,每分鐘 60 次請求的限制也可能按每 1 秒的時段執行。因此,即使平均用量看似低於每分鐘限制,短時間內大量發送請求仍可能觸發錯誤。

提示詞過長,或將輸出 Token 額度設得不必要地高,也可能導致 Token 速率限制錯誤。

延遲後重試

遇到暫時性的速率限制錯誤時:

  1. 檢查是否有 Retry-After 回應標頭。

  2. 如果標頭包含有效的延遲時間,請至少等待該段時間後才重試。

  3. 如果標頭缺失或無效,請使用帶隨機抖動的指數退避:每次嘗試失敗後增加等待時間,並加入一小段隨機延遲。

  4. 同時限制重試次數和重試所花的總時間。

OpenAI 官方 SDK 已會針對符合條件的速率限制錯誤自動重試,並在有 Retry-After 標頭時遵循其設定。新增重試迴圈前,請先將這些重試計算在內。

失敗的請求也會計入每分鐘限制。持續重複發送同一請求可能令問題持續更久。

如需實作指引和範例,請參閱 API 速率限制指南。在應用程式中使用任何第三方重試程式庫前,請先進行評估。

檢視提示詞和輸出的長度

從提示詞中移除不必要的指令、重複的背景資訊和範例。測試修改後的提示詞,確認仍能產生你需要的結果。

使用你的端點和模型支援的輸出 Token 參數:

  • Chat Completions 使用 max_completion_tokens。

  • Responses 使用 max_output_tokens。

避免將額度設得遠高於請求所需。這些參數涵蓋推理 Token 和可見輸出,因此使用推理模型時,請為兩者都預留額度。

檢視你的用量級別

如果減少短時間內大量發送請求並檢視 Token 用量後,錯誤仍持續出現,請查看限制頁面,了解可用的提高上限方式。

當組織購買積分的累計金額達到 Build、Launch 和 Grow 的門檻時,付費用量級別就會自動提升。較高的級別通常提供較高的速率限制。各級別的要求請參閱 API 速率限制指南。

你獲批的每月用量上限與請求和 Token 速率限制是分開計算的。提高其中一項,並不代表另一項也已更改。

如果問題持續

尋求進一步支援前

請準備好完整的錯誤訊息、任何錯誤代碼、相關請求 ID、錯誤發生的時間及時區,以及帳戶中顯示的相關限制。記錄你已嘗試的步驟。

聯絡 OpenAI 支援團隊

如果檢查錯誤訊息指出的限制後仍無法解決問題,請透過說明中心聯絡 OpenAI 支援團隊。請勿提供 API 金鑰或其他驗證機密資料。

這篇文章對你有幫助嗎?