Tổng quan
Việc sử dụng API chịu sự kiểm soát của các giới hạn tốc độ. Các giới hạn này hạn chế số yêu cầu, số token hoặc mức sử dụng khác trong một khoảng thời gian nhất định.
Phản hồi 429 có thể cho biết bạn tạm thời chạm giới hạn tốc độ, đã hết số dư trả trước hoặc đã chạm giới hạn chi tiêu hay sử dụng. Hãy kiểm tra chi tiết lỗi trước khi thử lại hoặc thay đổi cài đặt thanh toán.
Xác định nguyên nhân
Đọc thông báo lỗi và error.code, nếu được cung cấp. Các lỗi liên quan đến thanh toán vẫn có thể dùng insufficient_quota làm giá trị error.type để phân loại lỗi ở mức khái quát hơn.
| Lỗi hoặc mã lỗi | Ý nghĩa | Cách xử lý |
| Đã chạm giới hạn tốc độ đối với yêu cầu hoặc token | Các yêu cầu đang vượt quá giới hạn tốc độ áp dụng. | Giãn cách các yêu cầu và làm theo hướng dẫn thử lại bên dưới. |
| credit_balance_exhausted | Tổ chức không còn credit trả trước. | Nạp thêm credit trong phần cài đặt thanh toán API. |
| organization_usage_limit_exceeded | Tổ chức đã chạm giới hạn sử dụng do OpenAI quy định. | Yêu cầu phê duyệt giới hạn sử dụng cao hơn. |
| organization_spend_limit_exceeded | Tổ chức đã chạm giới hạn chi tiêu được áp dụng bắt buộc. | Tăng hoặc gỡ bỏ giới hạn, hoặc chờ đến kỳ đặt lại hằng tháng. |
| project_spend_limit_exceeded | Dự án đã chạm giới hạn chi tiêu được áp dụng bắt buộc. | Tăng hoặc gỡ bỏ giới hạn của dự án, hoặc chờ đến kỳ đặt lại hằng tháng. |
Thử lại khi gặp lỗi thanh toán, chi tiêu hoặc hạn mức sẽ không khôi phục quyền truy cập. Trước tiên, hãy xử lý vấn đề về số dư hoặc giới hạn được báo trong lỗi. Các thay đổi đối với giới hạn chi tiêu được áp dụng bắt buộc có thể cần thời gian để có hiệu lực.
Để thay đổi giới hạn chi tiêu, bạn cần có quyền quản lý cài đặt của tổ chức hoặc dự án liên quan. Nếu không có quyền truy cập, hãy nhờ người quản lý các cài đặt đó hỗ trợ.
Để biết cách mua credit trả trước, hãy xem: Thiết lập và quản lý thanh toán API trả trước.
Để tìm hiểu các cách kiểm soát chi tiêu, hãy xem hướng dẫn về giới hạn chi tiêu API.
Kiểm tra các giới hạn tốc độ áp dụng
Truy cập trang Giới hạn của tổ chức để xem bậc sử dụng và các giới hạn hiện tại.
Giới hạn tốc độ có thể áp dụng ở cấp tổ chức và dự án. Đây không phải là hạn mức riêng cho từng người dùng. Giới hạn cũng khác nhau tùy theo mô hình, và một số dòng mô hình dùng chung một giới hạn.
Kiểm tra xem lỗi chỉ ra giới hạn nào. Ví dụ: số yêu cầu mỗi phút và số token mỗi phút là hai giới hạn riêng biệt. Bạn có thể chạm một giới hạn trong khi vẫn ở dưới giới hạn còn lại.
Kiểm tra giới hạn của API tạo hình ảnh
Giới hạn tốc độ của API tạo hình ảnh phụ thuộc vào mô hình và bậc sử dụng của bạn. Chọn mô hình bạn dùng trên trang mô hình để xem các giới hạn của mô hình đó.
Để biết cách thiết lập, hãy xem hướng dẫn tạo hình ảnh dành cho nhà phát triển. Để tìm hiểu thêm về các bậc sử dụng, hãy xem hướng dẫn về giới hạn tốc độ API.
Xác nhận tổ chức mà yêu cầu của bạn sử dụng
Nếu bạn là thành viên của nhiều tổ chức, hãy xác nhận rằng các yêu cầu của bạn sử dụng đúng tổ chức và dự án mong muốn.
Khi khóa API sử dụng tổ chức mặc định, hãy kiểm tra cài đặt tổ chức mặc định của bạn. Các tổ chức có thể có cơ chế thanh toán và bậc sử dụng khác nhau.
Giảm lỗi giới hạn tốc độ tạm thời
Giãn cách yêu cầu và tránh gửi dồn dập
Dàn đều các yêu cầu theo thời gian thay vì gửi một lượng lớn cùng lúc.
Giới hạn tốc độ có thể được áp dụng cho những khoảng thời gian ngắn hơn khoảng thời gian hiển thị. Ví dụ: giới hạn 60 yêu cầu mỗi phút cũng có thể được áp dụng theo từng khoảng 1 giây. Vì vậy, việc gửi dồn dập trong thời gian ngắn có thể gây lỗi ngay cả khi mức sử dụng trung bình có vẻ vẫn dưới giới hạn theo phút.
Câu lệnh dài và mức token đầu ra cho phép lớn hơn cần thiết cũng có thể góp phần gây ra lỗi giới hạn tốc độ token.
Chờ trước khi thử lại
Đối với lỗi giới hạn tốc độ tạm thời:
Kiểm tra xem phản hồi có tiêu đề Retry-After hay không.
Nếu tiêu đề chứa thời gian chờ hợp lệ, hãy chờ ít nhất chừng đó thời gian trước khi thử lại.
Nếu tiêu đề bị thiếu hoặc không hợp lệ, hãy áp dụng thời gian chờ tăng theo cấp số nhân kèm độ trễ ngẫu nhiên: tăng thời gian chờ sau mỗi lần thử thất bại và thêm một khoảng trễ ngẫu nhiên nhỏ.
Giới hạn cả số lần thử lại lẫn tổng thời gian dành cho việc thử lại.
Các SDK chính thức của OpenAI đã tự động thử lại đối với những lỗi giới hạn tốc độ đủ điều kiện và tuân theo Retry-After nếu có. Hãy tính đến những lần thử lại đó trước khi thêm một vòng lặp thử lại khác.
Các yêu cầu thất bại vẫn được tính vào giới hạn theo phút. Việc liên tục gửi lại cùng một yêu cầu có thể khiến vấn đề kéo dài.
Để xem hướng dẫn triển khai và ví dụ, hãy tham khảo hướng dẫn về giới hạn tốc độ API. Hãy xem xét kỹ mọi thư viện thử lại của bên thứ ba trước khi sử dụng trong ứng dụng.
Xem lại độ dài câu lệnh và đầu ra
Loại bỏ các chỉ dẫn, ngữ cảnh lặp lại và ví dụ không cần thiết khỏi câu lệnh. Kiểm tra câu lệnh đã chỉnh sửa để xác nhận rằng câu lệnh đó vẫn tạo ra kết quả bạn cần.
Sử dụng tham số token đầu ra mà điểm cuối và mô hình của bạn hỗ trợ:
Chat Completions sử dụng max_completion_tokens.
Responses sử dụng max_output_tokens.
Tránh đặt mức cho phép lớn hơn nhiều so với nhu cầu của yêu cầu. Các tham số này tính cả token suy luận lẫn đầu ra hiển thị, vì vậy hãy dành đủ token cho cả hai khi sử dụng mô hình suy luận.
Xem lại bậc sử dụng của bạn
Nếu lỗi vẫn tiếp diễn sau khi bạn giảm việc gửi yêu cầu dồn dập và xem lại mức sử dụng token, hãy kiểm tra trang Giới hạn để biết các cách tăng giới hạn hiện có.
Bậc sử dụng trả phí của tổ chức sẽ tự động được nâng lên khi tổng giá trị credit đã mua đạt các ngưỡng Build, Launch và Grow. Các bậc cao hơn thường có giới hạn tốc độ cao hơn. Xem hướng dẫn về giới hạn tốc độ API để biết yêu cầu của từng bậc.
Giới hạn sử dụng hằng tháng đã được phê duyệt của bạn tách biệt với giới hạn tốc độ yêu cầu và token. Không nên coi việc tăng một loại giới hạn là xác nhận rằng loại giới hạn còn lại cũng đã thay đổi.
Nếu vấn đề vẫn tiếp diễn
Trước khi yêu cầu hỗ trợ thêm
Hãy chuẩn bị sẵn nguyên văn thông báo lỗi, mã lỗi nếu có, các ID yêu cầu liên quan, thời điểm xảy ra lỗi kèm múi giờ và giới hạn liên quan hiển thị trong tài khoản. Ghi lại những bước bạn đã thử.
Liên hệ bộ phận Hỗ trợ OpenAI
Liên hệ bộ phận Hỗ trợ OpenAI qua Trung tâm Trợ giúp nếu bạn không thể giải quyết vấn đề sau khi kiểm tra giới hạn được báo trong lỗi. Không gửi kèm khóa API hoặc thông tin xác thực bí mật khác.