Огляд
На використання API поширюються ліміти запитів. Ці ліміти обмежують кількість запитів, токенів або інші показники використання за певний період.
Відповідь із кодом 429 може вказувати на тимчасове досягнення ліміту запитів, вичерпання передплаченого балансу або досягнення ліміту витрат чи використання. Перевірте відомості про помилку, перш ніж повторювати запит або змінювати налаштування оплати.
Визначте причину
Прочитайте повідомлення про помилку та значення error.code, якщо його надано. Помилки, пов’язані з оплатою, також можуть мати загальніше значення insufficient_quota у полі error.type.
| Помилка або код | Що це означає | Що робити |
| Досягнуто ліміту кількості запитів або токенів | Запити перевищують чинний ліміт запитів. | Надсилайте запити рівномірно та дотримуйтеся наведених нижче рекомендацій щодо повторних спроб. |
| credit_balance_exhausted | В організації не залишилося передплачених кредитів. | Додайте кредити в налаштуваннях оплати API. |
| organization_usage_limit_exceeded | Організація досягла ліміту використання, установленого OpenAI. | Подайте запит на підвищення затвердженого ліміту використання. |
| organization_spend_limit_exceeded | Організація досягла жорсткого ліміту витрат. | Збільште або скасуйте ліміт чи дочекайтеся щомісячного скидання. |
| project_spend_limit_exceeded | Проєкт досяг жорсткого ліміту витрат. | Збільште або скасуйте ліміт проєкту чи дочекайтеся щомісячного скидання. |
Повторення запиту після помилки, пов’язаної з оплатою, витратами або квотою, не відновлює доступ. Спочатку вирішіть зазначену проблему з балансом або лімітом. Для застосування змін до жорстких лімітів витрат може знадобитися час.
Щоб змінити ліміт витрат, потрібен дозвіл на керування відповідними налаштуваннями організації або проєкту. Якщо у вас немає доступу, зверніться до особи, яка керує цими налаштуваннями.
Про придбання передплачених кредитів читайте в статті Налаштування передоплати за API та керування нею.
Про різні засоби контролю витрат читайте в посібнику з лімітів витрат на API.
Перевірте чинні ліміти запитів
Перейдіть на сторінку лімітів своєї організації, щоб переглянути її поточний рівень використання та ліміти.
Ліміти запитів можуть застосовуватися на рівні організації та проєкту. Це не індивідуальні квоти для кожного користувача. Ліміти також залежать від моделі, а деякі сімейства моделей мають спільний ліміт.
Перевірте, який саме ліміт зазначено в повідомленні про помилку. Наприклад, кількість запитів на хвилину та кількість токенів на хвилину — це окремі ліміти. Ви можете досягти одного ліміту, не вичерпавши іншого.
Перевірте ліміти API для генерації зображень
Ліміти запитів до API для генерації зображень залежать від моделі та вашого рівня використання. Виберіть свою модель на сторінці моделей, щоб переглянути її ліміти.
Інструкції з налаштування наведено в посібнику з генерації зображень для розробників. Докладніше про рівні використання читайте в посібнику з лімітів запитів до API.
Перевірте, яку організацію використовує ваш запит
Якщо ви належите до кількох організацій, переконайтеся, що ваші запити використовують потрібну організацію та проєкт.
Якщо ваш ключ API використовує організацію за замовчуванням, перевірте налаштування організації за замовчуванням. Різні організації можуть мати різні умови оплати та рівні використання.
Зменште кількість тимчасових помилок через перевищення ліміту запитів
Надсилайте запити рівномірно й уникайте різких сплесків
Розподіляйте запити в часі, а не надсилайте велику кількість одночасно.
Ліміти запитів можуть застосовуватися до коротших періодів, ніж указаний інтервал. Наприклад, ліміт у 60 запитів на хвилину може також застосовуватися до інтервалів тривалістю 1 секунду. Тому короткий сплеск може спричинити помилку, навіть якщо середнє використання, здається, не перевищує щохвилинного ліміту.
Довгі запити та надмірно великі дозволені обсяги вихідних токенів також можуть спричиняти помилки через перевищення ліміту токенів за одиницю часу.
Повторюйте запити із затримкою
У разі тимчасових помилок через перевищення ліміту запитів:
Перевірте наявність заголовка Retry-After у відповіді.
Якщо заголовок містить коректне значення затримки, зачекайте щонайменше вказаний час, перш ніж повторювати запит.
Якщо заголовок відсутній або некоректний, використовуйте експоненційне збільшення затримки з випадковим відхиленням: збільшуйте затримку після кожної невдалої спроби й додавайте невелику випадкову затримку.
Обмежте як кількість повторних спроб, так і загальний час на них.
Офіційні SDK OpenAI вже автоматично повторюють запити за відповідних помилок ліміту запитів і враховують Retry-After, якщо він є. Врахуйте ці повторні спроби, перш ніж додавати ще один цикл повторення.
Невдалі запити також враховуються в щохвилинних лімітах. Безперервне повторне надсилання того самого запиту може подовжити проблему.
Рекомендації та приклади реалізації наведено в посібнику з лімітів запитів до API. Перевіряйте будь-яку сторонню бібліотеку для повторення запитів, перш ніж використовувати її у своєму застосунку.
Перегляньте обсяг запитів і відповідей
Видаліть із запитів зайві інструкції, повторюваний контекст і приклади. Протестуйте оновлений запит, щоб переконатися, що він і далі дає потрібний результат.
Використовуйте параметр кількості вихідних токенів, який підтримують ваша кінцева точка та модель:
Chat Completions використовує max_completion_tokens.
Responses використовує max_output_tokens.
Не встановлюйте значно більший дозволений обсяг, ніж потрібно для запиту. Ці параметри охоплюють як токени міркування, так і видиму відповідь, тому під час використання моделі міркування передбачайте обсяг для обох.
Перевірте свій рівень використання
Якщо помилки не зникають після зменшення сплесків і перевірки використання токенів, перегляньте доступні способи підвищення лімітів на сторінці лімітів.
Платний рівень використання вашої організації підвищується автоматично, коли загальна сума придбаних кредитів досягає порогових значень Build, Launch і Grow. Вищі рівні зазвичай передбачають вищі ліміти запитів. Вимоги до рівнів наведено в посібнику з лімітів запитів до API.
Ваш затверджений місячний ліміт використання не пов’язаний із лімітами кількості запитів і токенів за одиницю часу. Підвищення одного ліміту не слід вважати підтвердженням зміни іншого.
Якщо проблема не зникає
Перш ніж звертатися до служби підтримки
Підготуйте точний текст повідомлення про помилку, код помилки за наявності, відповідні ідентифікатори запитів, час помилки із зазначенням часового поясу та відповідний ліміт, указаний у вашому обліковому записі. Занотуйте дії, які ви вже виконали.
Зверніться до служби підтримки OpenAI
Зверніться до служби підтримки OpenAI через Довідковий центр, якщо не вдається вирішити проблему після перевірки ліміту, зазначеного в повідомленні про помилку. Не додавайте ключі API чи інші секретні дані автентифікації.