OpenAI
Cette page a été traduite automatiquement. Afficher l’article original en anglais.

Résoudre les limites de débit de l’API et les erreurs 429

Déterminez la cause d’une erreur API 429, réduisez les rafales de requêtes et choisissez la prochaine étape selon les limites de débit, de crédits ou d’utilisation.

Mise à jour : 7 days ago

Aperçu

L’utilisation de l’API est soumise à des limites de débit. Ces limites restreignent les requêtes, les tokens ou d’autres types d’utilisation sur une période donnée.

Une réponse 429 peut indiquer une limite de débit temporaire, un solde prépayé épuisé ou une limite de dépenses ou d’utilisation. Vérifiez les détails de l’erreur avant de réessayer ou de modifier vos paramètres de facturation.

Déterminez la cause

Lisez le message d’erreur et la valeur error.code, lorsqu’elle est fournie. Les erreurs liées à la facturation peuvent tout de même utiliser insufficient_quota comme valeur plus générale d’error.type.

Erreur ou codeSignificationMesures à prendre
Limite de débit atteinte pour les requêtes ou les tokensLes requêtes dépassent une limite de débit applicable.Espacez les requêtes et suivez les conseils ci-dessous concernant les nouvelles tentatives.
credit_balance_exhaustedL’organisation n’a plus de crédits prépayés.Ajoutez des crédits dans vos paramètres de facturation de l’API.
organization_usage_limit_exceededL’organisation a atteint la limite d’utilisation qui lui a été attribuée par OpenAI.Demandez l’approbation d’une limite d’utilisation plus élevée.
organization_spend_limit_exceededL’organisation a atteint sa limite de dépenses imposée.Augmentez ou supprimez la limite, ou attendez la réinitialisation mensuelle.
project_spend_limit_exceededLe projet a atteint sa limite de dépenses imposée.Augmentez ou supprimez la limite du projet, ou attendez la réinitialisation mensuelle.

Réessayer après une erreur de facturation, de dépenses ou de quota ne rétablit pas l’accès. Réglez d’abord le problème de solde ou de limite signalé. Les modifications aux limites de dépenses imposées peuvent prendre du temps à s’appliquer.

La modification d’une limite de dépenses nécessite l’autorisation de gérer les paramètres de l’organisation ou du projet concernés. Si vous n’y avez pas accès, adressez-vous à la personne qui gère ces paramètres.

Pour les achats de crédits prépayés, consultez : Configurer et gérer la facturation prépayée de l’API.

Pour connaître les différents contrôles des dépenses, consultez le guide des limites de dépenses de l’API.

Vérifiez les limites de débit applicables

Accédez à la page Limites de votre organisation pour consulter son niveau d’utilisation et ses limites actuels.

Les limites de débit peuvent s’appliquer à l’échelle de l’organisation et du projet. Il ne s’agit pas d’allocations individuelles par utilisateur. Les limites varient aussi selon le modèle, et certaines familles de modèles partagent une limite.

Vérifiez quelle limite est indiquée dans l’erreur. Par exemple, les requêtes par minute et les tokens par minute font l’objet de limites distinctes. Vous pouvez atteindre l’une tout en restant en dessous de l’autre.

Vérifiez les limites de l’API de génération d’images

Les limites de débit de l’API de génération d’images dépendent du modèle et de votre niveau d’utilisation. Sélectionnez votre modèle sur la page des modèles pour consulter ses limites.

Pour obtenir les instructions de configuration, consultez le guide de génération d’images pour les développeurs. Pour en savoir plus sur les niveaux d’utilisation, consultez le guide des limites de débit de l’API.

Confirmez l’organisation utilisée par votre requête

Si vous faites partie de plusieurs organisations, confirmez que vos requêtes utilisent l’organisation et le projet prévus.

Lorsque votre clé API utilise une organisation par défaut, vérifiez votre paramètre d’organisation par défaut. Les modalités de facturation et les niveaux d’utilisation peuvent varier d’une organisation à l’autre.

Réduisez les erreurs temporaires de limite de débit

Espacez les requêtes et évitez les rafales

Répartissez les requêtes dans le temps plutôt que d’en envoyer un grand nombre à la fois.

Les limites de débit peuvent être appliquées sur des périodes plus courtes que l’intervalle affiché. Par exemple, une limite de 60 requêtes par minute peut aussi être appliquée sur des périodes d’une seconde. Une courte rafale peut donc déclencher une erreur même si votre utilisation moyenne semble inférieure à la limite par minute.

Les longues invites et les allocations de tokens de sortie inutilement élevées peuvent aussi contribuer aux erreurs de débit de tokens.

Attendez avant de réessayer

Pour les erreurs temporaires de limite de débit :

  1. Vérifiez la présence d’un en-tête de réponse Retry-After.

  2. Si l’en-tête contient un délai valide, attendez au moins ce délai avant de réessayer.

  3. Si l’en-tête est absent ou invalide, utilisez une temporisation exponentielle avec variation aléatoire : augmentez le délai après chaque tentative infructueuse et ajoutez un court délai aléatoire.

  4. Limitez à la fois le nombre de nouvelles tentatives et le temps total qui leur est consacré.

Les SDK officiels d’OpenAI réessaient déjà les requêtes pour les erreurs de limite de débit admissibles et respectent Retry-After lorsqu’il est présent. Tenez compte de ces nouvelles tentatives avant d’ajouter une autre boucle de tentatives.

Les requêtes infructueuses sont comptabilisées dans les limites par minute. Renvoyer continuellement la même requête peut prolonger le problème.

Pour obtenir des conseils de mise en œuvre et des exemples, consultez le guide des limites de débit de l’API. Examinez toute bibliothèque tierce de gestion des nouvelles tentatives avant de l’utiliser dans votre application.

Vérifiez la taille des invites et des sorties

Retirez de vos invites les instructions inutiles, le contexte répété et les exemples. Testez l’invite révisée pour confirmer qu’elle produit toujours le résultat souhaité.

Utilisez le paramètre de tokens de sortie pris en charge par votre point de terminaison et votre modèle :

  • Chat Completions utilise max_completion_tokens.

  • Responses utilise max_output_tokens.

Évitez de définir une allocation beaucoup plus élevée que nécessaire pour la requête. Ces paramètres incluent les tokens de raisonnement ainsi que la sortie visible; prévoyez donc une allocation pour les deux lorsque vous utilisez un modèle de raisonnement.

Vérifiez votre niveau d’utilisation

Si les erreurs persistent après avoir réduit les rafales et examiné l’utilisation des tokens, consultez votre page Limites pour connaître les moyens disponibles pour augmenter vos limites.

Le niveau d’utilisation payant de votre organisation passe automatiquement au niveau supérieur lorsque le total de ses achats de crédits atteint les seuils Build, Launch et Grow. Les niveaux supérieurs offrent généralement des limites de débit plus élevées. Consultez le guide des limites de débit de l’API pour connaître les exigences des niveaux.

Votre limite d’utilisation mensuelle approuvée est distincte des limites de débit de requêtes et de tokens. L’augmentation de l’une ne doit pas être considérée comme une confirmation que l’autre a changé.

Si le problème persiste

Avant de demander de l’aide

Gardez à portée de main le message d’erreur exact, tout code d’erreur, les identifiants des requêtes concernées, l’heure de l’erreur avec votre fuseau horaire et la limite concernée affichée dans votre compte. Notez les mesures que vous avez déjà prises.

Communiquez avec l’assistance d’OpenAI

Communiquez avec l’assistance d’OpenAI par l’intermédiaire du centre d’assistance si vous ne parvenez pas à résoudre le problème après avoir vérifié la limite signalée. N’incluez pas de clés API ni d’autres secrets d’authentification.

Cet article vous a-t-il été utile?