OpenAI
Den här sidan har maskinöversatts. Visa den ursprungliga engelska artikeln.

Felsöka API-frekvensgränser och 429-fel

Identifiera orsaken till ett API 429-fel, minska anhopningar av förfrågningar och välj rätt nästa steg för frekvens-, kredit- eller användningsgränser.

Uppdaterades: 16 days ago

Översikt

API-användning omfattas av frekvensgränser. Dessa gränser begränsar antalet förfrågningar, token eller annan användning under en viss tidsperiod.

Ett 429-svar kan tyda på en tillfällig frekvensgräns, ett förbrukat förbetalt saldo eller en utgifts- eller användningsgräns. Kontrollera felinformationen innan du försöker igen eller ändrar dina faktureringsinställningar.

Identifiera orsaken

Läs felmeddelandet och error.code, om det anges. Faktureringsrelaterade fel kan fortfarande ha det mer generella värdet insufficient_quota för error.type.

Fel eller kodVad det betyderVad du ska göra
Frekvensgränsen för förfrågningar eller token har nåttsFörfrågningarna överskrider en gällande frekvensgräns.Sprid ut förfrågningarna och följ anvisningarna för återförsök nedan.
credit_balance_exhaustedOrganisationen har inga förbetalda krediter kvar.Fyll på krediter i dina faktureringsinställningar för API:et.
organization_usage_limit_exceededOrganisationen har nått den användningsgräns som OpenAI har tilldelat den.Begär att få en högre användningsgräns godkänd.
organization_spend_limit_exceededOrganisationen har nått sin bindande utgiftsgräns.Höj eller ta bort gränsen, eller vänta på den månatliga återställningen.
project_spend_limit_exceededProjektet har nått sin bindande utgiftsgräns.Höj eller ta bort projektets gräns, eller vänta på den månatliga återställningen.

Att försöka igen efter ett fakturerings-, utgifts- eller kvotfel återställer inte åtkomsten. Åtgärda först det saldo eller den gräns som felet gäller. Det kan ta tid innan ändringar av bindande utgiftsgränser börjar gälla.

För att ändra en utgiftsgräns krävs behörighet att hantera inställningarna för den berörda organisationen eller det berörda projektet. Om du saknar åtkomst ska du be den som hanterar inställningarna om hjälp.

För köp av förbetalda krediter, se: Konfigurera och hantera förbetald API-fakturering.

Läs om de olika sätten att styra utgifter i guiden om API-utgiftsgränser.

Kontrollera vilka frekvensgränser som gäller

Gå till organisationens sida för gränser för att se dess aktuella användningsnivå och gränser.

Frekvensgränser kan gälla på organisations- och projektnivå. De är inte individuella kvoter för varje användare. Gränserna varierar också mellan modeller, och vissa modellfamiljer delar en gräns.

Kontrollera vilken gräns felet gäller. Antalet förfrågningar per minut och antalet token per minut har till exempel separata gränser. Du kan nå den ena gränsen och ändå ligga under den andra.

Kontrollera API-gränser för bildgenerering

Frekvensgränserna för API:et för bildgenerering beror på modellen och din användningsnivå. Välj din modell på modellsidan för att se dess gränser.

Konfigurationsanvisningar finns i utvecklarguiden för bildgenerering. Läs mer om användningsnivåer i guiden om API-frekvensgränser.

Kontrollera vilken organisation din förfrågan använder

Om du tillhör flera organisationer ska du kontrollera att dina förfrågningar använder rätt organisation och projekt.

När din API-nyckel använder en standardorganisation ska du kontrollera inställningen för standardorganisation. Olika organisationer kan ha olika faktureringsupplägg och användningsnivåer.

Minska tillfälliga fel på grund av frekvensgränser

Sprid ut förfrågningarna och undvik toppar

Sprid ut förfrågningarna över tid i stället för att skicka många på en gång.

Frekvensgränser kan tillämpas över kortare perioder än det intervall som visas. En gräns på 60 förfrågningar per minut kan till exempel också tillämpas över perioder på 1 sekund. En kort topp kan därför utlösa ett fel även om din genomsnittliga användning verkar ligga under minutgränsen.

Långa prompter och onödigt höga gränser för antalet utdatatoken kan också bidra till fel på grund av frekvensgränser för token.

Vänta innan du försöker igen

Vid tillfälliga fel på grund av frekvensgränser:

  1. Kontrollera om svaret innehåller ett Retry-After-huvud.

  2. Om huvudet anger en giltig väntetid ska du vänta minst så länge innan du försöker igen.

  3. Om huvudet saknas eller är ogiltigt ska du använda exponentiell backoff med jitter: öka väntetiden efter varje misslyckat försök och lägg till en kort slumpmässig fördröjning.

  4. Begränsa både antalet återförsök och den totala tiden för dem.

OpenAI:s officiella SDK:er gör redan återförsök vid frekvensgränsfel som tillåter det och följer Retry-After när det finns. Ta hänsyn till dessa återförsök innan du lägger till ytterligare en återförsöksloop.

Även misslyckade förfrågningar räknas in i gränserna per minut. Att ständigt skicka om samma förfrågan kan förlänga problemet.

Vägledning och exempel för implementering finns i guiden om API-frekvensgränser. Granska återförsöksbibliotek från tredje part innan du använder dem i din applikation.

Se över längden på prompter och utdata

Ta bort onödiga instruktioner, upprepad kontext och exempel från dina prompter. Testa den ändrade prompten för att kontrollera att den fortfarande ger det resultat du behöver.

Använd den parameter för utdatatoken som stöds av din slutpunkt och modell:

  • Chat Completions använder max_completion_tokens.

  • Responses använder max_output_tokens.

Undvik att ange en mycket högre gräns än vad förfrågan behöver. Dessa parametrar omfattar både resonemangstoken och synliga utdata, så lämna utrymme för båda när du använder en resonemangsmodell.

Se över din användningsnivå

Om felen fortsätter efter att du har minskat topparna och sett över tokenanvändningen kan du se vilka möjligheter du har att höja gränserna på sidan för gränser.

Organisationens betalda användningsnivå uppgraderas automatiskt när dess sammanlagda kreditköp når trösklarna för Build, Launch och Grow. Högre nivåer ger i allmänhet högre frekvensgränser. Se guiden om API-frekvensgränser för nivåkraven.

Din godkända månatliga användningsgräns är separat från frekvensgränserna för förfrågningar och token. En höjning av den ena innebär inte att du kan utgå från att den andra har ändrats.

Om problemet kvarstår

Innan du tar ärendet vidare

Ha det exakta felmeddelandet, eventuell felkod, relevanta förfrågnings-ID:n, tidpunkten för felet med tidszon och den berörda gränsen som visas i ditt konto till hands. Anteckna vilka åtgärder du redan har provat.

Kontakta OpenAI:s support

Kontakta OpenAI:s support via Hjälpcenter om du inte kan lösa problemet efter att ha kontrollerat den gräns som anges i felet. Ta inte med API-nycklar eller andra hemliga autentiseringsuppgifter.

Var den här artikeln till hjälp?