A használati korlátok bemutatása

A használati korlátok olyan korlátozások, amelyeket az API-nk szab meg arra vonatkozóan, hogy egy felhasználó vagy kliens egy adott időszakon belül hányszor férhet hozzá a szolgáltatásainkhoz.

A használati korlátok kvantálhatók, ami azt jelenti, hogy rövidebb időszakokra érvényesíthetők (pl. a 60 000 kérés/perc korlát 1000 kérés/másodperc formájában is érvényesíthető). A rövid kéréscsomagok küldése, illetve a túl hosszú kontextusok (utasítások+max_completion_tokens) használati korláttal kapcsolatos hibákhoz vezethetnek, még akkor is, ha technikailag a percenkénti használati korlát alatt marad.

Bevált gyakorlatok a használati korlátokkal kapcsolatos hibák megelőzésére

Alapértelmezett szervezet

Ha több, eltérő számlázási csomaggal és használati szinttel rendelkező szervezethez tartozik, győződjön meg arról, hogy az alapértelmezett szervezete a megfelelő szervezetre van állítva, hogy szabályozni tudja, melyik szervezet legyen alapértelmezés szerint használva, amikor az API-kulcsaival kéréseket indít.

Exponenciális visszalépés

Építsen be exponenciális visszalépési logikát a kódjába. Ez észleli a sikertelen kéréseket, és újra megpróbálja őket.

Tokenkorlátok

Csökkentse a max_completion_tokens értékét úgy, hogy megfeleljen a kiegészítései méretének. A használati igényt ebből az értékből becsüljük meg, ezért a csökkentése mérsékli annak esélyét, hogy váratlanul használati korláttal kapcsolatos hibát kapjon. Ha például az utasítása körülbelül 400 token hosszúságú kiegészítéseket hoz létre, a max_tokens értéknek is nagyjából ugyanekkora méretűnek kell lennie.


Optimalizálja az utasításait. Ezt úgy teheti meg, hogy rövidebbé teszi az utasításait, eltávolítja a felesleges szavakat, és megszabadul a szükségtelen példáktól. Előfordulhat, hogy dolgoznia kell az utasításán, és a módosítások után tesztelnie kell, hogy megbizonyosodjon arról, továbbra is jól működik. A rövidebb utasítás további előnye, hogy csökkenti az Ön költségeit. Ha segítségre van szüksége, tudassa velünk.

Használati szint

Ha már bevezette ezeket a bevált gyakorlatokat, de még mindig használati korláttal kapcsolatos hibákat tapasztal, a használati korlátait a használati szintje növelésével emelheti. A jelenlegi használati korlátait, az aktuális használati szintjét, valamint a használati szint/korlátok emelésének módját a fiókbeállítások Korlátok szakaszában tekintheti meg.

További olvasnivaló

Tekintse át a használati szintekről és használati korlátokról szóló átfogó dokumentációnkat itt.