Kullanım limitlerine giriş
Kullanım limitleri, API’mizin bir kullanıcının veya istemcinin belirli bir süre içinde hizmetlerimize kaç kez erişebileceğine koyduğu kısıtlamalardır.
Kullanım limitleri nicelenebilir; yani daha kısa zaman aralıklarında uygulanabilir (ör. 60.000 istek/dakika, 1.000 istek/saniye olarak uygulanabilir). Kısa süreli istek patlamaları göndermek veya çok uzun bağlamlar (komutlar+max_completion_tokens) göndermek, teknik olarak dakika başına kullanım limitinin altında olsanız bile kullanım limiti hatalarına yol açabilir.
Kullanım limiti hatalarını önlemek için en iyi uygulamalar
Varsayılan kuruluş
Farklı faturalandırma planlarına ve kullanım kademelerine sahip birden fazla kuruluşa üyeyseniz, API anahtarlarınızla istek yaparken varsayılan olarak hangi kuruluşun kullanılacağını kontrol etmek için varsayılan kuruluşunuzun uygun kuruluşa ayarlandığından emin olun.
Üstel geri çekilme
Kodunuza üstel geri çekilme mantığı ekleyin. Bu, başarısız istekleri yakalayıp yeniden deneyecektir.
Token limitleri
Tamamlamalarınızın boyutuna uyması için max_completion_tokens değerini azaltın. Kullanım ihtiyaçları bu değerden tahmin edilir; bu nedenle değeri azaltmak, beklenmedik şekilde kullanım limiti hatası alma olasılığınızı düşürür. Örneğin, komutunuz yaklaşık 400 tokenlık tamamlamalar oluşturuyorsa max_tokens değeri de yaklaşık aynı boyutta olmalıdır.
Komutlarınızı optimize edin. Bunu, talimatlarınızı kısaltarak, fazladan kelimeleri çıkararak ve gereksiz örneklerden kurtularak yapabilirsiniz. Bu değişikliklerden sonra komutunuz üzerinde çalışmanız ve hâlâ iyi çalıştığından emin olmak için test etmeniz gerekebilir. Daha kısa bir komutun ek faydası, sizin için maliyeti düşürmesidir. Yardıma ihtiyacınız olursa bize bildirin.
Kullanım kademesi
Bu en iyi uygulamaları hayata geçirdiğiniz hâlde hâlâ kullanım limiti hatalarıyla karşılaşıyorsanız, kullanım kademenizi artırarak kullanım limitlerinizi yükseltebilirsiniz. Mevcut kullanım limitlerinizi, mevcut kullanım kademenizi ve kullanım kademenizi/limitlerinizi nasıl yükselteceğinizi hesap ayarlarınızın Limitler bölümünde görebilirsiniz.
Daha fazla okuma
Kullanım kademeleri ve kullanım limitleri hakkındaki kapsamlı belgelerimizi buradan inceleyin.