تحدث أخطاء حدّ الاستخدام («طلبات كثيرة جدًا»، «تم بلوغ حدّ الاستخدام») عند تجاوز حدّ الاستخدام الخاص بمؤسستك، وهو الحد الأقصى لعدد الطلبات والرموز التي يمكن إرسالها في الدقيقة. إذا تم بلوغ الحد، فلن تتمكن المؤسسة من إرسال الطلبات بنجاح إلى أن تتم إعادة ضبط حدّ الاستخدام. تبدو رسالة الخطأ على النحو التالي:
تم بلوغ حدّ الاستخدام لـ gpt-3.5-turbo في المؤسسة org-exampleorgid123 على مستوى الرموز في الدقيقة.
الحد: 10000.000000 / دقيقة. الحالي: 10020.000000 / دقيقة. نوصي بمعالجة هذه الأخطاء باستخدام التراجع الأُسّي. يعني التراجع الأُسّي تنفيذ انتظار قصير عند حدوث خطأ حدّ الاستخدام، ثم إعادة محاولة الطلب غير الناجح. إذا ظل الطلب غير ناجح، تتم زيادة مدة الانتظار وتكرار العملية. يستمر ذلك حتى ينجح الطلب أو حتى بلوغ الحد الأقصى لعدد مرات إعادة المحاولة.
نظرًا لأن الطلبات غير الناجحة تُحتسب ضمن حدّك لكل دقيقة، فلن تنجح إعادة إرسال الطلب باستمرار. يمكن تطبيق حدود الاستخدام على فترات أقصر - على سبيل المثال، طلب واحد في الثانية لحدّ يبلغ 60 طلبًا في الدقيقة - ما يعني أن الدفعات القصيرة ذات الحجم الكبير من الطلبات قد تؤدي أيضًا إلى أخطاء حدّ الاستخدام. يعمل التراجع الأُسّي جيدًا من خلال المباعدة بين الطلبات لتقليل تكرار هذه الأخطاء.
في Python، قد يبدو حل التراجع الأُسّي على النحو التالي:
from openai import OpenAI, RateLimitError
import backoff
client = OpenAI()
@backoff.on_exception(backoff.expo, RateLimitError)
def completions_with_backoff(**kwargs):
response = client.completions.create(**kwargs)
return response(يرجى ملاحظة ما يلي: مكتبة backoff هي أداة تابعة لجهة خارجية. نشجع جميع عملائنا على بذل العناية الواجبة عند التحقق من أي تعليمة برمجية خارجية لمشاريعهم.)
إذا كان تنفيذ التراجع الأُسّي لا يزال يؤدي إلى هذا الخطأ، فقد تحتاج إلى زيادة مستوى استخدامك. يمكنك عرض حدود الاستخدام الحالية لديك ومعرفة كيفية زيادة مستوى الثقة لديك لزيادة حدود الاستخدام في قسم الحدود ضمن إعدادات حسابك.