შესავალი მოთხოვნების ლიმიტებში

მოთხოვნების ლიმიტები არის შეზღუდვები, რომლებსაც ჩვენი API აწესებს იმაზე, თუ რამდენჯერ შეუძლია მომხმარებელს ან კლიენტს ჩვენს სერვისებზე წვდომა განსაზღვრულ პერიოდში.

მოთხოვნების ლიმიტები შეიძლება იყოს დაყოფილი, რაც ნიშნავს, რომ ისინი უფრო მოკლე დროის მონაკვეთებზე მოქმედებს (მაგ., 60,000 მოთხოვნა/წუთში შეიძლება აღსრულდეს როგორც 1,000 მოთხოვნა/წამში). მოთხოვნების ან ზედმეტად გრძელი კონტექსტების (მოთხოვნები+max_completion_tokens) მოკლე პაკეტებად გაგზავნამ შეიძლება გამოიწვიოს მოთხოვნების ლიმიტის შეცდომები, მაშინაც კი, როცა ტექნიკურად წუთში მოთხოვნების ლიმიტზე ქვემოთ ხართ.

საუკეთესო პრაქტიკები მოთხოვნების ლიმიტის შეცდომების თავიდან ასაცილებლად

ნაგულისხმევი ორგანიზაცია

თუ ეკუთვნით რამდენიმე ორგანიზაციას განსხვავებული ბილინგის გეგმებითა და გამოყენების დონეებით, დარწმუნდით, რომ თქვენი ნაგულისხმევი ორგანიზაცია დაყენებულია შესაბამის ორგანიზაციაზე, რათა აკონტროლოთ, რომელი ორგანიზაცია გამოიყენება ნაგულისხმევად თქვენი API გასაღებებით მოთხოვნების გაგზავნისას.

ექსპონენციალური დაყოვნება

თქვენს კოდში ჩართეთ ექსპონენციალური დაყოვნების ლოგიკა. ეს დააფიქსირებს წარუმატებელ მოთხოვნებს და ხელახლა სცდის მათ.

token-ების ლიმიტები

შეამცირეთ max_completion_tokens, რათა ის თქვენი completion-ების ზომას შეესაბამებოდეს. გამოყენების საჭიროებები ამ მნიშვნელობის მიხედვით ფასდება, ამიტომ მისი შემცირება შეამცირებს იმის ალბათობას, რომ მოულოდნელად მიიღოთ მოთხოვნების ლიმიტის შეცდომა. მაგალითად, თუ თქვენი მოთხოვნა ქმნის დაახლოებით 400 token-ის მოცულობის completion-ებს, max_tokens მნიშვნელობაც დაახლოებით იმავე ზომის უნდა იყოს.


გააუმჯობესეთ თქვენი მოთხოვნები. ამის გაკეთება შეგიძლიათ ინსტრუქციების შემოკლებით, ზედმეტი სიტყვების ამოღებითა და დამატებითი მაგალითების მოცილებით. შესაძლოა დაგჭირდეთ თქვენს მოთხოვნაზე მუშაობა და ამ ცვლილებების შემდეგ მისი ტესტირება, რათა დარწმუნდეთ, რომ ის ისევ კარგად მუშაობს. უფრო მოკლე მოთხოვნის დამატებითი სარგებელი თქვენთვის შემცირებული ხარჯია. თუ დახმარება გჭირდებათ, გვაცნობეთ.

გამოყენების დონე

თუ ეს საუკეთესო პრაქტიკები დანერგეთ, მაგრამ მაინც აწყდებით მოთხოვნების ლიმიტის შეცდომებს, თქვენი მოთხოვნების ლიმიტების გაზრდა შეგიძლიათ გამოყენების დონის გაზრდით. მიმდინარე მოთხოვნების ლიმიტების, გამოყენების მიმდინარე დონისა და გამოყენების დონის/ლიმიტების გაზრდის გზების ნახვა შეგიძლიათ თქვენი ანგარიშის პარამეტრებში, ლიმიტების განყოფილებაში.

დამატებითი საკითხავი

გამოყენების დონეებისა და მოთხოვნების ლიმიტების შესახებ ჩვენი სრული დოკუმენტაცია იხილეთ აქ.