Hyrje në kufijtë e normës
Kufijtë e normës janë kufizime që API-ja jonë vendos mbi numrin e herëve që një përdorues ose klient mund të qaset në shërbimet tona brenda një periudhe të caktuar kohore.
Kufijtë e normës mund të kuantizohen, që do të thotë se zbatohen gjatë periudhave më të shkurtra kohore (p.sh. 60,000 kërkesa/minutë mund të zbatohen si 1,000 kërkesa/sekondë). Dërgimi i grupeve të shkurtra të kërkesave ose konteksteve (kërkesat+max_completion_tokens) që janë tepër të gjata mund të çojë në gabime të kufirit të normës, edhe kur teknikisht jeni nën kufirin e normës për minutë.
Praktikat më të mira për parandalimin e gabimeve të kufirit të normës
Organizata e parazgjedhur
Nëse u përkisni disa organizatave me plane të ndryshme faturimi dhe nivele përdorimi, sigurohuni që organizata juaj e parazgjedhur të jetë vendosur te organizata e duhur për të kontrolluar se cila organizatë përdoret si parazgjedhje kur bëni kërkesa me çelësat tuaj API.
Rikthim eksponencial
Përfshini logjikën e rikthimit eksponencial në kodin tuaj. Kjo do të kapë dhe do të riprovojë kërkesat e dështuara.
Kufijtë e tokenëve
Ulni max_completion_tokens që të përputhet me madhësinë e plotësimeve tuaja. Nevojat e përdorimit vlerësohen nga kjo vlerë, ndaj ulja e saj do të zvogëlojë mundësinë që të merrni papritur një gabim të kufirit të normës. Për shembull, nëse kërkesa juaj krijon plotësime rreth 400 tokenë, vlera max_tokens duhet të jetë afërsisht e së njëjtës madhësi.
Optimizoni kërkesat tuaja. Këtë mund ta bëni duke i shkurtuar udhëzimet, duke hequr fjalët e tepërta dhe duke eliminuar shembujt shtesë. Mund t’ju duhet të punoni me kërkesën tuaj dhe ta testoni pas këtyre ndryshimeve për t’u siguruar që ende funksionon mirë. Përfitimi shtesë i një kërkese më të shkurtër është kostoja më e ulët për ju. Nëse keni nevojë për ndihmë, na tregoni.
Niveli i përdorimit
Nëse i keni zbatuar këto praktika më të mira, por ende hasni gabime të kufirit të normës, mund t’i rritni kufijtë tuaj të normës duke rritur nivelin tuaj të përdorimit. Mund të shihni kufijtë tuaj aktualë të normës, nivelin tuaj aktual të përdorimit dhe si ta rritni nivelin/kufijtë tuaj të përdorimit në seksionin Kufijtë të cilësimeve të llogarisë suaj.
Lexime të mëtejshme
Rishikoni dokumentacionin tonë gjithëpërfshirës mbi nivelet e përdorimit dhe kufijtë e normës këtu.