Ներածություն սահմանաչափերին

Սահմանաչափերը սահմանափակումներ են, որոնք մեր API-ն կիրառում է այն դեպքերի քանակի նկատմամբ, երբ օգտատերը կամ հաճախորդը կարող է մուտք գործել մեր ծառայություններ նշված ժամանակահատվածում։

Սահմանաչափերը կարող են քվանտացվել, այսինքն՝ դրանք կիրառվում են ավելի կարճ ժամանակահատվածներում (օր.՝ 60,000 հարցում/րոպեն կարող է կիրառվել որպես 1,000 հարցում/վայրկյան)։ Կարճատև հարցումների պոռթկումներ կամ չափազանց երկար համատեքստեր (հարցումներ+max_completion_tokens) ուղարկելը կարող է հանգեցնել սահմանաչափի սխալների, նույնիսկ եթե տեխնիկապես մեկ րոպեի սահմանաչափից ցածր եք։

Սահմանաչափի սխալները կանխելու լավագույն գործելակերպեր

Լռելյայն կազմակերպություն

Եթե պատկանում եք տարբեր վճարային պլաններ և օգտագործման մակարդակներ ունեցող մի քանի կազմակերպությունների, համոզվեք, որ ձեր լռելյայն կազմակերպությունը սահմանված է որպես համապատասխան կազմակերպություն՝ վերահսկելու համար, թե որ կազմակերպությունն է լռելյայն օգտագործվում ձեր API բանալիներով հարցումներ կատարելիս։

Էքսպոնենցիալ հետաձգում

Ձեր կոդում ներառեք էքսպոնենցիալ հետաձգման տրամաբանություն։ Դա կհայտնաբերի ձախողված հարցումները և կրկին կփորձի դրանք։

Թոքենների սահմանաչափեր

Նվազեցրեք max_completion_tokens-ը, որպեսզի այն համապատասխանի ձեր լրացումների չափին։ Օգտագործման կարիքները գնահատվում են այս արժեքից, ուստի դրա նվազեցումը կնվազեցնի հավանականությունը, որ անսպասելիորեն սահմանաչափի սխալ կստանաք։ Օրինակ՝ եթե ձեր հարցումը ստեղծում է մոտ 400 թոքենանոց լրացումներ, max_tokens արժեքը պետք է մոտավորապես նույն չափի լինի։


Օպտիմալացրեք ձեր հարցումները։ Դա կարող եք անել՝ կրճատելով հրահանգները, հեռացնելով ավելորդ բառերը և ազատվելով ավելորդ օրինակներից։ Հնարավոր է՝ անհրաժեշտ լինի աշխատել ձեր հարցման վրա և այս փոփոխություններից հետո փորձարկել այն՝ համոզվելու համար, որ այն դեռ լավ է աշխատում։ Ավելի կարճ հարցման լրացուցիչ առավելությունն այն է, որ ձեր ծախսերը նվազում են։ Եթե օգնության կարիք ունեք, տեղեկացրեք մեզ։

Օգտագործման մակարդակ

Եթե ներդրել եք այս լավագույն գործելակերպերը, բայց դեռ բախվում եք սահմանաչափի սխալների, կարող եք մեծացնել ձեր սահմանաչափերը՝ բարձրացնելով ձեր օգտագործման մակարդակը։ Ձեր ընթացիկ սահմանաչափերը, ընթացիկ օգտագործման մակարդակը և օգտագործման մակարդակը/սահմանաչափերը բարձրացնելու եղանակը կարող եք դիտել ձեր հաշվի կարգավորումների «Սահմանաչափեր» բաժնում։

Լրացուցիչ նյութեր

Օգտագործման մակարդակների և սահմանաչափերի վերաբերյալ մեր համապարփակ փաստաթղթերը դիտեք այստեղ։