દર મર્યાદાનો પરિચય
દર મર્યાદાઓ એવા પ્રતિબંધો છે જે અમારું API નિર્ધારિત સમયગાળામાં વપરાશકર્તા અથવા ક્લાયન્ટ અમારી સેવાઓને કેટલી વખત ઍક્સેસ કરી શકે છે તેની સંખ્યા પર લાદે છે.
દર મર્યાદાઓ ક્વોન્ટાઇઝ્ડ હોઈ શકે છે, એટલે કે તે ટૂંકા સમયગાળાઓમાં લાગુ કરવામાં આવે છે (દા.ત. 60,000 વિનંતીઓ/મિનિટને 1,000 વિનંતીઓ/સેકન્ડ તરીકે લાગુ કરી શકાય છે). વિનંતીઓના ટૂંકા બર્સ્ટ મોકલવાથી અથવા ખૂબ લાંબા સંદર્ભો (પ્રોમ્પ્ટ્સ+max_completion_tokens) મોકલવાથી દર મર્યાદાની ભૂલો થઈ શકે છે, ભલે તમે તકનીકી રીતે પ્રતિ મિનિટ દર મર્યાદાથી નીચે હોવ.
દર મર્યાદાની ભૂલો અટકાવવા માટેની શ્રેષ્ઠ રીતો
ડિફોલ્ટ સંસ્થા
જો તમે અલગ-અલગ બિલિંગ પ્લાન અને વપરાશ સ્તરો ધરાવતી અનેક સંસ્થાઓના સભ્ય છો, તો ખાતરી કરો કે તમારી ડિફોલ્ટ સંસ્થા યોગ્ય સંસ્થા પર સેટ કરેલી છે, જેથી તમારી API કી વડે વિનંતીઓ કરતી વખતે ડિફોલ્ટ રૂપે કઈ સંસ્થા વપરાય છે તે નિયંત્રિત થઈ શકે.
એક્સ્પોનેન્શિયલ બેકઓફ
તમારા કોડમાં એક્સ્પોનેન્શિયલ બેકઓફ લોજિક ઉમેરો. આ નિષ્ફળ થયેલી વિનંતીઓને પકડીને ફરી પ્રયાસ કરશે.
ટોકન મર્યાદાઓ
તમારી પૂર્ણતાઓના કદ સાથે મેળ બેસે તે માટે max_completion_tokens ઘટાડો. વપરાશની જરૂરિયાતો આ મૂલ્ય પરથી અંદાજવામાં આવે છે, તેથી તેને ઘટાડવાથી તમને અણધાર્યા રીતે દર મર્યાદાની ભૂલ મળવાની શક્યતા ઘટશે. ઉદાહરણ તરીકે, જો તમારો પ્રોમ્પ્ટ આશરે 400 ટોકન જેટલી પૂર્ણતાઓ બનાવે છે, તો max_tokens મૂલ્ય પણ આશરે એટલા જ કદનું હોવું જોઈએ.
તમારા પ્રોમ્પ્ટ ઑપ્ટિમાઇઝ કરો. તમારા સૂચનો ટૂંકા કરીને, વધારાના શબ્દો દૂર કરીને અને વધારાના ઉદાહરણો કાઢી નાખીને તમે આ કરી શકો છો. આ ફેરફારો પછી તમારે તમારા પ્રોમ્પ્ટ પર કામ કરીને તેનું પરીક્ષણ કરવું પડી શકે છે, જેથી ખાતરી થાય કે તે હજુ પણ સારી રીતે કામ કરે છે. ટૂંકા પ્રોમ્પ્ટનો વધારાનો લાભ એ છે કે તમારો ખર્ચ ઘટે છે. જો તમને મદદની જરૂર હોય, તો અમને જણાવો.
વપરાશ સ્તર
જો તમે આ શ્રેષ્ઠ રીતો અમલમાં મૂકી છે છતાં હજી પણ દર મર્યાદાની ભૂલોનો સામનો કરી રહ્યા છો, તો તમે તમારું વપરાશ સ્તર વધારીને તમારી દર મર્યાદાઓ વધારી શકો છો. તમે તમારા એકાઉન્ટ સેટિંગ્સના મર્યાદા વિભાગમાં તમારી વર્તમાન દર મર્યાદાઓ, તમારું વર્તમાન વપરાશ સ્તર અને તમારું વપરાશ સ્તર/મર્યાદાઓ કેવી રીતે વધારવી તે જોઈ શકો છો.
વધુ વાંચન
વપરાશ સ્તરો અને દર મર્યાદાઓ વિશે અમારા વ્યાપક દસ્તાવેજોની સમીક્ષા અહીં કરો.