നിരക്ക് പരിധികൾക്ക് ഒരു ആമുഖം

ഒരു നിർദ്ദിഷ്ട സമയപരിധിക്കുള്ളിൽ ഒരു ഉപയോക്താവിനോ ക്ലയന്റിനോ ഞങ്ങളുടെ സേവനങ്ങൾ എത്ര തവണ ആക്സസ് ചെയ്യാമെന്നതിൽ ഞങ്ങളുടെ API ഏർപ്പെടുത്തുന്ന നിയന്ത്രണങ്ങളാണ് നിരക്ക് പരിധികൾ.

നിരക്ക് പരിധികൾ ക്വാണ്ടൈസ് ചെയ്യപ്പെട്ടിരിക്കാം, അർത്ഥം അവ ചെറുതായ സമയ ഇടവേളകളിൽ നടപ്പാക്കപ്പെടുന്നു (ഉദാ. 60,000 അഭ്യർത്ഥനകൾ/മിനിറ്റ് എന്നത് 1,000 അഭ്യർത്ഥനകൾ/സെക്കൻഡ് ആയി നടപ്പാക്കപ്പെട്ടേക്കാം). വളരെ ദൈർഘ്യമേറിയ അഭ്യർത്ഥനകളുടെയോ സന്ദർഭങ്ങളുടെയോ (പ്രോംപ്റ്റുകൾ+max_completion_tokens) ചെറിയ ബർസ്റ്റുകൾ അയയ്ക്കുന്നത്, നിങ്ങൾ സാങ്കേതികമായി മിനിറ്റിലെ നിരക്ക് പരിധിക്ക് താഴെയാണെങ്കിലും, നിരക്ക് പരിധി പിശകുകൾക്ക് കാരണമാകാം.

നിരക്ക് പരിധി പിശകുകൾ തടയുന്നതിനുള്ള മികച്ച രീതികൾ

ഡിഫോൾട്ട് സ്ഥാപനം

വ്യത്യസ്ത ബില്ലിംഗ് പ്ലാനുകളും ഉപയോഗ ടിയറുകളും ഉള്ള ഒന്നിലധികം സ്ഥാപനങ്ങളിൽ നിങ്ങൾ അംഗമാണെങ്കിൽ, നിങ്ങളുടെ API കീകൾ ഉപയോഗിച്ച് അഭ്യർത്ഥനകൾ നടത്തുമ്പോൾ ഡിഫോൾട്ടായി ഏത് സ്ഥാപനമാണ് ഉപയോഗിക്കപ്പെടുന്നതെന്ന് നിയന്ത്രിക്കാൻ നിങ്ങളുടെ ഡിഫോൾട്ട് സ്ഥാപനം ഉചിതമായ സ്ഥാപനമായി സജ്ജീകരിച്ചിട്ടുണ്ടെന്ന് ഉറപ്പാക്കുക.

എക്സ്പോണൻഷ്യൽ ബാക്ക്ഓഫ്

നിങ്ങളുടെ കോഡിൽ എക്സ്പോണൻഷ്യൽ ബാക്ക്ഓഫ് ലോജിക് ഉൾപ്പെടുത്തുക. ഇത് പരാജയപ്പെട്ട അഭ്യർത്ഥനകൾ പിടിച്ച് വീണ്ടും ശ്രമിക്കും.

ടോക്കൺ പരിധികൾ

നിങ്ങളുടെ പൂർത്തീകരണങ്ങളുടെ വലുപ്പത്തിന് യോജിക്കുന്ന രീതിയിൽ max_completion_tokens കുറയ്ക്കുക. ഉപയോഗ ആവശ്യങ്ങൾ ഈ മൂല്യത്തിൽ നിന്നാണ് കണക്കാക്കുന്നത്, അതിനാൽ ഇത് കുറയ്ക്കുന്നത് അപ്രതീക്ഷിതമായി നിരക്ക് പരിധി പിശക് ലഭിക്കാനുള്ള സാധ്യത കുറയ്ക്കും. ഉദാഹരണത്തിന്, നിങ്ങളുടെ പ്രോംപ്റ്റ് ഏകദേശം 400 ടോക്കണുകളുള്ള പൂർത്തീകരണങ്ങൾ സൃഷ്ടിക്കുന്നുവെങ്കിൽ, max_tokens മൂല്യവും ഏകദേശം അതേ വലുപ്പത്തിലായിരിക്കണം.


നിങ്ങളുടെ പ്രോംപ്റ്റുകൾ ഒപ്റ്റിമൈസ് ചെയ്യുക. നിങ്ങളുടെ നിർദ്ദേശങ്ങൾ ചുരുക്കിയും അധിക വാക്കുകൾ നീക്കിയും അധിക ഉദാഹരണങ്ങൾ ഒഴിവാക്കിയും ഇത് ചെയ്യാം. ഈ മാറ്റങ്ങൾക്ക് ശേഷവും അത് നന്നായി പ്രവർത്തിക്കുന്നുണ്ടെന്ന് ഉറപ്പാക്കാൻ നിങ്ങളുടെ പ്രോംപ്റ്റിൽ പ്രവർത്തിക്കുകയും അത് പരീക്ഷിക്കുകയും ചെയ്യേണ്ടിവരാം. ചെറിയ പ്രോംപ്റ്റിന്റെ അധിക പ്രയോജനം നിങ്ങൾക്ക് ചെലവ് കുറയുന്നതാണ്. നിങ്ങൾക്ക് സഹായം ആവശ്യമുണ്ടെങ്കിൽ, ഞങ്ങളെ അറിയിക്കുക.

ഉപയോഗ ടിയർ

നിങ്ങൾ ഈ മികച്ച രീതികൾ നടപ്പാക്കിയിട്ടും നിരക്ക് പരിധി പിശകുകൾ നേരിടുന്നുണ്ടെങ്കിൽ, നിങ്ങളുടെ ഉപയോഗ ടിയർ വർധിപ്പിച്ച് നിരക്ക് പരിധികൾ വർധിപ്പിക്കാം. നിങ്ങളുടെ അക്കൗണ്ട് ക്രമീകരണങ്ങളിലെ പരിധികൾ വിഭാഗത്തിൽ നിലവിലെ നിരക്ക് പരിധികളും നിലവിലെ ഉപയോഗ ടിയറും ഉപയോഗ ടിയർ/പരിധികൾ എങ്ങനെ ഉയർത്താമെന്നും കാണാം.

കൂടുതൽ വായനയ്ക്ക്

ഉപയോഗ ടിയറുകളെയും നിരക്ക് പരിധികളെയും കുറിച്ചുള്ള ഞങ്ങളുടെ സമഗ്ര ഡോക്യുമെന്റേഷൻ ഇവിടെ അവലോകനം ചെയ്യുക.