விகித வரம்புகளுக்கான அறிமுகம்

விகித வரம்புகள் என்பது ஒரு குறிப்பிட்ட காலத்திற்குள் பயனர் அல்லது கிளையன்ட் எங்கள் சேவைகளை எத்தனை முறை அணுகலாம் என்பதற்கு எங்கள் API விதிக்கும் கட்டுப்பாடுகள்.

விகித வரம்புகள் சிறிய இடைவெளிகளாகப் பிரித்து அமல்படுத்தப்படலாம்; அதாவது, அவை குறுகிய கால இடைவெளிகளில் அமல்படுத்தப்படுகின்றன (எ.கா. 60,000 கோரிக்கைகள்/நிமிடம் என்பது 1,000 கோரிக்கைகள்/விநாடி ஆக அமல்படுத்தப்படலாம்). மிக நீளமான கோரிக்கைகள் அல்லது சூழல்களை (ப்ராம்ப்ட்கள்+max_completion_tokens) குறுகிய நேர வெடிப்புகளாக அனுப்புவது, நீங்கள் தொழில்நுட்ப ரீதியாக நிமிடத்திற்கான விகித வரம்புக்கு கீழே இருந்தாலும், விகித வரம்பு பிழைகளுக்கு வழிவகுக்கலாம்.

விகித வரம்பு பிழைகளைத் தடுப்பதற்கான சிறந்த நடைமுறைகள்

இயல்புநிலை அமைப்பு

வேறுபட்ட பில்லிங் திட்டங்கள் மற்றும் பயன்பாட்டு அடுக்குகளைக் கொண்ட பல அமைப்புகளில் நீங்கள் உறுப்பினராக இருந்தால், உங்கள் API விசைகளால் கோரிக்கைகள் செய்யும்போது எந்த அமைப்பு இயல்பாகப் பயன்படுத்தப்பட வேண்டும் என்பதை கட்டுப்படுத்த, உங்கள் இயல்புநிலை அமைப்பு பொருத்தமான அமைப்பாக அமைக்கப்பட்டிருப்பதை உறுதிசெய்யவும்.

எக்ஸ்போனென்ஷியல் பேக்க்ஆஃப்

உங்கள் குறியீட்டில் எக்ஸ்போனென்ஷியல் பேக்க்ஆஃப் தர்க்கத்தைச் சேர்க்கவும். இது தோல்வியுற்ற கோரிக்கைகளை கண்டறிந்து மீண்டும் முயற்சிக்கும்.

டோக்கன் வரம்புகள்

உங்கள் நிறைவுகளின் அளவுக்கு பொருந்தும்படி max_completion_tokens ஐக் குறைக்கவும். பயன்பாட்டுத் தேவைகள் இந்த மதிப்பிலிருந்து மதிப்பிடப்படுகின்றன; எனவே இதைக் குறைப்பது எதிர்பாராதவிதமாக விகித வரம்பு பிழை கிடைக்கும் வாய்ப்பைக் குறைக்கும். உதாரணமாக, உங்கள் ப்ராம்ப்ட் சுமார் 400 டோக்கன்கள் கொண்ட நிறைவுகளை உருவாக்கினால், max_tokens மதிப்பு அதே அளவிற்கு அருகில் இருக்க வேண்டும்.


உங்கள் ப்ராம்ப்ட்களை மேம்படுத்தவும். உங்கள் வழிமுறைகளைச் சுருக்கமாக்கி, கூடுதல் சொற்களை நீக்கி, கூடுதல் எடுத்துக்காட்டுகளை அகற்றுவதன் மூலம் இதைச் செய்யலாம். இந்த மாற்றங்களுக்குப் பிறகு அது இன்னும் நன்றாகச் செயல்படுகிறதா என்பதை உறுதிசெய்ய, உங்கள் ப்ராம்ப்டில் வேலை செய்து அதைச் சோதிக்க வேண்டியிருக்கலாம். குறுகிய ப்ராம்ப்டின் கூடுதல் நன்மை உங்களுக்கான செலவைக் குறைப்பதாகும். உங்களுக்கு உதவி தேவைப்பட்டால், எங்களுக்குத் தெரிவிக்கவும்.

பயன்பாட்டு அடுக்கு

இந்தச் சிறந்த நடைமுறைகளை நீங்கள் செயல்படுத்தியிருந்தாலும் இன்னும் விகித வரம்பு பிழைகளை எதிர்கொண்டால், உங்கள் பயன்பாட்டு அடுக்கை உயர்த்துவதன் மூலம் உங்கள் விகித வரம்புகளை அதிகரிக்கலாம். உங்கள் கணக்கு அமைப்புகளில் உள்ள வரம்புகள் பிரிவில் உங்கள் தற்போதைய விகித வரம்புகள், தற்போதைய பயன்பாட்டு அடுக்கு, மற்றும் உங்கள் பயன்பாட்டு அடுக்கு/வரம்புகளை எவ்வாறு உயர்த்துவது என்பதைப் பார்க்கலாம்.

மேலும் படிக்க

பயன்பாட்டு அடுக்குகள் மற்றும் விகித வரம்புகள் குறித்த எங்கள் விரிவான ஆவணங்களை இங்கே பார்க்கவும்.