முக்கிய இணைப்புகள்
சேவை நிலை டாஷ்போர்டு (தற்போது Enterprise API வாடிக்கையாளர்களுக்கு மட்டுமே கிடைக்கும்)
சரியான இயல்புநிலைகளுடன் தொடங்கவும்
சேவை நிலை டாஷ்போர்டைத் திறக்கும் போது, அது இயல்பாக இவ்வாறு இருக்கும்:
அனைத்து திட்டங்களும்
கடந்த 30 நாட்கள்
மணிநேரத் தெளிவு
இந்தக் காட்சி திசையறிதலுக்கே பயனுள்ளதாக இருக்கும். பயனுள்ள சரிசெய்தலுக்கு எப்போதும் வடிகட்டல் தேவை.
ஆராய்வதற்கு முன் வடிகட்டவும்
சரியான வடிகட்டல் மிக முக்கியமான படி. பெரும்பாலான தவறான விளக்கங்கள் மாடல்கள், அடுக்குகள் அல்லது திட்டங்களை கலப்பதால் ஏற்படுகின்றன.
மாடலின்படி வடிகட்டவும் (ஒரு நேரத்தில் ஒன்று)
எப்போதும் ஒரே மாடலுக்கு வடிகட்டவும்.
ஏன்:
குறைந்த டிராஃபிக் கொண்ட மாடல்களில் உள்ள சிக்கல்கள், அதிக அளவிலான டிராஃபிக்கால் மறைக்கப்படலாம்
அதிக அளவிலான மாடல்கள், உள்ளூர் சிக்கல்கள் உலகளாவியதாகத் தோன்றச் செய்யலாம்
வெவ்வேறு மாடல்களுக்கு வெவ்வேறு செயல்திறன் இலக்குகள் உள்ளன
குறிப்பு: பல மாடல்களைத் தேர்வுசெய்வது அவற்றை ஒருங்கிணைக்கிறது—அவற்றுக்கிடையில் மாறாது.
சேவை அடுக்கின்படி வடிகட்டவும்
நீங்கள் ஒன்றுக்கு மேற்பட்ட அடுக்குகளைப் பயன்படுத்தினால் (நிலையான, பிரையாரிட்டி, அளவீட்டு), நீங்கள் ஆராயும் அடுக்குக்கு எப்போதும் வடிகட்டவும்.
ஏன்:
அடுக்குகளுக்கு வெவ்வேறு செயல்திறன் பண்புகள் உள்ளன
பிரையாரிட்டி மற்றும் அளவீட்டு அடுக்குகளுக்கு வரையறுக்கப்பட்ட SLA-கள் உள்ளன
அடுக்குகளை கலப்பது கட்டண அடுக்கின் செயல்திறனை மறைக்கிறது
தாமதப் பகுப்பாய்வுக்கு இது குறிப்பாக முக்கியம்.
திட்டத்தின்படி வடிகட்டவும்
இயல்பாக, சேவை நிலை அனைத்து திட்டங்களையும் காட்டுகிறது.
சரிசெய்தலுக்கு, சிக்கல் காணப்பட்ட திட்ட(ங்களு)க்கு வடிகட்டவும்.
ஏன்:
அதிக அளவிலான ஒரே ஒரு திட்டம் மெட்ரிக்குகளில் ஆதிக்கம் செலுத்தலாம்.
பாதிக்கப்பட்ட சிறிய திட்டங்கள் தொடர்பில்லாத டிராஃபிக்கால் மறைக்கப்படலாம்.
சிக்கல் உண்மையில் நிறுவனம் முழுவதையும் பாதிக்கிறது என்று நீங்கள் நம்பினால் மட்டுமே “அனைத்து திட்டங்கள்” தேர்வாக இருக்கட்டும்.
பிழைகளைச் சரிசெய்தல்
HTTP கோரிக்கைகள் காட்சியைப் பயன்படுத்தவும்
பிழைகளை ஆராய:
மாடல் மற்றும் சேவை அடுக்கின்படி வடிகட்டவும்.
செயல்நேரம் தாவலுக்குப் பதிலாக HTTP கோரிக்கைகள் தாவலைத் திறக்கவும்.
இந்தக் காட்சி HTTP நிலைக் குறியீட்டின்படி மொத்த கோரிக்கைகள் மற்றும் பிழை எண்ணிக்கைகளைக் காட்டுகிறது. நுணுக்கமான திடீர் உயர்வுகள் அல்லது மாற்றங்களை அடையாளம் காண நிமிட அளவிலான தெளிவுக்கு பெரிதாக்கவும்.
பிழை எண்ணிக்கைகளை அல்ல, பிழை விகிதங்களை விளக்குங்கள்
எந்த உற்பத்தி அமைப்பிலும் சில பிழைகள் எதிர்பார்க்கப்படுகின்றன. மொத்த எண்ணிக்கைகளில் அல்ல, பிழை சதவீதத்தில் கவனம் செலுத்துங்கள்.
உங்கள் மொத்த அளவு அதிகமாக இருந்தால், மிகக் குறைந்த பிழை விகிதத்துடனும் சாத்தியமான பிழைகளின் எண்ணிக்கை அதிகமாக இருக்கும்.
சேவை நிலையில் பிழைகள் இல்லாதபோது
கிளையன்ட் பக்கப் பிழைகள் தெரிந்தும், சேவை நிலையில் தொடர்புடைய தரவு இல்லாவிட்டால்:
கோரிக்கைகள் OpenAI-ஐ அடையாதிருக்கலாம்.
சிக்கல் பொதுவாக அப்ஸ்ட்ரீமில் இருக்கும் (டைம்அவுட்கள், ப்ராக்ஸிகள், நெட்வொர்க்கிங்).
கிளையன்ட் பக்கத்தில் கடுமையான டைம்அவுட்கள் இருக்கும் போது இது பொதுவானது.
தாமதத்தைச் சரிசெய்தல்
வரையறுக்கப்பட்ட SLA-களை கொண்ட பிரையாரிட்டி மற்றும் அளவீட்டு அடுக்குகளில் தாமதப் பகுப்பாய்வு மிகவும் அர்த்தமுள்ளதாக இருக்கும். நிலையான அடுக்கு அதிக தாமத மாறுபாட்டைக் காட்டலாம்; மேலும் அதற்கு உத்தரவாத தாமதம் இல்லை.
முக்கிய மெட்ரிக்குகள்
ஒவ்வொரு மெட்ரிக்கையும் காண, தொடர்புடைய தாவலைக் கிளிக் செய்யவும்:
டோக்கன் வேகம்: ஒரு வினாடிக்கு உருவாக்கப்படும் டோக்கன்கள்; ப்ராம்ப்ட் அளவைச் சார்ந்ததல்ல.
கோரிக்கை நேரம்: மொத்த கோரிக்கை காலம்; வெளியீட்டு அளவும் ரீஸனிங்கும் இதை வலுவாகப் பாதிக்கும்.
முதல் டோக்கன் வரையிலான நேரம் (TTFT): முதல் டோக்கன் உருவாகும் வரையிலான நேரம்; கேஷ் செய்யப்படாத உள்ளீட்டு ப்ராம்ப்ட் அளவும் ரீஸனிங்கும் இதை வலுவாகப் பாதிக்கும்.
P50 / P75 / P95 பர்சென்டைல்களை எப்போதும் மதிப்பாய்வு செய்யவும். சராசரிகள் உண்மையான பயனர் தாக்கத்தை மறைக்கக்கூடும்.
6. தாமதத்தை டோக்கன் பயன்பாட்டுடன் தொடர்புபடுத்துதல்
நடத்தை எப்போது மாறியது என்பதை சேவை நிலை காட்டுகிறது. ஏன் என்பதை விளக்க பயன்பாட்டு தரவு உதவுகிறது.
சேவை நிலை டாஷ்போர்டில் உள்ள உங்கள் காட்சிக்குத் தொடர்புடைய தரவையே நீங்கள் பார்க்கிறீர்கள் என்பதை உறுதிசெய்ய, பயன்பாட்டு டாஷ்போர்டில் பின்வருவன செய்யவும்:
அதே திட்டம் மற்றும் மாடலுக்கு வடிகட்டவும்.
பொருந்தினால், சேவை அடுக்கின்படி குழுவாக்கவும்.
தாமதத்தை மிகவும் வலுவாகப் பாதிக்கும் வெளியீட்டு டோக்கன்களில் கவனம் செலுத்துங்கள்.
ஆழமான பகுப்பாய்வுக்கு, செயற்பாட்டு தரவை ஏற்றுமதி செய்து, காலப்போக்கில் ஒவ்வொரு கோரிக்கைக்கும் உள்ள டோக்கன்களை ஆய்வு செய்யவும்.
7. ஆதரவுடன் பகிர வேண்டியவை (தேவைப்பட்டால்)
நீங்கள் ஆதரவைத் தொடர்புகொண்டால், சேர்க்கவும்:
பாதிக்கப்பட்ட Org ID-கள் (முக்கியம்)
Chat Completions அல்லது Responses போன்ற பாதிக்கப்பட்ட எண்ட்பாயிண்ட்கள் (முக்கியம்)
பாதிக்கப்பட்ட மாடல்கள் (முக்கியம்)
இது அளவீட்டு அல்லது பிரையாரிட்டி அடுக்கில் உள்ளதா என்பது (முக்கியம்)
தாமதம் அல்லது பிழைகளுக்கான நேர மண்டலத்துடன் கூடிய நேர வரம்புகள் (முக்கியம்)
கிடைத்தால், தொடர்புடைய x-request-id அல்லது X-Client-Request-Id
நீங்கள் வழங்கும் கோரிக்கைகளுக்கான நேர மண்டலத்துடன் கூடிய நேரமுத்திரைகள், அல்லது குறைந்தபட்சம் தேதி
கிடைத்தால், இதையும் சேர்க்கவும்:
கோரிக்கைகளுடன் தொடர்புடைய திட்ட ID
டேட்டா ரெசிடென்சி கோரிக்கைகள் பாதிக்கப்பட்டுள்ளனவா, எவை பாதிக்கப்பட்டுள்ளன என்பதும்
நீங்கள் காணும் போக்குகளின் விளக்கங்கள்
சிக்கல் வகைக்கு, சேர்க்கவும்:
பிழைகள்: தோல்வியடையும் அல்லது பிழையளிக்கும் கோரிக்கைகளின் தோராயமான சதவீதம், பதில் குறியீடுகள், பிழை செய்திகள், மற்றும் பிழை பதிலைப் பெற எடுத்த நேரம்.
தாமதம்: எந்த பர்சென்டைல்கள் பாதிக்கப்பட்டுள்ளன (P50 / P90 / P95 / P99), வாடிக்கையாளரின் அடிப்படை அளவுடன் ஒப்பிடும்போது அவை எவ்வளவு உயரமாக உள்ளன, மற்றும் அனுப்பிய மற்றும் பெற்ற நேரமுத்திரைகளுடன் மெதுவான கோரிக்கைகளின் எடுத்துக்காட்டுகள்.
இரண்டும்: பிழை அல்லது தாமதத் தரவின் ஸ்கிரீன்ஷாட்கள் அல்லது அட்டவணை, மேலும் பிழை விகிதங்கள் அல்லது தாமதம் எதிர்பார்த்ததை விட அதிகமாக இருந்தது என்பதை நீங்கள் எவ்வாறு தீர்மானித்தீர்கள்.
பொதுவான சரிசெய்தல் சூழல்கள்
டைம்அவுட்கள் ஏற்படுகின்றன, ஆனால் சேவை நிலை இயல்பாகத் தெரிகிறது
சாத்தியமான காரணம்: கோரிக்கைகள் OpenAI-ஐ அடைவதற்கு முன் டைம்அவுட் ஆகின்றன.
சரிபார்க்கவும்:
கிளையன்ட் அல்லது ப்ராக்ஸி டைம்அவுட் அமைப்புகள்
உள்ளூர் நெட்வொர்க் அல்லது லோடு பாலன்சர் மாற்றங்கள்
சேவை நிலை டாஷ்போர்டில் 499 பிழைகள் இருப்பது (இவை உங்கள் சொந்த அமைப்புகளில் 5xx பிழைகளாகத் தோன்றலாம்).
டெப்ளாய்மென்ட் இல்லாமல் தாமதம் அதிகரித்தது
சாத்தியமான காரணம்: வெளியீட்டு டோக்கன் அளவு அல்லது ரீஸனிங் பயன்பாடு அதிகரித்திருக்கலாம் மற்றும்/அல்லது டிராஃபிக் சேவை அடுக்குகளுக்கு இடையே மாறியிருக்கலாம்.
சரிபார்க்கவும்:
பயன்பாட்டு டாஷ்போர்டில் ஒவ்வொரு கோரிக்கைக்கும் சராசரி வெளியீட்டு டோக்கன்கள் (தரவைப் பதிவிறக்கி, வெளியீட்டு டோக்கன்களை மொத்த கோரிக்கைகளால் வகுக்க வேண்டும்).
சேவை நிலை டாஷ்போர்டில் கோரிக்கை நேரம் மற்றும் TTFT பர்சென்டைல்கள்.
பிரையாரிட்டி அல்லது அளவீட்டு அடுக்கு மெதுவாகத் தோன்றுகிறது
சாத்தியமான காரணம்: மெட்ரிக்குகள் அடுக்குகளுக்கு இடையே கலந்துள்ளன; அதாவது நிலையான அடுக்கு டிராஃபிக், கட்டண அடுக்கின் செயல்திறனை மறைக்கிறது.
சரிபார்க்கவும்:
வடிகட்டிகள் ஒரே அடுக்கும் மாடலும் மட்டுமே எனக் கட்டுப்படுத்தப்பட்டுள்ளன.
அடுக்குகளுக்கு இடையேயான டோக்கன் வேக ஒப்பீடு.
5XX பிழைகளில் திடீர் உயர்வு
சாத்தியமான காரணம்: சிறிய சதவீத டிராஃபிக்கையே பாதிக்கும் தற்காலிக தோல்விகள்.
சரிபார்க்கவும்:
பிழை விகித சதவீதம்
அதே நேரத்தில் டிராஃபிக் அளவு மாறியதா என்பதை
சிக்கல் ஒரே ஒரு திட்டத்தை மட்டுமே பாதிக்கிறது
சாத்தியமான காரணம்: திட்டத்துக்கே உரிய உள்ளமைவு அல்லது பயன்பாட்டு முறை.
சரிபார்க்கவும்:
திட்ட மட்ட வடிகட்டல்
பாதிக்கப்படாத திட்டங்களுடன் ஒப்பீடு
இறுதி குறிப்புகள்
மெட்ரிக்குகளை விளக்குவதற்கு முன், தேவையான இடங்களில் மாடல், அடுக்கு மற்றும் திட்டத்தின்படி வடிகட்டவும்.
தாமதப் பகுப்பாய்வுக்கு சராசரிகளை அல்ல, பர்சென்டைல்களை பயன்படுத்தவும்.
சிறிய பிழை விகிதங்கள் எதிர்பார்க்கப்படுகின்றன.
தரவு இல்லாதது பொதுவாக அப்ஸ்ட்ரீம் சிக்கல்களைக் குறிக்கிறது.
தாமதம் ஏன் மாறியது என்பதை விளக்க பயன்பாட்டு தரவு உதவும்; நடத்தை எப்போது மாறியது என்பதை சேவை நிலை காட்டுகிறது.