குறிப்பு: இந்தக் கட்டுரை உயர்‑நிலை மேலோட்டத்தை வழங்குகிறது. தொழில்நுட்ப அமைப்பிற்கான தகவலை gpt-oss வலைத்தளம், GitHub, Hugging Face, மற்றும் OpenAI Cookbooks ஆகியவற்றில் காணலாம்.
மேலோட்டம்
இரண்டு ஓபன்‑வெயிட் ரீஸனிங் மாடல்களை அறிமுகப்படுத்துகிறோம்: gpt‑oss‑120b மற்றும் gpt‑oss‑20b. அவை நீங்கள் கட்டுப்படுத்தும் உட்கட்டமைப்பில் அல்லது ஹோஸ்டிங் வழங்குநர்கள் மூலம் இயங்கும்.
குறிப்பு: இந்த மாடல்கள் OpenAI API மூலம் வழங்கப்படுவதில்லை மற்றும் ChatGPT இல் கிடைக்காது.
ஏன் ஓபன்‑வெயிட்கள்
தேர்வும் கட்டுப்பாடும்: மாடல்களை உங்கள் வளாகத்தில் அல்லது உங்கள் தனியார் கிளவுடில் இயக்கவும், டேட்டா ரெசிடென்சியைப் பேணவும், உங்கள் தேவைகளுக்கு ஏற்ப செயல்திறனைத் தனிப்பயனாக்கவும்.
தனிப்பயனாக்கம்: நீங்கள் விரும்பும் ஓபன் கருவிகளுடன் மாடல்களை ஃபைன்‑டியூன் செய்யவும் அல்லது மாற்றியமைக்கவும்.
கிடைக்கும் தன்மை மற்றும் உரிமம்
உரிமம்: Apache 2.0, வணிகப் பயன்பாடு உட்பட, பரவலான பயன்பாடு, மாற்றம் மற்றும் மறுவிநியோகத்தை அனுமதிக்கிறது (எங்கள் gpt-oss பயன்பாட்டுக் கொள்கைக்கு உட்பட்டு).
சேவை வழங்கல்: OpenAI API மூலம் கிடைக்காது, எனவே API விலை நிர்ணயம் மற்றும் விகித வரம்புகள் பொருந்தாது.
இணக்கத்தன்மை: vLLM, Ollama, llama.cpp போன்ற பொதுவான ஓபன் இன்ஃபரன்ஸ் ஸ்டாக்குகளுடனும், கிளவுட் அல்லது சுய‑நிர்வகிக்கப்பட்ட GPU சூழல்களிலும் இயக்கலாம்.
தொடங்குவது
மாடல் வெயிட்கள் மற்றும் ஆதார வளங்களைப் பெற, நீங்கள்:
மேலோட்டம் மற்றும் நேரடி இணைப்புகளுக்கு gpt-oss வலைத்தளத்தைப் பார்வையிடவும்.
Hugging Face தொகுப்பிலிருந்து வெயிட்களைப் பதிவிறக்கவும் — இரு மாடல்களையும் கண்டறிய, பயன்பாட்டு எடுத்துக்காட்டுகளைப் பார்க்க, விருப்பமாக Hugging Face சேவைகள் மூலம் நேரடியாக இன்ஃபரன்ஸை இயக்க உதவும் ஒரு சமூக மையம்.
ரெஃபரன்ஸ் இன்ஃபரன்ஸ் குறியீட்டிற்காக எங்கள் GitHub ரெப்போவை அணுகவும்.
Ollama, vLLM, மற்றும் Transformers போன்ற ஆதரிக்கப்படும் ரன்டைம்களுடன் அமைப்பதற்கு OpenAI Cookbook-இல் உள்ள வழிகாட்டிகளைப் பயன்படுத்தவும். உள்ளூரில் இயக்குதல், பொதுவான ரன்டைம்களைப் பயன்படுத்துதல், மற்றும்—ஆதரிக்கப்படும் இடங்களில்—gpt‑oss மாடல்களை ஃபைன்‑டியூன் செய்தல் ஆகியவற்றிற்கான படிப்படியான வழிமுறைகளையும் Cookbook கொண்டுள்ளது.
gpt‑oss‑safeguard (ஆராய்ச்சி முன்னோட்டம்)
gpt‑oss‑safeguard என்பது gpt‑oss மீது உருவாக்கப்பட்ட ஓபன்‑வெயிட் பாதுகாப்பு ரீஸனிங் மாடல்கள் ஜோடி. நீங்கள் கட்டுப்படுத்தும் உட்கட்டமைப்பில் இயக்கும் கொள்கை அடிப்படையிலான பாதுகாப்பு வகைப்பாடு மற்றும் தொடர்புடைய நம்பிக்கை & பாதுகாப்பு பணிகளுக்காக அவை வடிவமைக்கப்பட்டுள்ளன. மற்ற gpt‑oss மாடல்களைப் போலவே, இந்த வெயிட்கள் OpenAI API அல்லது ChatGPT மூலம் வழங்கப்படுவதில்லை.
ரெஃபரன்ஸ் ஸ்ட்ரக்ச்சர்டு அவுட்புட் ஸ்கீமாக்களுடன் (எ.கா., கொள்கை தீர்ப்பு, காரண விளக்கம்) கூடிய உரை‑மட்டும் மாடல்கள்.
உங்கள் சொந்த கொள்கையை கொண்டு வாருங்கள்: குறைந்தபட்ச இன்ஜினியரிங்குடன் தயாரிப்புகள் முழுவதும் பொதுமைப்படுத்த முடியும் வகையில், மாடல் உங்கள் எழுதப்பட்ட கொள்கையைப் பொருள் கொள்ளும்.
காரணத்துடன் கூடிய முடிவுகள்: பிழைத்திருத்தம் மற்றும் தணிக்கைகளுக்கு உதவும் விருப்ப ரீஸனிங் தடங்கள் (டெவலப்பர்கள் மற்றும் பாதுகாப்பு நிபுணர்களுக்காக; இறுதி பயனர்களுக்குக் காட்டுவதற்கல்ல).
கான்ஃபிகர் செய்யக்கூடிய ரீஸனிங் முயற்சி: லேட்டன்சி மற்றும் ஆழம் இடையே சமநிலை அமைக்க குறைவு / நடுத்தரம் / அதிகம் என்பதைத் தேர்ந்தெடுக்கவும்.
உரிமம்: Apache 2.0 (கீழே கிடைக்கும் தன்மை மற்றும் உரிமம் என்பதைப் பார்க்கவும்).
LLMகளுக்கான உள்ளீடு/வெளியீடு வடிகட்டல், ஆன்லைன் உள்ளடக்க லேபலிங், மற்றும் ஆஃப்லைன் பேட்ச் லேபலிங் அல்லது மதிப்பாய்வு பணிப்பாய்வுகளுக்கு gpt‑oss‑safeguard நல்ல பொருத்தமாகும். பொதுவான பயன்பாடுகளுக்கு (சாட், ஏஜென்ட்கள் போன்றவை), மைய gpt‑oss மாடல்களை பரிந்துரைக்கிறோம்.
உங்கள் தேவைகளுக்கு ஏற்ப ஸ்கீமாவை மாற்றிக்கொள்ளலாம். ப்ராம்ப்டிங் வழிகாட்டிகள் மற்றும் எடுத்துக்காட்டுகளுக்கு OpenAI Cookbook-ஐ பார்க்கவும்.
மாடல் வகைகள் & அளவிடல்
| மாடல் | நோக்கப்பட்ட பயன்பாடு | குறிப்புகள் |
|---|---|---|
| gpt‑oss‑safeguard‑120b | ப்ரொடக்ஷன், உயர்‑திறன் பாதுகாப்பு ரீஸனிங் | 117B அளவுருக்கள் (≈5.1B செயலில்). ஒற்றை 80 GB GPU -இல் பொருந்துமாறு வடிவமைக்கப்பட்டது (எ.கா., NVIDIA H100; AMD MI300X போன்ற பெரிய‑நினைவக GPUகளிலும் இயங்கும்). |
| gpt‑oss‑safeguard‑20b | குறைந்த‑லேட்டன்சி / கட்டுப்படுத்தப்பட்ட சூழல்கள் | 21B அளவுருக்கள் (≈3.6B செயலில்). |
இரு மாடல்களும் கட்டமைப்பு மாற்றமின்றி gpt‑oss இலிருந்து ஃபைன்‑டியூன் செய்யப்பட்டவை. அவை gpt‑oss போன்ற அதே சாட் டெம்ப்ளேட்டைப் பயன்படுத்துகின்றன; உங்கள் தற்போதைய அமைப்பைத் தொடரலாம். பரிந்துரைக்கப்படும் ப்ராம்ப்டிங் முறை: உங்கள் கொள்கையை டெவலப்பர் செய்தியில், மதிப்பிட வேண்டிய உள்ளடக்கத்தை பயனர் செய்தியில் வைப்பது.
ஆதரவும் சமூகமும்
ஓபன்‑வெயிட் டெப்ளாய்மென்ட்கள் சுயமாக நிர்வகிக்கப்படுபவை, சுயமாக சேவை செய்யப்படுபவை. ஆதரவைப் பெற வேண்டிய இடங்கள் இவை:
கேள்விகள், கலந்துரையாடல், உதவிக்குறிப்புகள்: சமூகத்துடன் ஈடுபட Hugging Face மாடல் பக்கங்களைப் பயன்படுத்தவும்.
OpenAI-யின் ரெஃபரன்ஸ் இன்ஃபரன்ஸ் குறியீட்டில் மீண்டும் உருவாக்கக்கூடிய பிழைகள்: gpt-oss GitHub ரெப்போவில் ஒரு இஷ்யூவைத் திறக்கவும்.
மூன்றாம் தரப்பு ரன்டைமில் உள்ள சிக்கல்கள் (எ.கா., vLLM, Ollama, llama.cpp): தொடர்புடைய திட்டத்தின் இஷ்யூ டிராக்கர், ஃபோரங்கள் அல்லது ஆதரவு செயல்முறையைப் பயன்படுத்தவும்.
OpenAI, சுயமாக ஹோஸ்ட் செய்யப்பட்ட அல்லது மூன்றாம் தரப்பால் ஹோஸ்ட் செய்யப்பட்ட எந்த ஓபன்‑வெயிட் அமைப்புகள், கான்ஃபிகரேஷன்கள், சூழல்கள் அல்லது பயன்பாடுகளுக்கும் உதவி, நேரடி அமலாக்கம் அல்லது பிழைத்திருத்த ஆதரவை வழங்குவதில்லை.
ROOST Model Community (RMC) உட்பட, ஓபன் பாதுகாப்பு கருவிகளை மேம்படுத்த சமூகத்துடன் தொடர்ந்து பணியாற்றுவோம். மதிப்பீட்டு முடிவுகள் மற்றும் மாடல் பின்னூட்டம் உட்பட, ஓபன் சோர்ஸ் AI மாடல்களை பாதுகாப்பு பணிப்பாய்வுகளில் செயல்படுத்துவதற்கான சிறந்த நடைமுறைகளைப் பகிர, RMC பாதுகாப்பு நிபுணர்கள் மற்றும் ஆராய்ச்சியாளர்களை ஒன்றிணைக்கிறது. இந்த கூட்டாண்மை பற்றியும் இதில் எவ்வாறு ஈடுபடுவது பற்றியும் மேலும் அறிய RMC GitHub ரெப்போவைப் பார்வையிடவும்.
ஆதரவும் சமூகமும்
ஓபன்‑வெயிட் டெப்ளாய்மென்ட்கள் சுயமாக நிர்வகிக்கப்படுபவை, சுயமாக சேவை செய்யப்படுபவை. ஆதரவைப் பெற வேண்டிய இடங்கள் இவை:
கேள்விகள், கலந்துரையாடல், உதவிக்குறிப்புகள்: சமூகத்துடன் ஈடுபட Hugging Face மாடல் பக்கங்களைப் பயன்படுத்தவும்.
OpenAI-யின் ரெஃபரன்ஸ் இன்ஃபரன்ஸ் குறியீட்டில் மீண்டும் உருவாக்கக்கூடிய பிழைகள்: gpt-oss GitHub ரெப்போவில் ஒரு இஷ்யூவைத் திறக்கவும்.
மூன்றாம் தரப்பு ரன்டைமில் உள்ள சிக்கல்கள் (எ.கா., vLLM, Ollama, llama.cpp): தொடர்புடைய திட்டத்தின் இஷ்யூ டிராக்கர், ஃபோரங்கள் அல்லது ஆதரவு செயல்முறையைப் பயன்படுத்தவும்.
OpenAI, சுயமாக ஹோஸ்ட் செய்யப்பட்ட அல்லது மூன்றாம் தரப்பால் ஹோஸ்ட் செய்யப்பட்ட எந்த ஓபன்‑வெயிட் அமைப்புகள், கான்ஃபிகரேஷன்கள், சூழல்கள் அல்லது பயன்பாடுகளுக்கும் உதவி, நேரடி அமலாக்கம் அல்லது பிழைத்திருத்த ஆதரவை வழங்குவதில்லை.
தனியுரிமை மற்றும் பாதுகாப்பு
தனியுரிமை மற்றும் தரவு
இந்த மாடல்கள் நீங்கள் கட்டுப்படுத்தும் உட்கட்டமைப்பில் (உங்கள் வளாகத்தில் அல்லது உங்கள் கிளவுட் அல்லது ஹோஸ்டிங் கூட்டாளரிடம்) இயங்குமாறு வடிவமைக்கப்பட்டுள்ளன. நீங்கள் அதை OpenAI-யுடன் வெளிப்படையாகப் பகிர்ந்தாலோ, அல்லது எங்கள் நிர்வகிக்கப்பட்ட ஹோஸ்டிங் கூட்டாளர்களில் ஒருவரைப் பயன்படுத்தினாலோ தவிர, இந்த சுய‑ஹோஸ்ட் செய்யப்பட்ட மாடல்களுக்கு நீங்கள் அனுப்பும் தரவை OpenAI பெறவோ செயலாக்கவோ செய்யாது.
பாதுகாப்பு
இந்த மாடல்கள் விரிவான பாதுகாப்புப் பயிற்சி மற்றும் சோதனைகளுக்கு உட்படுத்தப்பட்டன. மேலும் விவரங்களுக்கு, எங்கள் மாடல் கார்ட் மற்றும் தொழில்நுட்ப அறிக்கையைப் பார்க்கவும்.
உள்ளடக்க மீறல்களைப் புகாரளித்தல்
gpt‑oss மாடல்கள் மூலம் உருவாக்கப்பட்ட உள்ளடக்கம் எங்கள் கொள்கைகளை மீறுகிறது என்று நீங்கள் நம்பினால், எங்கள் Report Content படிவம் மூலம் அதைப் புகாரளிக்கலாம். உங்கள் சமர்ப்பிப்பை மதிப்பாய்வு செய்ய எங்கள் குழுவுக்கு உதவ, இயன்றளவு விவரங்களை வழங்கவும்.
அடிக்கடி கேட்கப்படும் கேள்விகள்
இந்த மாடல்கள் இலவசமா?
gpt-oss மாடல் வெயிட்களை Apache 2.0 உரிமம் மற்றும் gpt-oss பயன்பாட்டுக் கொள்கையின் கீழ் இலவசமாக பதிவிறக்கி பயன்படுத்தலாம். ஆனால், அவற்றை இயக்குவதுடன் தொடர்புடைய எந்த செலவுகளுக்கும் — கணிப்பொறி வளம், சேமிப்பகம் அல்லது மூன்றாம் தரப்பு ஹோஸ்டிங் கட்டணங்கள் போன்றவற்றுக்கும் — நீங்களே பொறுப்பானவர். அவற்றிற்கான விலை நிர்ணயம் நீங்கள் தேர்ந்தெடுத்த உட்கட்டமைப்பு அல்லது வழங்குநரைப் பொறுத்தது.
இந்த மாடல்கள் “ஓபன் சோர்ஸ்” ஆகுமா?
பயிற்சியளிக்கப்பட்ட வெயிட்கள் அனுமதியளிக்கும் Apache 2.0 உரிமம் மற்றும் gpt-oss பயன்பாட்டுக் கொள்கையின் கீழ் பொதுவில் கிடைக்கின்றன என்பதை குறிக்க, ஓபன் மாடல்கள் அல்லது ஓபன்‑வெயிட் என்ற சொல்லைப் பயன்படுத்துகிறோம். இதன் பொருள் நீங்கள் மாடல்களை பதிவிறக்கலாம், உங்கள் சொந்த உட்கட்டமைப்பில் அல்லது ஆதரிக்கப்படும் ஹோஸ்டிங் ஃப்ரேம்வொர்க்குகளுடன் இயக்கலாம், மேலும் அவற்றை தனிப்பயனாக்கலாம் அல்லது ஃபைன்‑டியூன் செய்யலாம்.
ஓபன் மாடல்கள் டெவலப்பர்கள் மற்றும் நிறுவனங்களுக்கு அதிக கட்டுப்பாட்டையும் நெகிழ்வுத்தன்மையையும் வழங்குகின்றன. எங்கு ஹோஸ்ட் செய்வது என்பதைத் தேர்வு செய்யலாம், குறிப்பிட்ட பயன்பாட்டு நிலைகளுக்கு மாடல்களை மாற்றியமைக்கலாம், மேலும் பரவலான பயன்பாடு, மாற்றம் மற்றும் மறுவிநியோகத்தை அனுமதிக்கும் உரிமத்திலிருந்து பயன் பெறலாம். பயிற்சியளிக்கப்பட்ட வெயிட்கள் ஓபனாக இருந்தாலும், சுற்றியுள்ள சில உட்கட்டமைப்பு அல்லது கருவிகள் அவற்றின் வழங்குநர்களின் தனியுரிமையாகவே இருக்கலாம்.
இந்த மாடல்களை OpenAI API அல்லது ChatGPT மூலம் அணுக முடியுமா?
இல்லை. இந்த மாடல்கள் OpenAI API-யில் வழங்கப்படுவதில்லை, மேலும் ChatGPT-இல் தோன்றுவதில்லை.
நான் மாடல்களை ஃபைன்‑டியூன் செய்ய முடியுமா?
ஆம். ஓபன்‑சோர்ஸ் கருவிகள் மற்றும் நீங்கள் விரும்பும் உட்கட்டமைப்பைப் பயன்படுத்தி ஃபைன்‑டியூன் செய்யலாம். இந்த மாடல்களுக்கு OpenAI APIகள் மூலம் ஃபைன்‑டியூனிங்கை நாங்கள் வழங்கவில்லை.
ஓபன்‑வெயிட் மாடல்கள் API-ஐப் பயன்படுத்துவதை விட மலிவானவையா?
உட்கட்டமைப்பு, பணிச்சுமை மற்றும் செயல்பாட்டு அணுகுமுறையைப் பொறுத்து செலவுகள் மாறுபடும். சில சந்தர்ப்பங்களில் சுய ஹோஸ்டிங் மலிவாக இருக்கலாம்; அதே நேரத்தில் ஹோஸ்டிங், பராமரிப்பு மற்றும் மேம்படுத்தல்களை கணக்கில் எடுத்தால் எங்கள் API Platform அதிக திறனுள்ளதாக இருக்கலாம்.
இந்த மாடல்கள் எந்த அம்சங்களை ஆதரிக்கின்றன?
இந்த மாடல்கள் தற்போது உரை‑மட்டும் ரீஸனிங் மாடல்கள். பொதுவான ரன்டைம்கள் ஸ்ட்ரீமிங், ஃபங்ஷன் காலிங், மற்றும் ஸ்ட்ரக்ச்சர்டு அவுட்புட்ஸை ஆதரிக்கின்றன. துல்லியமான திறன்களுக்கு உங்கள் ரன்டைமின் ஆவணங்களைச் சரிபார்க்கவும்.
இது ModAPI-யிலிருந்து எப்படி வேறுபடுகிறது?
இது உங்கள் சொந்த கொள்கையை கொண்டு வர அனுமதிக்கும் மிகத் திறன் வாய்ந்த ரீஸனிங் மாடல். இது ModAPI உடன் இணைந்து செயல்படலாம், ஆனால் குறைந்த லேட்டன்சி பயன்பாட்டு நிலைகளுக்கு மாற்றாக இருக்க வாய்ப்பு குறைவு.