टीप: हा लेख उच्च-स्तरीय आढावा देतो. तांत्रिक सेटअपसाठी माहिती gpt-oss वेबसाइट, GitHub, Hugging Face, आणि OpenAI Cookbooks वर मिळू शकते.
आढावा
दोन ओपन-वेट रीझनिंग मॉडेल सादर करत आहोत: gpt‑oss‑120b आणि gpt‑oss‑20b. ती तुम्ही नियंत्रित करता त्या इन्फ्रास्ट्रक्चरवर किंवा होस्टिंग प्रदात्यांद्वारे चालतात.
टीप: ही मॉडेल्स OpenAI API द्वारे सर्व्ह केली जात नाहीत आणि ChatGPT मध्ये उपलब्ध नाहीत.
ओपन-वेट्स का
निवड आणि नियंत्रण: मॉडेल्स ऑन-प्रिमाइसेस किंवा तुमच्या खाजगी क्लाउडमध्ये चालवा, डेटा रेसिडेन्सी ठेवा, आणि तुमच्या गरजेनुसार कार्यप्रदर्शन जुळवा.
सानुकूलन: तुमच्या पसंतीच्या ओपन टूलिंगसह मॉडेल्स फाइन-ट्यून किंवा अनुकूल करा.
उपलब्धता आणि परवाना
परवाना: Apache 2.0 व्यावसायिक वापरासह व्यापक वापर, बदल आणि पुनर्वितरणास अनुमती देतो (आमच्या gpt-oss वापर धोरणाच्या अधीन).
सर्व्हिंग: OpenAI API द्वारे उपलब्ध नाही, म्हणून API किंमत आणि रेट मर्यादा लागू होत नाहीत.
सुसंगतता: vLLM, Ollama, llama.cpp सारख्या सामान्य ओपन इनफरन्स स्टॅक्ससह, तसेच क्लाउड किंवा स्व-व्यवस्थापित GPU वातावरणांवर चालवता येते.
सुरुवात करणे
मॉडेल वेट्स आणि सहाय्यक संसाधने मिळवण्यासाठी, तुम्ही:
आढावा आणि थेट दुव्यांसाठी gpt-oss वेबसाइटला भेट द्या.
Hugging Face संग्रहातून वेट्स डाउनलोड करा — हा असा समुदाय हब आहे जिथे तुम्हाला दोन्ही मॉडेल्स सापडतील, वापराची उदाहरणे पाहता येतील आणि इच्छेनुसार Hugging Face च्या सेवांद्वारे थेट अनुमान चालवता येईल.
संदर्भ अनुमान कोडसाठी आमच्या GitHub रेपोमध्ये प्रवेश करा.
Ollama, vLLM आणि Transformers सारख्या समर्थित रनटाइम्ससह सेटअपसाठी OpenAI Cookbook मधील मार्गदर्शक वापरा. Cookbook मध्ये स्थानिकरित्या चालवणे, सामान्य रनटाइम्स वापरणे आणि—जिथे समर्थित आहे तिथे—gpt‑oss मॉडेल्स फाइन-ट्यून करण्यासाठी चरण-दर-चरण सूचना देखील आहेत.
gpt‑oss‑safeguard (संशोधन पूर्वावलोकन)
gpt‑oss‑safeguard ही gpt‑oss वर आधारित ओपन-वेट सुरक्षा रीझनिंग मॉडेल्सची जोडी आहे. ती तुम्ही नियंत्रित करता त्या इन्फ्रास्ट्रक्चरवर चालवणाऱ्या धोरण-आधारित सुरक्षा वर्गीकरणासाठी आणि संबंधित विश्वास व सुरक्षा कार्यांसाठी डिझाइन केली आहेत. इतर gpt‑oss मॉडेल्सप्रमाणे, हे वेट्स OpenAI API किंवा ChatGPT द्वारे सर्व्ह केले जात नाहीत.
संदर्भ स्ट्रक्चर्ड-आउटपुट स्कीमासह केवळ-मजकूर मॉडेल्स (उदा., धोरण निकाल, कारणमीमांसा).
तुमचे स्वतःचे धोरण आणा: मॉडेल तुमच्या लिखित धोरणाचा अर्थ लावते, त्यामुळे ते कमी अभियांत्रिकीसह विविध उत्पादनांमध्ये सामान्यीकरण करू शकते.
युक्तिवादाधारित निर्णय: डीबगिंग आणि ऑडिट्ससाठी वैकल्पिक रीझनिंग ट्रेसेस (विकसक आणि सुरक्षा व्यावसायिकांसाठी, अंतिम वापरकर्त्यांना दाखवण्यासाठी नाही).
कॉन्फिगर करता येणारा रीझनिंग प्रयत्न: विलंब विरुद्ध सखोलता यांचा समतोल साधण्यासाठी कमी / मध्यम / उच्च निवडा.
परवाना: Apache 2.0 (खाली उपलब्धता आणि परवाना पहा).
gpt‑oss‑safeguard LLMs साठी इनपुट/आउटपुट फिल्टरिंग, ऑनलाइन सामग्री लेबलिंग, आणि ऑफलाइन बॅच लेबलिंग किंवा पुनरावलोकन वर्कफ्लोजसाठी योग्य आहे. सामान्य अनुप्रयोगांसाठी (चॅट, एजंट्स इ.), आम्ही मुख्य gpt‑oss मॉडेल्सची शिफारस करतो.
तुम्ही स्कीमा तुमच्या गरजेनुसार बदलू शकता. प्रॉम्प्टिंगवरील मार्गदर्शक आणि उदाहरणांसाठी कृपया OpenAI Cookbook पहा.
मॉडेल प्रकार & आकारमान
| मॉडेल | अपेक्षित वापर | नोंदी |
|---|---|---|
| gpt‑oss‑safeguard‑120b | उत्पादन वापरासाठी, उच्च‑क्षमतेचे सुरक्षा रीझनिंग | 117B पॅरामीटर्स (≈5.1B सक्रिय). एकाच 80 GB GPU वर बसण्यासाठी डिझाइन केलेले (उदा., NVIDIA H100; AMD MI300X सारख्या अधिक मेमरी असलेल्या GPU वरही चालते). |
| gpt‑oss‑safeguard‑20b | कमी‑विलंब / मर्यादित वातावरणे | 21B पॅरामीटर्स (≈3.6B सक्रिय). |
दोन्ही मॉडेल कोणत्याही आर्किटेक्चर बदलाशिवाय gpt‑oss वरून फाइन‑ट्यून केलेली आहेत. ते gpt‑oss प्रमाणेच चॅट टेम्पलेट वापरतात; तुम्ही तुमची विद्यमान मांडणी कायम ठेवू शकता. शिफारस केलेला प्रॉम्प्टिंग नमुना म्हणजे तुमचे धोरण डेव्हलपर संदेशात आणि मूल्यांकन करायचा मजकूर वापरकर्ता संदेशात ठेवणे.
समर्थन आणि समुदाय
ओपन-वेट डिप्लॉयमेंट्स स्व-व्यवस्थापित आणि स्व-सेवित असतात. समर्थन कुठे मिळेल ते येथे आहे:
प्रश्न, चर्चा, टिपा: समुदायाशी संवाद साधण्यासाठी Hugging Face मॉडेल पेजेस वापरा.
OpenAI च्या संदर्भ अनुमान कोडमधील पुनरुत्पादनीय बग: gpt-oss GitHub रेपो वर इश्यू उघडा.
तृतीय-पक्ष रनटाइमशी संबंधित समस्या (उदा., vLLM, Ollama, llama.cpp): संबंधित प्रकल्पाचा इश्यू ट्रॅकर, फोरम किंवा समर्थन प्रक्रिया वापरा.
कोणत्याही सेल्फ-होस्टेड किंवा तृतीय-पक्ष-होस्टेड ओपन-वेट सेटअप, कॉन्फिगरेशन, वातावरण किंवा अनुप्रयोगांसाठी OpenAI मदत, प्रत्यक्ष अंमलबजावणी किंवा डीबगिंग समर्थन देत नाही.
ROOST Model Community (RMC) मार्फतही, ओपन सुरक्षा टूलिंग सुधारण्यासाठी आम्ही समुदायासोबत सतत पुनरावृत्ती करत राहू. RMC सुरक्षा व्यावसायिक आणि संशोधकांना एकत्र आणते, जेणेकरून मूल्यमापन परिणाम आणि मॉडेल अभिप्रायासह, सुरक्षा वर्कफ्लोजमध्ये ओपन सोर्स AI मॉडेल्स अंमलात आणण्याच्या सर्वोत्तम पद्धती शेअर करता येतील. या भागीदारीबद्दल अधिक जाणून घेण्यासाठी आणि सहभागी कसे व्हावे हे पाहण्यासाठी RMC GitHub रेपोला भेट द्या.
समर्थन आणि समुदाय
ओपन-वेट डिप्लॉयमेंट्स स्व-व्यवस्थापित आणि स्व-सेवित असतात. समर्थन कुठे मिळेल ते येथे आहे:
प्रश्न, चर्चा, टिपा: समुदायाशी संवाद साधण्यासाठी Hugging Face मॉडेल पेजेस वापरा.
OpenAI च्या संदर्भ अनुमान कोडमधील पुनरुत्पादनीय बग: gpt-oss GitHub रेपो वर इश्यू उघडा.
तृतीय-पक्ष रनटाइमशी संबंधित समस्या (उदा., vLLM, Ollama, llama.cpp): संबंधित प्रकल्पाचा इश्यू ट्रॅकर, फोरम किंवा समर्थन प्रक्रिया वापरा.
कोणत्याही सेल्फ-होस्टेड किंवा तृतीय-पक्ष-होस्टेड ओपन-वेट सेटअप, कॉन्फिगरेशन, वातावरण किंवा अनुप्रयोगांसाठी OpenAI मदत, प्रत्यक्ष अंमलबजावणी किंवा डीबगिंग समर्थन देत नाही.
गोपनीयता आणि सुरक्षा
गोपनीयता आणि डेटा
ही मॉडेल्स तुम्ही नियंत्रित करता त्या इन्फ्रास्ट्रक्चरवर (ऑन-प्रिमाइसेस किंवा तुमच्या क्लाउड किंवा होस्टिंग भागीदाराकडे) चालण्यासाठी डिझाइन केलेली आहेत. तुम्ही OpenAI सोबत स्पष्टपणे शेअर केल्याशिवाय किंवा आमच्या व्यवस्थापित होस्टिंग भागीदारांपैकी एक वापरल्याशिवाय, OpenAI या सेल्फ-होस्टेड मॉडेल्सना तुम्ही पाठवलेला डेटा प्राप्त करत नाही किंवा प्रक्रिया करत नाही.
सुरक्षा
या मॉडेल्सना विस्तृत सुरक्षा प्रशिक्षण आणि चाचणी देण्यात आली. अधिक तपशीलांसाठी, आमचे मॉडेल कार्ड आणि तांत्रिक अहवाल पहा.
सामग्री उल्लंघनांचा अहवाल देणे
gpt‑oss मॉडेल्सद्वारे तयार केलेली सामग्री आमच्या धोरणांचे उल्लंघन करते असे तुम्हाला वाटत असल्यास, तुम्ही आमच्या Report Content फॉर्मद्वारे त्याचा अहवाल देऊ शकता. आमच्या टीमला तुमच्या सबमिशनचे पुनरावलोकन करण्यात मदत करण्यासाठी कृपया शक्य तितका तपशील द्या.
वारंवार विचारले जाणारे प्रश्न
ही मॉडेल विनामूल्य आहेत का?
gpt-oss मॉडेल वेट्स Apache 2.0 परवाना आणि gpt-oss वापर धोरण अंतर्गत विनामूल्य डाउनलोड करून वापरता येतात. मात्र, ती चालवण्याशी संबंधित कोणत्याही खर्चांसाठी तुम्ही जबाबदार आहात — जसे की कंप्यूट, स्टोरेज किंवा तृतीय-पक्ष होस्टिंग शुल्क. त्यांची किंमत तुम्ही निवडलेल्या पायाभूत सुविधा किंवा प्रदात्यावर अवलंबून असेल.
ही मॉडेल्स “ओपन सोर्स” आहेत का?
प्रशिक्षित वेट्स परवानगीशील Apache 2.0 परवाना आणि gpt-oss वापर धोरण अंतर्गत सार्वजनिकरीत्या उपलब्ध आहेत हे दाखवण्यासाठी आम्ही ओपन मॉडेल्स किंवा ओपन-वेट ही संज्ञा वापरतो. याचा अर्थ तुम्ही मॉडेल्स डाउनलोड करू शकता, ती तुमच्या स्वतःच्या इन्फ्रास्ट्रक्चरवर किंवा समर्थित होस्टिंग फ्रेमवर्कसह चालवू शकता, आणि ती सानुकूलित किंवा फाइन-ट्यून करू शकता.
ओपन मॉडेल्स विकसक आणि संस्थांना अधिक नियंत्रण आणि लवचिकता देतात. कुठे होस्ट करायचे ते तुम्ही निवडू शकता, विशिष्ट वापर प्रकरणांसाठी मॉडेल्स अनुकूल करू शकता, आणि व्यापक वापर, बदल आणि पुनर्वितरणास अनुमती देणाऱ्या परवान्याचा लाभ घेऊ शकता. प्रशिक्षित वेट्स खुले असले तरी, काही संबंधित इन्फ्रास्ट्रक्चर किंवा टूलिंग त्यांच्या प्रदात्यांचे मालकीचे राहू शकते.
मी या मॉडेल्सना OpenAI API किंवा ChatGPT द्वारे प्रवेश करू शकतो का?
नाही. ही मॉडेल्स OpenAI API मध्ये सर्व्ह केली जात नाहीत आणि ChatGPT मध्ये दिसत नाहीत.
मी मॉडेल्स फाइन-ट्यून करू शकतो का?
होय. तुम्ही ओपन-सोर्स टूल्स आणि तुमच्या पसंतीच्या इन्फ्रास्ट्रक्चरचा वापर करून फाइन-ट्यून करू शकता. या मॉडेल्ससाठी आम्ही OpenAI APIs द्वारे फाइन-ट्यूनिंग देत नाही.
API वापरण्यापेक्षा ओपन-वेट मॉडेल स्वस्त आहेत का?
इन्फ्रास्ट्रक्चर, वर्कलोड आणि ऑपरेशनल दृष्टिकोनानुसार खर्च बदलतात. काही प्रकरणांमध्ये सेल्फ-होस्टिंग स्वस्त असू शकते, तर होस्टिंग, देखभाल आणि अपग्रेड्स विचारात घेतल्यास आमचे API Platform अधिक कार्यक्षम ठरू शकते.
ही मॉडेल्स कोणती वैशिष्ट्ये समर्थित करतात?
ही मॉडेल्स सध्या केवळ-मजकूर रीझनिंग मॉडेल्स आहेत. सामान्य रनटाइम्स स्ट्रीमिंग, फंक्शन कॉलिंग आणि स्ट्रक्चर्ड आउटपुट्स समर्थित करतात. अचूक क्षमतांसाठी तुमच्या रनटाइमचे दस्तऐवजीकरण तपासा.
हे ModAPI पेक्षा कसे वेगळे आहे?
हे अत्यंत सक्षम रीझनिंग मॉडेल आहे जे तुम्हाला तुमचे स्वतःचे धोरण आणण्याची परवानगी देते. हे ModAPI सोबत एकत्रितपणे काम करू शकते, पण कमी-विलंब वापर प्रकरणांसाठी त्याची जागा घेण्याची शक्यता कमी आहे.