टीप: हा लेख उच्च-स्तरीय आढावा देतो. तांत्रिक सेटअपसाठी माहिती gpt-oss वेबसाइट, GitHub, Hugging Face, आणि OpenAI Cookbooks वर मिळू शकते.
आढावा
दोन ओपन-वेट रीझनिंग मॉडेल सादर करत आहोत: gpt‑oss‑120b आणि gpt‑oss‑20b. ती तुम्ही नियंत्रित करता त्या इन्फ्रास्ट्रक्चरवर किंवा होस्टिंग प्रदात्यांद्वारे चालतात.
टीप: ही मॉडेल्स OpenAI API द्वारे सर्व्ह केली जात नाहीत आणि ChatGPT मध्ये उपलब्ध नाहीत.
ओपन-वेट्स का
निवड आणि नियंत्रण: मॉडेल्स ऑन-प्रिमाइसेस किंवा तुमच्या खाजगी क्लाउडमध्ये चालवा, डेटा रेसिडेन्सी ठेवा, आणि तुमच्या गरजेनुसार कार्यप्रदर्शन जुळवा.
सानुकूलन: तुमच्या पसंतीच्या ओपन टूलिंगसह मॉडेल्स फाइन-ट्यून किंवा अनुकूल करा.
उपलब्धता आणि परवाना
परवाना: Apache 2.0 व्यावसायिक वापरासह व्यापक वापर, बदल आणि पुनर्वितरणास अनुमती देतो (आमच्या gpt-oss वापर धोरणाच्या अधीन).
सर्व्हिंग: OpenAI API द्वारे उपलब्ध नाही, म्हणून API किंमत आणि रेट मर्यादा लागू होत नाहीत.
सुसंगतता: vLLM, Ollama, llama.cpp सारख्या सामान्य ओपन इनफरन्स स्टॅक्ससह, तसेच क्लाउड किंवा स्व-व्यवस्थापित GPU वातावरणांवर चालवता येते.
प्रारंभ करा
मॉडेलचे भार आणि पूरक संसाधने मिळवण्यासाठी तुम्ही पुढील पर्याय वापरू शकता:
आढावा आणि थेट दुव्यांसाठी gpt-oss संकेतस्थळाला भेट द्या.
Hugging Face संग्रहातून भार डाउनलोड करा. हे एक सामुदायिक केंद्र आहे, जिथे तुम्हाला दोन्ही मॉडेल, वापराची उदाहरणे आणि पर्यायाने Hugging Face च्या सेवांद्वारे थेट अनुमान चालवण्याची सुविधा मिळेल.
अनुमानाच्या संदर्भ अंमलबजावणीसाठी आमची GitHub संग्रहिका वापरा.
Ollama, vLLM आणि Transformers यांसारख्या समर्थित रनटाइमसह उभारणी करण्यासाठी OpenAI पाककृतींमधील मार्गदर्शिका वापरा. या पाककृतींमध्ये स्थानिक पातळीवर चालवणे, सर्वसाधारण रनटाइम वापरणे आणि समर्थन उपलब्ध असल्यास gpt-oss मॉडेलचे सूक्ष्म समायोजन करणे यांसाठी टप्प्याटप्प्याने सूचना दिल्या आहेत.
gpt‑oss‑safeguard (संशोधन पूर्वावलोकन)
gpt‑oss‑safeguard ही gpt‑oss वर आधारित मुक्त-वजन सुरक्षा रीझनिंग मॉडेल्सची जोडी आहे. तुमच्या नियंत्रणाखालील पायाभूत सुविधांवर चालणाऱ्या धोरणाधारित सुरक्षा वर्गीकरणासाठी आणि विश्वासार्हता व सुरक्षिततेशी संबंधित कार्यांसाठी ती तयार केली आहेत. इतर gpt‑oss मॉडेल्सप्रमाणे, ही वजने OpenAI API किंवा ChatGPT द्वारे उपलब्ध करून दिली जात नाहीत.
संदर्भासाठी स्ट्रक्चर्ड आउटपुट स्कीमांसह केवळ मजकूराधारित मॉडेल्स (उदा., धोरणविषयक निर्णय, कारणमीमांसा).
स्वतःचे धोरण वापरा: मॉडेल तुमच्या लिखित धोरणाचा अर्थ लावते, त्यामुळे कमीत कमी अभियांत्रिकी प्रयत्नांत ते विविध उत्पादनांमध्ये लागू करता येते.
तर्काधारित निर्णय: त्रुटीनिवारण आणि लेखापरीक्षणात मदत करणारा रीझनिंगचा पर्यायी मागोवा (विकसक आणि सुरक्षा व्यावसायिकांसाठी; अंतिम वापरकर्त्यांना दाखवण्यासाठी नाही).
बदलता येणारा रीझनिंग प्रयत्न: प्रतिसादातील विलंब आणि विश्लेषणाची सखोलता यांचा समतोल साधण्यासाठी निम्न / मध्यम / उच्च निवडा.
परवाना: Apache 2.0 (खालील उपलब्धता आणि परवाना पाहा).
LLM साठी निविष्ट/निर्गम गाळणी, आंतरजालावरील आशयाला खूणचिठ्ठ्या लावणे आणि जालाबाह्य संचांना खूणचिठ्ठ्या लावणे किंवा त्यांचे पुनरावलोकन करणे, या कार्यप्रवाहांसाठी gpt‑oss‑safeguard उपयुक्त आहे. सर्वसाधारण अनुप्रयोगांसाठी (संवाद, स्वायत्त प्रतिनिधी इत्यादी) आम्ही मुख्य gpt‑oss मॉडेल्सची शिफारस करतो.
तुमच्या गरजांनुसार स्कीमा बदलू शकता. सूचना मांडणीविषयी मार्गदर्शने आणि उदाहरणांसाठी कृपया OpenAI मार्गदर्शिका संग्रह पाहा.
मॉडेल प्रकार & आकारमान
| मॉडेल | अपेक्षित वापर | नोंदी |
|---|---|---|
| gpt‑oss‑safeguard‑120b | उत्पादन वापरासाठी, उच्च‑क्षमतेचे सुरक्षा रीझनिंग | 117B पॅरामीटर्स (≈5.1B सक्रिय). एकाच 80 GB GPU वर बसण्यासाठी डिझाइन केलेले (उदा., NVIDIA H100; AMD MI300X सारख्या अधिक मेमरी असलेल्या GPU वरही चालते). |
| gpt‑oss‑safeguard‑20b | कमी‑विलंब / मर्यादित वातावरणे | 21B पॅरामीटर्स (≈3.6B सक्रिय). |
दोन्ही मॉडेल कोणत्याही आर्किटेक्चर बदलाशिवाय gpt‑oss वरून फाइन‑ट्यून केलेली आहेत. ते gpt‑oss प्रमाणेच चॅट टेम्पलेट वापरतात; तुम्ही तुमची विद्यमान मांडणी कायम ठेवू शकता. शिफारस केलेला प्रॉम्प्टिंग नमुना म्हणजे तुमचे धोरण डेव्हलपर संदेशात आणि मूल्यांकन करायचा मजकूर वापरकर्ता संदेशात ठेवणे.
समर्थन आणि समुदाय
ओपन-वेट डिप्लॉयमेंट्स स्व-व्यवस्थापित आणि स्व-सेवित असतात. समर्थन कुठे मिळेल ते येथे आहे:
प्रश्न, चर्चा, टिपा: समुदायाशी संवाद साधण्यासाठी Hugging Face मॉडेल पेजेस वापरा.
OpenAI च्या संदर्भ अनुमान कोडमधील पुनरुत्पादनीय बग: gpt-oss GitHub रेपो वर इश्यू उघडा.
तृतीय-पक्ष रनटाइमशी संबंधित समस्या (उदा., vLLM, Ollama, llama.cpp): संबंधित प्रकल्पाचा इश्यू ट्रॅकर, फोरम किंवा समर्थन प्रक्रिया वापरा.
कोणत्याही सेल्फ-होस्टेड किंवा तृतीय-पक्ष-होस्टेड ओपन-वेट सेटअप, कॉन्फिगरेशन, वातावरण किंवा अनुप्रयोगांसाठी OpenAI मदत, प्रत्यक्ष अंमलबजावणी किंवा डीबगिंग समर्थन देत नाही.
ROOST Model Community (RMC) मार्फतही, ओपन सुरक्षा टूलिंग सुधारण्यासाठी आम्ही समुदायासोबत सतत पुनरावृत्ती करत राहू. RMC सुरक्षा व्यावसायिक आणि संशोधकांना एकत्र आणते, जेणेकरून मूल्यमापन परिणाम आणि मॉडेल अभिप्रायासह, सुरक्षा वर्कफ्लोजमध्ये ओपन सोर्स AI मॉडेल्स अंमलात आणण्याच्या सर्वोत्तम पद्धती शेअर करता येतील. या भागीदारीबद्दल अधिक जाणून घेण्यासाठी आणि सहभागी कसे व्हावे हे पाहण्यासाठी RMC GitHub रेपोला भेट द्या.
समर्थन आणि समुदाय
ओपन-वेट डिप्लॉयमेंट्स स्व-व्यवस्थापित आणि स्व-सेवित असतात. समर्थन कुठे मिळेल ते येथे आहे:
प्रश्न, चर्चा, टिपा: समुदायाशी संवाद साधण्यासाठी Hugging Face मॉडेल पेजेस वापरा.
OpenAI च्या संदर्भ अनुमान कोडमधील पुनरुत्पादनीय बग: gpt-oss GitHub रेपो वर इश्यू उघडा.
तृतीय-पक्ष रनटाइमशी संबंधित समस्या (उदा., vLLM, Ollama, llama.cpp): संबंधित प्रकल्पाचा इश्यू ट्रॅकर, फोरम किंवा समर्थन प्रक्रिया वापरा.
कोणत्याही सेल्फ-होस्टेड किंवा तृतीय-पक्ष-होस्टेड ओपन-वेट सेटअप, कॉन्फिगरेशन, वातावरण किंवा अनुप्रयोगांसाठी OpenAI मदत, प्रत्यक्ष अंमलबजावणी किंवा डीबगिंग समर्थन देत नाही.
गोपनीयता आणि सुरक्षा
गोपनीयता आणि डेटा
ही मॉडेल्स तुम्ही नियंत्रित करता त्या इन्फ्रास्ट्रक्चरवर (ऑन-प्रिमाइसेस किंवा तुमच्या क्लाउड किंवा होस्टिंग भागीदाराकडे) चालण्यासाठी डिझाइन केलेली आहेत. तुम्ही OpenAI सोबत स्पष्टपणे शेअर केल्याशिवाय किंवा आमच्या व्यवस्थापित होस्टिंग भागीदारांपैकी एक वापरल्याशिवाय, OpenAI या सेल्फ-होस्टेड मॉडेल्सना तुम्ही पाठवलेला डेटा प्राप्त करत नाही किंवा प्रक्रिया करत नाही.
सुरक्षा
या मॉडेल्सना विस्तृत सुरक्षा प्रशिक्षण आणि चाचणी देण्यात आली. अधिक तपशीलांसाठी, आमचे मॉडेल कार्ड आणि तांत्रिक अहवाल पहा.
सामग्री उल्लंघनांचा अहवाल देणे
gpt‑oss मॉडेल्सद्वारे तयार केलेली सामग्री आमच्या धोरणांचे उल्लंघन करते असे तुम्हाला वाटत असल्यास, तुम्ही आमच्या Report Content फॉर्मद्वारे त्याचा अहवाल देऊ शकता. आमच्या टीमला तुमच्या सबमिशनचे पुनरावलोकन करण्यात मदत करण्यासाठी कृपया शक्य तितका तपशील द्या.
वारंवार विचारले जाणारे प्रश्न
ही मॉडेल विनामूल्य आहेत का?
gpt-oss मॉडेल वेट्स Apache 2.0 परवाना आणि gpt-oss वापर धोरण अंतर्गत विनामूल्य डाउनलोड करून वापरता येतात. मात्र, ती चालवण्याशी संबंधित कोणत्याही खर्चांसाठी तुम्ही जबाबदार आहात — जसे की कंप्यूट, स्टोरेज किंवा तृतीय-पक्ष होस्टिंग शुल्क. त्यांची किंमत तुम्ही निवडलेल्या पायाभूत सुविधा किंवा प्रदात्यावर अवलंबून असेल.
ही मॉडेल्स “ओपन सोर्स” आहेत का?
प्रशिक्षित वेट्स परवानगीशील Apache 2.0 परवाना आणि gpt-oss वापर धोरण अंतर्गत सार्वजनिकरीत्या उपलब्ध आहेत हे दाखवण्यासाठी आम्ही ओपन मॉडेल्स किंवा ओपन-वेट ही संज्ञा वापरतो. याचा अर्थ तुम्ही मॉडेल्स डाउनलोड करू शकता, ती तुमच्या स्वतःच्या इन्फ्रास्ट्रक्चरवर किंवा समर्थित होस्टिंग फ्रेमवर्कसह चालवू शकता, आणि ती सानुकूलित किंवा फाइन-ट्यून करू शकता.
ओपन मॉडेल्स विकसक आणि संस्थांना अधिक नियंत्रण आणि लवचिकता देतात. कुठे होस्ट करायचे ते तुम्ही निवडू शकता, विशिष्ट वापर प्रकरणांसाठी मॉडेल्स अनुकूल करू शकता, आणि व्यापक वापर, बदल आणि पुनर्वितरणास अनुमती देणाऱ्या परवान्याचा लाभ घेऊ शकता. प्रशिक्षित वेट्स खुले असले तरी, काही संबंधित इन्फ्रास्ट्रक्चर किंवा टूलिंग त्यांच्या प्रदात्यांचे मालकीचे राहू शकते.
मी या मॉडेल्सना OpenAI API किंवा ChatGPT द्वारे प्रवेश करू शकतो का?
नाही. ही मॉडेल्स OpenAI API मध्ये सर्व्ह केली जात नाहीत आणि ChatGPT मध्ये दिसत नाहीत.
मी मॉडेल्स फाइन-ट्यून करू शकतो का?
होय. तुम्ही ओपन-सोर्स टूल्स आणि तुमच्या पसंतीच्या इन्फ्रास्ट्रक्चरचा वापर करून फाइन-ट्यून करू शकता. या मॉडेल्ससाठी आम्ही OpenAI APIs द्वारे फाइन-ट्यूनिंग देत नाही.
API वापरण्यापेक्षा ओपन-वेट मॉडेल स्वस्त आहेत का?
इन्फ्रास्ट्रक्चर, वर्कलोड आणि ऑपरेशनल दृष्टिकोनानुसार खर्च बदलतात. काही प्रकरणांमध्ये सेल्फ-होस्टिंग स्वस्त असू शकते, तर होस्टिंग, देखभाल आणि अपग्रेड्स विचारात घेतल्यास आमचे API Platform अधिक कार्यक्षम ठरू शकते.
ही मॉडेल्स कोणती वैशिष्ट्ये समर्थित करतात?
ही मॉडेल्स सध्या केवळ-मजकूर रीझनिंग मॉडेल्स आहेत. सामान्य रनटाइम्स स्ट्रीमिंग, फंक्शन कॉलिंग आणि स्ट्रक्चर्ड आउटपुट्स समर्थित करतात. अचूक क्षमतांसाठी तुमच्या रनटाइमचे दस्तऐवजीकरण तपासा.
हे ModAPI पेक्षा कसे वेगळे आहे?
हे अत्यंत सक्षम रीझनिंग मॉडेल आहे जे तुम्हाला तुमचे स्वतःचे धोरण आणण्याची परवानगी देते. हे ModAPI सोबत एकत्रितपणे काम करू शकते, पण कमी-विलंब वापर प्रकरणांसाठी त्याची जागा घेण्याची शक्यता कमी आहे.