નોંધ: આ લેખ ઉચ્ચ-સ્તરીય વિહંગાવલોકન આપે છે. ટેક્નિકલ સેટઅપ માટેની માહિતી gpt-oss વેબસાઇટ, GitHub, Hugging Face અને OpenAI Cookbooks પર મળી શકે છે.
વિહંગાવલોકન
બે ઓપન-વેઇટ રિઝનિંગ મોડલ રજૂ કરી રહ્યા છીએ: gpt‑oss‑120b અને gpt‑oss‑20b. તે તમે નિયંત્રિત કરતા ઇન્ફ્રાસ્ટ્રક્ચર પર અથવા હોસ્ટિંગ પ્રદાતાઓ મારફતે ચાલે છે.
નોંધ: આ મોડલ્સ OpenAI API દ્વારા સર્વ થતા નથી અને ChatGPT માં ઉપલબ્ધ નથી.
ઓપન-વેઇટ્સ શા માટે
પસંદગી અને નિયંત્રણ: મોડલ્સને ઓન-પ્રેમિસીસ અથવા તમારા ખાનગી ક્લાઉડમાં ચલાવો, ડેટા રેસિડન્સી જાળવો અને તમારી જરૂરિયાતો મુજબ કામગીરીને અનુકૂળ બનાવો.
કસ્ટમાઇઝેશન: તમારી પસંદગીના ઓપન ટૂલિંગથી મોડલ્સને ફાઇન-ટ્યુન અથવા અનુકૂળ બનાવો.
ઉપલબ્ધતા અને લાઇસન્સિંગ
લાઇસન્સ: Apache 2.0 વ્યાપક ઉપયોગ, ફેરફાર અને પુનર્વિતરણની મંજૂરી આપે છે, જેમાં વ્યાપારી ઉપયોગ પણ સામેલ છે (અમારી gpt-oss વપરાશ નીતિને આધિન).
સર્વિંગ: OpenAI API મારફતે ઉપલબ્ધ નથી, તેથી API ભાવનિર્ધારણ અને દર મર્યાદા લાગુ પડતી નથી.
સુસંગતતા: vLLM, Ollama, llama.cpp જેવા સામાન્ય ઓપન ઇન્ફરન્સ સ્ટેક્સ સાથે અને ક્લાઉડ અથવા સ્વ-વ્યવસ્થિત GPU એન્વાયર્નમેન્ટ્સ પર ચલાવી શકાય છે.
શરૂઆત
મોડલના વેઇટ્સ અને સહાયક સંસાધનો મેળવવા માટે, તમે આ કરી શકો છો:
વિહંગાવલોકન અને સીધી લિંક્સ માટે gpt-oss વેબસાઇટની મુલાકાત લો.
Hugging Face સંગ્રહમાંથી વેઇટ્સ ડાઉનલોડ કરો. આ એક સામુદાયિક કેન્દ્ર છે, જ્યાં તમે બંને મોડલ શોધી શકો છો, ઉપયોગનાં ઉદાહરણો જોઈ શકો છો અને ઇચ્છો તો Hugging Faceની સેવાઓ દ્વારા સીધું ઇન્ફરન્સ ચલાવી શકો છો.
ઇન્ફરન્સ માટેના સંદર્ભ કોડ મેળવવા અમારી GitHub રિપોઝિટરીનો ઉપયોગ કરો.
Ollama, vLLM અને Transformers જેવા સમર્થિત રનટાઇમ સાથે સેટઅપ કરવા માટે OpenAI રેસિપીઝમાં આપેલી માર્ગદર્શિકાઓનો ઉપયોગ કરો. રેસિપીઝમાં સ્થાનિક રીતે ચલાવવા, સામાન્ય રનટાઇમનો ઉપયોગ કરવા અને જ્યાં સમર્થન હોય ત્યાં gpt-oss મોડલને ફાઇન-ટ્યુન કરવા માટેનાં ક્રમબદ્ધ સૂચનો પણ સામેલ છે.
gpt‑oss‑safeguard (સંશોધન પૂર્વાવલોકન)
gpt‑oss‑safeguard એ gpt‑oss પર આધારિત ઓપન-વેઇટ સલામતી রিজনিং মডেলોની જોડી છે. તેમને નીતિ-આધારિત સલામતી વર્ગીકરણ અને તમે નિયંત્રિત કરતા ઇન્ફ્રાસ્ટ્રક્ચર પર ચલાવાતાં વિશ્વસનીયતા & સલામતીને લગતાં કાર્યો માટે બનાવવામાં આવ્યાં છે. અન્ય gpt‑oss મોડલની જેમ, આ ભારાંકો OpenAI API અથવા ChatGPT દ્વારા ઉપલબ્ધ કરાવવામાં આવતા નથી.
માત્ર ટેક્સ્ટ માટેનાં મોડલ, સંદર્ભરૂપ સ્ટ્રક્ચર્ડ આઉટપુટ સ્કીમા સાથે (દા.ત., નીતિ અંગેનો નિર્ણય, તેનું કારણ).
તમારી પોતાની નીતિ લાવો: મોડલ તમારી લેખિત નીતિનું અર્થઘટન કરે છે, જેથી ઓછામાં ઓછી ઇજનેરી સાથે તેને વિવિધ ઉત્પાદનોમાં લાગુ કરી શકાય.
તર્કસંગત નિર્ણયો: ખામીઓ શોધવા અને ઓડિટમાં મદદ માટે વૈકલ્પિક রিজনিং પ્રક્રિયાની નોંધો (વિકાસકર્તાઓ અને સલામતી નિષ્ણાતો માટે; અંતિમ વપરાશકર્તાઓને બતાવવા માટે નહીં).
ગોઠવી શકાય એવો রিজনিং પ્રયાસ: વિલંબ અને ઊંડાણ વચ્ચે સંતુલન સાધવા લો / મીડિયમ / હાઇ પસંદ કરો.
લાઇસન્સ: Apache 2.0 (નીચે ઉપલબ્ધતા અને લાઇસન્સ જુઓ).
gpt‑oss‑safeguard LLMs માટે ઇનપુટ/આઉટપુટ ફિલ્ટરિંગ, ઓનલાઇન સામગ્રીનું લેબલિંગ અને ઓફલાઇન બૅચ લેબલિંગ અથવા સમીક્ષા કાર્યપ્રવાહો માટે યોગ્ય છે. સામાન્ય ઉપયોગો (ચેટ, એજન્ટ વગેરે) માટે અમે મુખ્ય gpt‑oss મોડલની ભલામણ કરીએ છીએ.
તમે તમારી જરૂરિયાતો અનુસાર સ્કીમા બદલી શકો છો. પ્રોમ્પ્ટ લખવાની માર્ગદર્શિકાઓ અને ઉદાહરણો માટે કૃપા કરીને OpenAI કુકબુક જુઓ.
મોડલ વેરિઅન્ટ્સ અને સાઇઝિંગ
| મોડલ | હેતુસર ઉપયોગ | નોંધો |
|---|---|---|
| gpt‑oss‑safeguard‑120b | પ્રોડક્શન, ઉચ્ચ-ક્ષમતા સલામતી রিজનિંગ | 117B પરિમાણો (≈5.1B સક્રિય). એક જ 80 GB GPU પર ફિટ થવા માટે રચાયેલ છે (દા.ત., NVIDIA H100; AMD MI300X જેવા મોટી મેમરીવાળા GPU પર પણ ચાલે છે). |
| gpt‑oss‑safeguard‑20b | ઓછી લેટન્સી / મર્યાદિત વાતાવરણો | 21B પરિમાણો (≈3.6B સક્રિય). |
બંને મોડલ કોઈ આર્કિટેક્ચર ફેરફાર વગર gpt‑oss પરથી ફાઇન-ટ્યુન કરેલા છે. તેઓ gpt‑oss જેવું જ ચેટ ટેમ્પલેટ વાપરે છે; તમે તમારું હાલનું સેટઅપ રાખી શકો છો. ભલામણ કરાયેલ પ્રોમ્પ્ટિંગ પેટર્ન એ છે કે તમારી નીતિને ડેવલપર સંદેશમાં અને મૂલ્યાંકન કરવાની સામગ્રીને વપરાશકર્તા સંદેશમાં મૂકો.
સહાય અને સમુદાય
ઓપન-વેઇટ ડિપ્લોયમેન્ટ્સ સ્વ-વ્યવસ્થિત અને સ્વ-સેવિત હોય છે. સહાય મેળવવા માટે અહીં જુઓ:
પ્રશ્નો, ચર્ચા, ટિપ્સ: સમુદાય સાથે જોડાવા માટે Hugging Face મોડલ પૃષ્ઠોનો ઉપયોગ કરો.
OpenAIના રેફરન્સ ઇન્ફરન્સ કોડમાં પુનરુત્પાદિત કરી શકાય તેવી ભૂલો: gpt-oss GitHub રેપો પર ઇશ્યુ ખોલો.
થર્ડ-પાર્ટી રનટાઇમમાં સમસ્યાઓ (દા.ત., vLLM, Ollama, llama.cpp): સંબંધિત પ્રોજેક્ટના ઇશ્યુ ટ્રેકર, ફોરમ અથવા સપોર્ટ પ્રક્રિયાનો ઉપયોગ કરો.
OpenAI કોઈપણ સ્વ-હોસ્ટેડ અથવા થર્ડ-પાર્ટી-હોસ્ટેડ ઓપન-વેઇટ સેટઅપ્સ, કન્ફિગરેશન્સ, એન્વાયર્નમેન્ટ્સ અથવા એપ્લિકેશન્સ માટે સહાય, હેન્ડ્સ-ઓન અમલીકરણ અથવા ડિબગિંગ સપોર્ટ પ્રદાન કરતું નથી.
ROOST Model Community (RMC) મારફતે સહિત, ઓપન સુરક્ષા ટૂલિંગ સુધારવા માટે અમે સમુદાય સાથે સતત સુધારા કરતા રહીશું. RMC સુરક્ષા પ્રેક્ટિશનર્સ અને સંશોધકોને એકસાથે લાવે છે, જેથી સુરક્ષા વર્કફ્લોઝમાં ઓપન સોર્સ AI મોડલ્સ અમલમાં મૂકવા માટેની શ્રેષ્ઠ પદ્ધતિઓ, મૂલ્યાંકન પરિણામો અને મોડલ ફીડબેક શેર કરી શકાય. આ ભાગીદારી વિશે વધુ જાણવા અને કેવી રીતે જોડાવું તે જાણવા માટે RMC GitHub રેપોની મુલાકાત લો.
સહાય અને સમુદાય
ઓપન-વેઇટ ડિપ્લોયમેન્ટ્સ સ્વ-વ્યવસ્થિત અને સ્વ-સેવિત હોય છે. સહાય મેળવવા માટે અહીં જુઓ:
પ્રશ્નો, ચર્ચા, ટિપ્સ: સમુદાય સાથે જોડાવા માટે Hugging Face મોડલ પૃષ્ઠોનો ઉપયોગ કરો.
OpenAIના રેફરન્સ ઇન્ફરન્સ કોડમાં પુનરુત્પાદિત કરી શકાય તેવી ભૂલો: gpt-oss GitHub રેપો પર ઇશ્યુ ખોલો.
થર્ડ-પાર્ટી રનટાઇમમાં સમસ્યાઓ (દા.ત., vLLM, Ollama, llama.cpp): સંબંધિત પ્રોજેક્ટના ઇશ્યુ ટ્રેકર, ફોરમ અથવા સપોર્ટ પ્રક્રિયાનો ઉપયોગ કરો.
OpenAI કોઈપણ સ્વ-હોસ્ટેડ અથવા થર્ડ-પાર્ટી-હોસ્ટેડ ઓપન-વેઇટ સેટઅપ્સ, કન્ફિગરેશન્સ, એન્વાયર્નમેન્ટ્સ અથવા એપ્લિકેશન્સ માટે સહાય, હેન્ડ્સ-ઓન અમલીકરણ અથવા ડિબગિંગ સપોર્ટ પ્રદાન કરતું નથી.
ગોપનીયતા અને સુરક્ષા
ગોપનીયતા અને ડેટા
આ મોડલ્સ તમે નિયંત્રિત કરતા ઇન્ફ્રાસ્ટ્રક્ચર પર (ઓન-પ્રેમિસીસ અથવા તમારા ક્લાઉડ કે હોસ્ટિંગ પાર્ટનરમાં) ચલાવવા માટે રચાયેલા છે. જો સુધી તમે તેને સ્પષ્ટપણે OpenAI સાથે શેર ન કરો, અથવા અમારા મેનેજ્ડ હોસ્ટિંગ પાર્ટનર્સમાંથી કોઈનો ઉપયોગ ન કરો, ત્યાં સુધી OpenAI આ સ્વ-હોસ્ટેડ મોડલ્સને તમે મોકલેલો ડેટા પ્રાપ્ત કરતું કે પ્રોસેસ કરતું નથી.
સુરક્ષા
આ મોડલ્સે વ્યાપક સુરક્ષા તાલીમ અને પરીક્ષણમાંથી પસાર થયા છે. વધુ વિગતો માટે, અમારું મોડલ કાર્ડ અને ટેક્નિકલ રિપોર્ટ જુઓ.
કન્ટેન્ટ ઉલ્લંઘનોની જાણ કરવી
જો તમને લાગે કે gpt‑oss મોડલ્સથી જનરેટ થયેલું કન્ટેન્ટ અમારી નીતિઓનું ઉલ્લંઘન કરે છે, તો તમે અમારા Report Content ફોર્મ મારફતે તેની જાણ કરી શકો છો. અમારી ટીમને તમારી સબમિશનની સમીક્ષા કરવામાં મદદ કરવા માટે કૃપા કરીને શક્ય તેટલી વધુ વિગતો આપો.
વારંવાર પૂછાતા પ્રશ્નો
શું આ મોડલ મફત છે?
gpt-oss મોડલ વેઇટ્સ Apache 2.0 લાઇસન્સ અને gpt-oss ઉપયોગ નીતિ હેઠળ મફતમાં ડાઉનલોડ અને ઉપયોગ કરી શકાય છે. જોકે, તેમને ચલાવવાથી જોડાયેલા કોઈપણ ખર્ચ માટે તમે જવાબદાર છો — જેમ કે કમ્પ્યુટ, સ્ટોરેજ અથવા તૃતીય-પક્ષ હોસ્ટિંગ ફી. તેની કિંમત તમારા પસંદ કરેલા ઇન્ફ્રાસ્ટ્રક્ચર અથવા પ્રદાતા પર આધારિત રહેશે.
શું આ મોડલ્સ “ઓપન સોર્સ” છે?
અમે ઓપન મોડલ્સ અથવા ઓપન-વેઇટ શબ્દનો ઉપયોગ એ દર્શાવવા માટે કરીએ છીએ કે તાલીમિત વેઇટ્સ મંજૂર Apache 2.0 લાઇસન્સ અને gpt-oss વપરાશ નીતિ હેઠળ જાહેરમાં ઉપલબ્ધ છે. આનો અર્થ એ છે કે તમે મોડલ્સ ડાઉનલોડ કરી શકો છો, તેને તમારા પોતાના ઇન્ફ્રાસ્ટ્રક્ચર પર અથવા સપોર્ટેડ હોસ્ટિંગ ફ્રેમવર્ક્સ સાથે ચલાવી શકો છો, અને તેને કસ્ટમાઇઝ અથવા ફાઇન-ટ્યુન કરી શકો છો.
ઓપન મોડલ્સ ડેવલપર્સ અને સંસ્થાઓને વધુ નિયંત્રણ અને લવચીકતા આપે છે. તમે ક્યાં હોસ્ટ કરવું તે પસંદ કરી શકો છો, વિશિષ્ટ ઉપયોગ કિસ્સાઓ માટે મોડલ્સને અનુકૂળ બનાવી શકો છો, અને વ્યાપક ઉપયોગ, ફેરફાર અને પુનર્વિતરણની મંજૂરી આપતા લાઇસન્સિંગનો લાભ લઈ શકો છો. તાલીમિત વેઇટ્સ ખુલ્લા હોવા છતાં, આસપાસનું અમુક ઇન્ફ્રાસ્ટ્રક્ચર અથવા ટૂલિંગ તેમના પ્રદાતાઓનું માલિકીહકવાળું રહી શકે છે.
શું હું આ મોડલ્સને OpenAI API અથવા ChatGPT મારફતે ઍક્સેસ કરી શકું?
ના. આ મોડલ્સ OpenAI APIમાં સર્વ થતા નથી અને ChatGPTમાં દેખાતા નથી.
શું હું મોડલ્સને ફાઇન-ટ્યુન કરી શકું?
હા. તમે ઓપન-સોર્સ ટૂલ્સ અને તમારી પસંદગીના ઇન્ફ્રાસ્ટ્રક્ચરનો ઉપયોગ કરીને ફાઇન-ટ્યુન કરી શકો છો. અમે આ મોડલ્સ માટે OpenAI APIs મારફતે ફાઇન-ટ્યુનિંગ ઑફર કરતા નથી.
શું ઓપન-વેઇટ મોડલ્સ API વાપરવા કરતાં સસ્તા છે?
ખર્ચ ઇન્ફ્રાસ્ટ્રક્ચર, વર્કલોડ અને ઓપરેશનલ અભિગમના આધારે બદલાય છે. કેટલાક કિસ્સામાં સ્વ-હોસ્ટિંગ સસ્તું પડી શકે છે, જ્યારે હોસ્ટિંગ, જાળવણી અને અપગ્રેડને ધ્યાનમાં લેતાં અમારી API Platform વધુ કાર્યક્ષમ હોઈ શકે છે.
આ મોડલ્સ કઈ સુવિધાઓને સપોર્ટ કરે છે?
આ મોડલ્સ હાલમાં માત્ર-ટેક્સ્ટ રિઝનિંગ મોડલ્સ છે. સામાન્ય રનટાઇમ્સ સ્ટ્રીમિંગ, ફંક્શન કોલિંગ અને સ્ટ્રક્ચર્ડ આઉટપુટ્સને સપોર્ટ કરે છે. ચોક્કસ ક્ષમતાઓ માટે તમારા રનટાઇમનું દસ્તાવેજીકરણ તપાસો.
આ ModAPIથી કેવી રીતે અલગ છે?
આ અત્યંત સક્ષમ રિઝનિંગ મોડલ છે, જે તમને તમારી પોતાની પોલિસી લાવવાની મંજૂરી આપે છે. તે ModAPI સાથે મળીને કામ કરી શકે છે, પરંતુ ઓછી લેટન્સી વાળા ઉપયોગ કિસ્સાઓ માટે કદાચ તેનો વિકલ્પ નથી.