નોંધ: આ લેખ ઉચ્ચ-સ્તરીય વિહંગાવલોકન આપે છે. ટેક્નિકલ સેટઅપ માટેની માહિતી gpt-oss વેબસાઇટ, GitHub, Hugging Face અને OpenAI Cookbooks પર મળી શકે છે.
વિહંગાવલોકન
બે ઓપન-વેઇટ રિઝનિંગ મોડલ રજૂ કરી રહ્યા છીએ: gpt‑oss‑120b અને gpt‑oss‑20b. તે તમે નિયંત્રિત કરતા ઇન્ફ્રાસ્ટ્રક્ચર પર અથવા હોસ્ટિંગ પ્રદાતાઓ મારફતે ચાલે છે.
નોંધ: આ મોડલ્સ OpenAI API દ્વારા સર્વ થતા નથી અને ChatGPT માં ઉપલબ્ધ નથી.
ઓપન-વેઇટ્સ શા માટે
પસંદગી અને નિયંત્રણ: મોડલ્સને ઓન-પ્રેમિસીસ અથવા તમારા ખાનગી ક્લાઉડમાં ચલાવો, ડેટા રેસિડન્સી જાળવો અને તમારી જરૂરિયાતો મુજબ કામગીરીને અનુકૂળ બનાવો.
કસ્ટમાઇઝેશન: તમારી પસંદગીના ઓપન ટૂલિંગથી મોડલ્સને ફાઇન-ટ્યુન અથવા અનુકૂળ બનાવો.
ઉપલબ્ધતા અને લાઇસન્સિંગ
લાઇસન્સ: Apache 2.0 વ્યાપક ઉપયોગ, ફેરફાર અને પુનર્વિતરણની મંજૂરી આપે છે, જેમાં વ્યાપારી ઉપયોગ પણ સામેલ છે (અમારી gpt-oss વપરાશ નીતિને આધિન).
સર્વિંગ: OpenAI API મારફતે ઉપલબ્ધ નથી, તેથી API ભાવનિર્ધારણ અને દર મર્યાદા લાગુ પડતી નથી.
સુસંગતતા: vLLM, Ollama, llama.cpp જેવા સામાન્ય ઓપન ઇન્ફરન્સ સ્ટેક્સ સાથે અને ક્લાઉડ અથવા સ્વ-વ્યવસ્થિત GPU એન્વાયર્નમેન્ટ્સ પર ચલાવી શકાય છે.
શરૂઆત કરવી
મોડલ વેઇટ્સ અને સહાયક સંસાધનો મેળવવા માટે, તમે આ કરી શકો છો:
વિહંગાવલોકન અને સીધી લિંક્સ માટે gpt-oss વેબસાઇટની મુલાકાત લો.
Hugging Face કલેક્શનમાંથી વેઇટ્સ ડાઉનલોડ કરો — એક સમુદાય હબ જ્યાં તમે બંને મોડલ્સ શોધી શકો છો, ઉપયોગના ઉદાહરણો જોઈ શકો છો અને વૈકલ્પિક રીતે Hugging Faceની સેવાઓ મારફતે સીધું ઇન્ફરન્સ ચલાવી શકો છો.
રેફરન્સ ઇન્ફરન્સ કોડ માટે અમારું GitHub રેપો ઍક્સેસ કરો.
Ollama, vLLM અને Transformers જેવા સપોર્ટેડ રનટાઇમ્સ સાથે સેટઅપ માટે OpenAI Cookbookમાંની માર્ગદર્શિકાઓનો ઉપયોગ કરો. Cookbookમાં સ્થાનિક રીતે ચલાવવા, સામાન્ય રનટાઇમ્સ વાપરવા અને—જ્યાં સપોર્ટેડ હોય ત્યાં—gpt‑oss મોડલ્સને ફાઇન-ટ્યુન કરવા માટે પગલું-દર-પગલું સૂચનાઓ પણ સામેલ છે.
gpt‑oss‑safeguard (રિસર્ચ પ્રિવ્યુ)
gpt‑oss‑safeguard એ gpt‑oss પર બનેલા ઓપન-વેઇટ સુરક્ષા રિઝનિંગ મોડલ્સની જોડી છે. તે પોલિસી-આધારિત સુરક્ષા વર્ગીકરણ અને સંબંધિત ટ્રસ્ટ & સેફ્ટી કાર્યો માટે રચાયેલ છે, જેને તમે નિયંત્રિત કરતા ઇન્ફ્રાસ્ટ્રક્ચર પર ચલાવો છો. અન્ય gpt‑oss મોડલ્સની જેમ, આ વેઇટ્સ OpenAI API અથવા ChatGPT દ્વારા સર્વ કરવામાં આવતા નથી.
રેફરન્સ સ્ટ્રક્ચર્ડ-આઉટપુટ સ્કીમા સાથેના માત્ર-ટેક્સ્ટ મોડલ્સ (દા.ત., પોલિસી ચુકાદો, તર્ક).
તમારી પોતાની પોલિસી લાવો: મોડલ તમારી લખેલી પોલિસીનું અર્થઘટન કરે છે, જેથી ઓછા એન્જિનિયરિંગ સાથે તે પ્રોડક્ટ્સમાં સામાન્યીકરણ કરી શકે.
તર્કસંગત નિર્ણયો: ડિબગિંગ અને ઓડિટમાં મદદ માટે વૈકલ્પિક રિઝનિંગ ટ્રેસિસ (ડેવલપર્સ અને સુરક્ષા પ્રેક્ટિશનર્સ માટે, અંતિમ વપરાશકર્તાને બતાવવા માટે નહીં).
કન્ફિગર કરી શકાય એવો રિઝનિંગ પ્રયત્ન: લેટન્સી સામે ઊંડાણનું સંતુલન કરવા માટે ઓછું / મધ્યમ / ઊંચું પસંદ કરો.
લાઇસન્સ: Apache 2.0 (નીચે ઉપલબ્ધતા અને લાઇસન્સિંગ જુઓ).
gpt‑oss‑safeguard LLMs માટે ઇનપુટ/આઉટપુટ ફિલ્ટરિંગ, ઑનલાઇન કન્ટેન્ટ લેબલિંગ અને ઑફલાઇન બેચ લેબલિંગ અથવા સમીક્ષા વર્કફ્લોઝ માટે યોગ્ય છે. સામાન્ય એપ્લિકેશન્સ (ચેટ, એજન્ટ્સ વગેરે) માટે, અમે મુખ્ય gpt‑oss મોડલ્સની ભલામણ કરીએ છીએ.
તમે તમારી જરૂરિયાતો મુજબ સ્કીમાને અનુકૂળ બનાવી શકો છો. પ્રોમ્પ્ટિંગ અને ઉદાહરણો અંગે માર્ગદર્શિકાઓ માટે કૃપા કરીને OpenAI Cookbook જુઓ.
મોડલ વેરિઅન્ટ્સ અને સાઇઝિંગ
| મોડલ | હેતુસર ઉપયોગ | નોંધો |
|---|---|---|
| gpt‑oss‑safeguard‑120b | પ્રોડક્શન, ઉચ્ચ-ક્ષમતા સલામતી রিজનિંગ | 117B પરિમાણો (≈5.1B સક્રિય). એક જ 80 GB GPU પર ફિટ થવા માટે રચાયેલ છે (દા.ત., NVIDIA H100; AMD MI300X જેવા મોટી મેમરીવાળા GPU પર પણ ચાલે છે). |
| gpt‑oss‑safeguard‑20b | ઓછી લેટન્સી / મર્યાદિત વાતાવરણો | 21B પરિમાણો (≈3.6B સક્રિય). |
બંને મોડલ કોઈ આર્કિટેક્ચર ફેરફાર વગર gpt‑oss પરથી ફાઇન-ટ્યુન કરેલા છે. તેઓ gpt‑oss જેવું જ ચેટ ટેમ્પલેટ વાપરે છે; તમે તમારું હાલનું સેટઅપ રાખી શકો છો. ભલામણ કરાયેલ પ્રોમ્પ્ટિંગ પેટર્ન એ છે કે તમારી નીતિને ડેવલપર સંદેશમાં અને મૂલ્યાંકન કરવાની સામગ્રીને વપરાશકર્તા સંદેશમાં મૂકો.
સહાય અને સમુદાય
ઓપન-વેઇટ ડિપ્લોયમેન્ટ્સ સ્વ-વ્યવસ્થિત અને સ્વ-સેવિત હોય છે. સહાય મેળવવા માટે અહીં જુઓ:
પ્રશ્નો, ચર્ચા, ટિપ્સ: સમુદાય સાથે જોડાવા માટે Hugging Face મોડલ પૃષ્ઠોનો ઉપયોગ કરો.
OpenAIના રેફરન્સ ઇન્ફરન્સ કોડમાં પુનરુત્પાદિત કરી શકાય તેવી ભૂલો: gpt-oss GitHub રેપો પર ઇશ્યુ ખોલો.
થર્ડ-પાર્ટી રનટાઇમમાં સમસ્યાઓ (દા.ત., vLLM, Ollama, llama.cpp): સંબંધિત પ્રોજેક્ટના ઇશ્યુ ટ્રેકર, ફોરમ અથવા સપોર્ટ પ્રક્રિયાનો ઉપયોગ કરો.
OpenAI કોઈપણ સ્વ-હોસ્ટેડ અથવા થર્ડ-પાર્ટી-હોસ્ટેડ ઓપન-વેઇટ સેટઅપ્સ, કન્ફિગરેશન્સ, એન્વાયર્નમેન્ટ્સ અથવા એપ્લિકેશન્સ માટે સહાય, હેન્ડ્સ-ઓન અમલીકરણ અથવા ડિબગિંગ સપોર્ટ પ્રદાન કરતું નથી.
ROOST Model Community (RMC) મારફતે સહિત, ઓપન સુરક્ષા ટૂલિંગ સુધારવા માટે અમે સમુદાય સાથે સતત સુધારા કરતા રહીશું. RMC સુરક્ષા પ્રેક્ટિશનર્સ અને સંશોધકોને એકસાથે લાવે છે, જેથી સુરક્ષા વર્કફ્લોઝમાં ઓપન સોર્સ AI મોડલ્સ અમલમાં મૂકવા માટેની શ્રેષ્ઠ પદ્ધતિઓ, મૂલ્યાંકન પરિણામો અને મોડલ ફીડબેક શેર કરી શકાય. આ ભાગીદારી વિશે વધુ જાણવા અને કેવી રીતે જોડાવું તે જાણવા માટે RMC GitHub રેપોની મુલાકાત લો.
સહાય અને સમુદાય
ઓપન-વેઇટ ડિપ્લોયમેન્ટ્સ સ્વ-વ્યવસ્થિત અને સ્વ-સેવિત હોય છે. સહાય મેળવવા માટે અહીં જુઓ:
પ્રશ્નો, ચર્ચા, ટિપ્સ: સમુદાય સાથે જોડાવા માટે Hugging Face મોડલ પૃષ્ઠોનો ઉપયોગ કરો.
OpenAIના રેફરન્સ ઇન્ફરન્સ કોડમાં પુનરુત્પાદિત કરી શકાય તેવી ભૂલો: gpt-oss GitHub રેપો પર ઇશ્યુ ખોલો.
થર્ડ-પાર્ટી રનટાઇમમાં સમસ્યાઓ (દા.ત., vLLM, Ollama, llama.cpp): સંબંધિત પ્રોજેક્ટના ઇશ્યુ ટ્રેકર, ફોરમ અથવા સપોર્ટ પ્રક્રિયાનો ઉપયોગ કરો.
OpenAI કોઈપણ સ્વ-હોસ્ટેડ અથવા થર્ડ-પાર્ટી-હોસ્ટેડ ઓપન-વેઇટ સેટઅપ્સ, કન્ફિગરેશન્સ, એન્વાયર્નમેન્ટ્સ અથવા એપ્લિકેશન્સ માટે સહાય, હેન્ડ્સ-ઓન અમલીકરણ અથવા ડિબગિંગ સપોર્ટ પ્રદાન કરતું નથી.
ગોપનીયતા અને સુરક્ષા
ગોપનીયતા અને ડેટા
આ મોડલ્સ તમે નિયંત્રિત કરતા ઇન્ફ્રાસ્ટ્રક્ચર પર (ઓન-પ્રેમિસીસ અથવા તમારા ક્લાઉડ કે હોસ્ટિંગ પાર્ટનરમાં) ચલાવવા માટે રચાયેલા છે. જો સુધી તમે તેને સ્પષ્ટપણે OpenAI સાથે શેર ન કરો, અથવા અમારા મેનેજ્ડ હોસ્ટિંગ પાર્ટનર્સમાંથી કોઈનો ઉપયોગ ન કરો, ત્યાં સુધી OpenAI આ સ્વ-હોસ્ટેડ મોડલ્સને તમે મોકલેલો ડેટા પ્રાપ્ત કરતું કે પ્રોસેસ કરતું નથી.
સુરક્ષા
આ મોડલ્સે વ્યાપક સુરક્ષા તાલીમ અને પરીક્ષણમાંથી પસાર થયા છે. વધુ વિગતો માટે, અમારું મોડલ કાર્ડ અને ટેક્નિકલ રિપોર્ટ જુઓ.
કન્ટેન્ટ ઉલ્લંઘનોની જાણ કરવી
જો તમને લાગે કે gpt‑oss મોડલ્સથી જનરેટ થયેલું કન્ટેન્ટ અમારી નીતિઓનું ઉલ્લંઘન કરે છે, તો તમે અમારા Report Content ફોર્મ મારફતે તેની જાણ કરી શકો છો. અમારી ટીમને તમારી સબમિશનની સમીક્ષા કરવામાં મદદ કરવા માટે કૃપા કરીને શક્ય તેટલી વધુ વિગતો આપો.
વારંવાર પૂછાતા પ્રશ્નો
શું આ મોડલ મફત છે?
gpt-oss મોડલ વેઇટ્સ Apache 2.0 લાઇસન્સ અને gpt-oss ઉપયોગ નીતિ હેઠળ મફતમાં ડાઉનલોડ અને ઉપયોગ કરી શકાય છે. જોકે, તેમને ચલાવવાથી જોડાયેલા કોઈપણ ખર્ચ માટે તમે જવાબદાર છો — જેમ કે કમ્પ્યુટ, સ્ટોરેજ અથવા તૃતીય-પક્ષ હોસ્ટિંગ ફી. તેની કિંમત તમારા પસંદ કરેલા ઇન્ફ્રાસ્ટ્રક્ચર અથવા પ્રદાતા પર આધારિત રહેશે.
શું આ મોડલ્સ “ઓપન સોર્સ” છે?
અમે ઓપન મોડલ્સ અથવા ઓપન-વેઇટ શબ્દનો ઉપયોગ એ દર્શાવવા માટે કરીએ છીએ કે તાલીમિત વેઇટ્સ મંજૂર Apache 2.0 લાઇસન્સ અને gpt-oss વપરાશ નીતિ હેઠળ જાહેરમાં ઉપલબ્ધ છે. આનો અર્થ એ છે કે તમે મોડલ્સ ડાઉનલોડ કરી શકો છો, તેને તમારા પોતાના ઇન્ફ્રાસ્ટ્રક્ચર પર અથવા સપોર્ટેડ હોસ્ટિંગ ફ્રેમવર્ક્સ સાથે ચલાવી શકો છો, અને તેને કસ્ટમાઇઝ અથવા ફાઇન-ટ્યુન કરી શકો છો.
ઓપન મોડલ્સ ડેવલપર્સ અને સંસ્થાઓને વધુ નિયંત્રણ અને લવચીકતા આપે છે. તમે ક્યાં હોસ્ટ કરવું તે પસંદ કરી શકો છો, વિશિષ્ટ ઉપયોગ કિસ્સાઓ માટે મોડલ્સને અનુકૂળ બનાવી શકો છો, અને વ્યાપક ઉપયોગ, ફેરફાર અને પુનર્વિતરણની મંજૂરી આપતા લાઇસન્સિંગનો લાભ લઈ શકો છો. તાલીમિત વેઇટ્સ ખુલ્લા હોવા છતાં, આસપાસનું અમુક ઇન્ફ્રાસ્ટ્રક્ચર અથવા ટૂલિંગ તેમના પ્રદાતાઓનું માલિકીહકવાળું રહી શકે છે.
શું હું આ મોડલ્સને OpenAI API અથવા ChatGPT મારફતે ઍક્સેસ કરી શકું?
ના. આ મોડલ્સ OpenAI APIમાં સર્વ થતા નથી અને ChatGPTમાં દેખાતા નથી.
શું હું મોડલ્સને ફાઇન-ટ્યુન કરી શકું?
હા. તમે ઓપન-સોર્સ ટૂલ્સ અને તમારી પસંદગીના ઇન્ફ્રાસ્ટ્રક્ચરનો ઉપયોગ કરીને ફાઇન-ટ્યુન કરી શકો છો. અમે આ મોડલ્સ માટે OpenAI APIs મારફતે ફાઇન-ટ્યુનિંગ ઑફર કરતા નથી.
શું ઓપન-વેઇટ મોડલ્સ API વાપરવા કરતાં સસ્તા છે?
ખર્ચ ઇન્ફ્રાસ્ટ્રક્ચર, વર્કલોડ અને ઓપરેશનલ અભિગમના આધારે બદલાય છે. કેટલાક કિસ્સામાં સ્વ-હોસ્ટિંગ સસ્તું પડી શકે છે, જ્યારે હોસ્ટિંગ, જાળવણી અને અપગ્રેડને ધ્યાનમાં લેતાં અમારી API Platform વધુ કાર્યક્ષમ હોઈ શકે છે.
આ મોડલ્સ કઈ સુવિધાઓને સપોર્ટ કરે છે?
આ મોડલ્સ હાલમાં માત્ર-ટેક્સ્ટ રિઝનિંગ મોડલ્સ છે. સામાન્ય રનટાઇમ્સ સ્ટ્રીમિંગ, ફંક્શન કોલિંગ અને સ્ટ્રક્ચર્ડ આઉટપુટ્સને સપોર્ટ કરે છે. ચોક્કસ ક્ષમતાઓ માટે તમારા રનટાઇમનું દસ્તાવેજીકરણ તપાસો.
આ ModAPIથી કેવી રીતે અલગ છે?
આ અત્યંત સક્ષમ રિઝનિંગ મોડલ છે, જે તમને તમારી પોતાની પોલિસી લાવવાની મંજૂરી આપે છે. તે ModAPI સાથે મળીને કામ કરી શકે છે, પરંતુ ઓછી લેટન્સી વાળા ઉપયોગ કિસ્સાઓ માટે કદાચ તેનો વિકલ્પ નથી.