Шолу

Екі ашық салмақты ойлайтын модельді таныстырамыз: gpt‑oss‑120b және gpt‑oss‑20b. Олар сіз басқаратын инфрақұрылымда немесе хостинг провайдерлері арқылы жұмыс істейді.

Неліктен ашық салмақтар

• Таңдау және бақылау: Модельдерді жергілікті ортада немесе жеке бұлтыңызда іске қосыңыз, деректердің орналасу аймағын сақтаңыз және өнімділікті қажеттіліктеріңізге бейімдеңіз.

• Баптау: Модельдерді өзіңіз таңдаған ашық құралдармен дәл баптаңыз немесе бейімдеңіз.

Қолжетімділік және лицензиялау

• Лицензия: Apache 2.0 коммерциялық пайдалануды қоса алғанда, кең пайдалануға, өзгертуге және қайта таратуға мүмкіндік береді (біздің gpt-oss пайдалану саясатымызға бағынады).

• Қызмет көрсету: OpenAI API арқылы қолжетімді емес, сондықтан API бағалары мен сұраныс шектеулері қолданылмайды.

• Үйлесімділік: vLLM, Ollama, llama.cpp сияқты кең таралған ашық инференс стектерімен, сондай-ақ бұлттық немесе өзіңіз басқаратын GPU орталарында іске қосуға болады.

Жұмысты бастау

Модель салмақтары мен қосымша ресурстарды алу үшін:

• Жалпы мәлімет пен тікелей сілтемелерді gpt-oss веб-сайтынан қараңыз.

• Салмақтарды Hugging Face топтамасынан жүктеп алыңыз. Бұл қауымдастық орталығында екі модельді де табуға, пайдалану мысалдарын көруге және қажет болса, инференсті Hugging Face қызметтері арқылы тікелей іске қосуға болады.

• Инференске арналған анықтамалық кодты GitHub репозиторийімізден алыңыз.

• Ollama, vLLM және Transformers сияқты қолдау көрсетілетін орындау орталарында баптау үшін OpenAI рецептеріндегі нұсқаулықтарды пайдаланыңыз. Сондай-ақ рецептерде жергілікті ортада іске қосу, кең таралған орындау орталарын пайдалану және қолдау көрсетілген жағдайда gpt-oss модельдерін қосымша баптау бойынша қадамдық нұсқаулар бар.

gpt‑oss‑safeguard (зерттеуге арналған алдын ала нұсқа)

gpt‑oss‑safeguard — gpt‑oss негізінде жасалған салмағы ашық, қауіпсіздікке арналған екі ойлайтын модель. Олар өзіңіз басқаратын инфрақұрылымда орындалатын саясатқа негізделген қауіпсіздік жіктемесіне және сенім мен қауіпсіздікке қатысты басқа да тапсырмаларға арналған. Басқа gpt‑oss модельдері сияқты, бұл модельдердің салмақтары OpenAI API немесе ChatGPT арқылы ұсынылмайды.

• Тек мәтінмен жұмыс істейтін модельдер және құрылымдалған нәтижелердің анықтамалық схемалары (мысалы, саясат бойынша қорытынды мен негіздеме).

• Өз саясатыңызды қолданыңыз: модель жазбаша саясатыңызды түсіндіреді, сондықтан оны түрлі өнімдерге барынша аз инженерлік жұмыспен бейімдеуге болады.

• Ой қорытуға негізделген шешімдер: жөндеу мен аудитті жеңілдететін қосымша ой қорыту іздері (түпкі пайдаланушыларға көрсетуге емес, әзірлеушілер мен қауіпсіздік мамандарына арналған).

• Реттелетін ой қорыту деңгейі: кідіріс пен талдау тереңдігін теңгеру үшін Төмен / Орташа / Жоғары деңгейін таңдаңыз.

• Лицензия: Apache 2.0 (төмендегі Қолжетімділік және лицензиялау бөлімін қараңыз).

gpt‑oss‑safeguard LLM кірістері мен шығыстарын сүзуге, онлайн контентті таңбалауға, сондай-ақ офлайн топтамалық таңбалау немесе тексеру жұмыс процестеріне қолайлы. Жалпы мақсаттағы қолданбаларға (чат, агенттер және т.б.) негізгі gpt‑oss модельдерін ұсынамыз.

Схеманы қажеттіліктеріңізге бейімдей аласыз. Промпт құрастыру нұсқаулықтары мен мысалдарды OpenAI нұсқаулықтар жинағынан қараңыз.

Модель нұсқалары және өлшемдері

Екі модель де архитектура өзгерісінсіз gpt‑oss негізінде дәл бапталған. Олар gpt‑oss сияқты бірдей чат үлгісін пайдаланады; бар баптауыңызды сақтай аласыз. Ұсынылатын көмексөз үлгісі — саясатыңызды әзірлеуші хабарламасына, ал бағаланатын контентті пайдаланушы хабарламасына орналастыру.

Қолдау және қауымдастық

Ашық салмақты орналастыруларды өзіңіз басқарып, өзіңіз қызмет көрсетесіз. Қолдауды мына жерлерден алуға болады:

• Сұрақтар, талқылау, кеңестер: Қауымдастықпен байланысу үшін Hugging Face модель беттерін пайдаланыңыз.

• OpenAI анықтамалық инференс кодындағы қайта шығарылатын қателер: gpt-oss GitHub репозиторийінде мәселе ашыңыз.

• Үшінші тараптың орындау ортасына қатысты мәселелер (мыс., vLLM, Ollama, llama.cpp): Тиісті жобаның мәселе трекерін, форумдарын немесе қолдау процесін пайдаланыңыз.

OpenAI өздігінен хостингтелетін немесе үшінші тарап хостингтейтін кез келген ашық салмақты баптауларға, конфигурацияларға, орталарға немесе қолданбаларға көмек, практикалық енгізу немесе жөндеу қолдауын көрсетпейді.

Біз қауымдастықпен бірге ашық қауіпсіздік құралдарын, соның ішінде ROOST Model Community (RMC) арқылы жақсартуды жалғастырамыз. RMC қауіпсіздік мамандары мен зерттеушілерді ашық кодты AI модельдерін қауіпсіздік жұмыс процестеріне енгізудің үздік тәжірибелерімен, соның ішінде бағалау нәтижелері және модель кері байланысымен бөлісу үшін біріктіреді. Бұл серіктестік және қатысу жолдары туралы көбірек білу үшін RMC GitHub репозиторийіне кіріңіз.

Қолдау және қауымдастық

Ашық салмақты орналастыруларды өзіңіз басқарып, өзіңіз қызмет көрсетесіз. Қолдауды мына жерлерден алуға болады:

• Сұрақтар, талқылау, кеңестер: Қауымдастықпен байланысу үшін Hugging Face модель беттерін пайдаланыңыз.

• OpenAI анықтамалық инференс кодындағы қайта шығарылатын қателер: gpt-oss GitHub репозиторийінде мәселе ашыңыз.

• Үшінші тараптың орындау ортасына қатысты мәселелер (мыс., vLLM, Ollama, llama.cpp): Тиісті жобаның мәселе трекерін, форумдарын немесе қолдау процесін пайдаланыңыз.

OpenAI өздігінен хостингтелетін немесе үшінші тарап хостингтейтін кез келген ашық салмақты баптауларға, конфигурацияларға, орталарға немесе қолданбаларға көмек, практикалық енгізу немесе жөндеу қолдауын көрсетпейді.

Құпиялылық және қауіпсіздік

Құпиялылық және деректер

Бұл модельдер сіз басқаратын инфрақұрылымда (жергілікті ортада немесе өз бұлтыңызда не хостинг серіктесіңізде) жұмыс істеуге арналған. Егер сіз деректерді OpenAI-мен анық бөліспесеңіз немесе біздің басқарылатын хостинг серіктестеріміздің бірін пайдаланбасаңыз, OpenAI осы өздігінен хостингтелетін модельдерге жіберген деректеріңізді қабылдамайды да, өңдемейді де.

Қауіпсіздік

Бұл модельдер кең ауқымды қауіпсіздік бойынша оқытудан және тестілеуден өтті. Толығырақ ақпаратты біздің модель картасынан және техникалық есебімізден қараңыз.

Контент бұзушылықтарын хабарлау

gpt‑oss модельдерімен жасалған контент саясаттарымызды бұзады деп ойласаңыз, оны біздің Контентті хабарлау формасы арқылы хабарлай аласыз. Тобыңызға жіберілімді қарауға көмектесу үшін мүмкіндігінше көбірек мәлімет беріңіз.

ЖҚС

Бұл модельдер тегін бе?

gpt-oss модель салмақтарын Apache 2.0 лицензиясы және gpt-oss пайдалану саясаты бойынша тегін жүктеп алып, пайдалануға болады. Дегенмен, оларды іске қосуға байланысты кез келген шығындарға — мысалы, есептеу, сақтау немесе үшінші тарап хостинг төлемдеріне — сіз жауаптысыз. Олардың бағасы таңдаған инфрақұрылымыңызға немесе провайдеріңізге байланысты болады.

Бұл модельдер «ашық кодты» ма?

Біз үйретілген салмақтардың рұқсатшыл Apache 2.0 лицензиясы және gpt-oss пайдалану саясаты бойынша жалпыға қолжетімді екенін білдіру үшін ашық модельдер немесе ашық салмақты терминін қолданамыз. Бұл модельдерді жүктеп алып, өз инфрақұрылымыңызда немесе қолдау көрсетілетін хостинг фреймворктерімен іске қосуға, сондай-ақ баптауға немесе дәл баптауға болатынын білдіреді.

Ашық модельдер әзірлеушілер мен ұйымдарға көбірек бақылау және икемділік береді. Қайда хостингтеуді таңдап, модельдерді нақты қолдану жағдайларына бейімдей аласыз және кең пайдалануға, өзгертуге әрі қайта таратуға мүмкіндік беретін лицензиялаудың пайдасын көресіз. Үйретілген салмақтар ашық болғанымен, айналасындағы кейбір инфрақұрылым немесе құралдар өз провайдерлерінің меншікті өнімі болып қалуы мүмкін.

Бұл модельдерге OpenAI API немесе ChatGPT арқылы қол жеткізе аламын ба?

Жоқ. Бұл модельдер OpenAI API ішінде қызмет көрсетілмейді және ChatGPT ішінде көрінбейді.

Модельдерді дәл баптай аламын ба?

Иә. Ашық кодты құралдарды және өзіңіз таңдаған инфрақұрылымды пайдаланып дәл баптай аласыз. Бұл модельдер үшін OpenAI API-лері арқылы дәл баптауды ұсынбаймыз.

Ашық салмақты модельдер API пайдаланудан арзанырақ па?

Шығындар инфрақұрылымға, жұмыс жүктемесіне және операциялық тәсілге байланысты өзгереді. Кей жағдайларда өзіңіз хостингтеу арзанырақ болуы мүмкін, ал хостинг, қызмет көрсету және жаңартуларды ескергенде біздің API платформамыз тиімдірек болуы мүмкін.

Бұл модельдер қандай мүмкіндіктерді қолдайды?

Бұл модельдер қазір тек мәтіндік ойлайтын модельдер болып табылады. Кең таралған орындау орталары стримингті, функция шақыруды және құрылымдалған нәтижелерді қолдайды. Нақты мүмкіндіктер үшін орындау ортаңыздың құжаттамасын тексеріңіз.

Бұл ModAPI-ден несімен ерекшеленеді?

Бұл өз саясатыңызды әкелуге мүмкіндік беретін өте қабілетті ойлайтын модель. Ол ModAPI-мен бірге жұмыс істей алады, бірақ төмен кідіріс қажет қолдану жағдайларында оны алмастыра алмауы мүмкін.