Шолу

Екі ашық салмақты ойлайтын модельді таныстырамыз: gpt‑oss‑120b және gpt‑oss‑20b. Олар сіз басқаратын инфрақұрылымда немесе хостинг провайдерлері арқылы жұмыс істейді.

Неліктен ашық салмақтар

• Таңдау және бақылау: Модельдерді жергілікті ортада немесе жеке бұлтыңызда іске қосыңыз, деректердің орналасу аймағын сақтаңыз және өнімділікті қажеттіліктеріңізге бейімдеңіз.

• Баптау: Модельдерді өзіңіз таңдаған ашық құралдармен дәл баптаңыз немесе бейімдеңіз.

Қолжетімділік және лицензиялау

• Лицензия: Apache 2.0 коммерциялық пайдалануды қоса алғанда, кең пайдалануға, өзгертуге және қайта таратуға мүмкіндік береді (біздің gpt-oss пайдалану саясатымызға бағынады).

• Қызмет көрсету: OpenAI API арқылы қолжетімді емес, сондықтан API бағалары мен сұраныс шектеулері қолданылмайды.

• Үйлесімділік: vLLM, Ollama, llama.cpp сияқты кең таралған ашық инференс стектерімен, сондай-ақ бұлттық немесе өзіңіз басқаратын GPU орталарында іске қосуға болады.

Бастау

Модель салмақтары мен қолдаушы ресурстарды алу үшін:

• Шолу және тікелей сілтемелер үшін gpt-oss веб-сайтына кіріңіз.

• Салмақтарды Hugging Face жинағынан жүктеп алыңыз — бұл екі модельді де табуға, пайдалану мысалдарын көруге және қаласаңыз, Hugging Face қызметтері арқылы инференсті тікелей іске қосуға болатын қауымдастық хабы.

• Анықтамалық инференс коды үшін біздің GitHub репозиторийімізге кіріңіз.

• Ollama, vLLM және Transformers сияқты қолдау көрсетілетін орындау орталары арқылы орнату үшін OpenAI Cookbook нұсқаулықтарын пайдаланыңыз. Cookbook-та жергілікті іске қосу, кең таралған орындау орталарын пайдалану және — қолдау көрсетілетін жерде — gpt‑oss модельдерін дәл баптау бойынша қадамдық нұсқаулар да бар.

gpt‑oss‑safeguard (зерттеу нұсқасының алдын ала қарауы)

gpt‑oss‑safeguard — gpt‑oss негізінде жасалған ашық салмақты қауіпсіздікке арналған ойлайтын модельдердің жұбы. Олар сіз басқаратын инфрақұрылымда іске қосатын саясатқа негізделген қауіпсіздік классификациясына және байланысты сенім мен қауіпсіздік тапсырмаларына арналған. Басқа gpt‑oss модельдері сияқты, бұл салмақтар OpenAI API немесе ChatGPT арқылы ұсынылмайды.

• Анықтамалық құрылымдалған нәтиже схемалары бар тек мәтіндік модельдер (мыс., саясат шешімі, негіздеме).

• Өз саясатыңызды әкеліңіз: модель жазбаша саясатыңызды түсіндіріп, аз инженерлік жұмыспен әртүрлі өнімдерге жалпылай алады.

• Негізделген шешімдер: жөндеу мен аудитке көмектесетін қосымша ой қорыту іздері (әзірлеушілер мен қауіпсіздік мамандарына арналған, соңғы пайдаланушыға көрсету үшін емес).

• Бапталатын ой қорыту күші: кідіріс пен тереңдік арасындағы теңгерім үшін төмен / орташа / жоғары деңгейін таңдаңыз.

• Лицензия: Apache 2.0 (төмендегі Қолжетімділік және лицензиялау бөлімін қараңыз).

gpt‑oss‑safeguard LLM-дер үшін кіріс/шығыс сүзгілеуге, онлайн контентті белгілеуге және офлайн пакеттік белгілеу немесе шолу жұмыс процестеріне жақсы сәйкес келеді. Жалпы қолданбалар үшін (чат, агенттер және т.б.) негізгі gpt‑oss модельдерін ұсынамыз.

Схеманы қажеттіліктеріңізге бейімдей аласыз. Көмексөз жасау бойынша нұсқаулықтар мен мысалдар үшін OpenAI Cookbook материалын қараңыз.

Модель нұсқалары және өлшемдері

Екі модель де архитектура өзгерісінсіз gpt‑oss негізінде дәл бапталған. Олар gpt‑oss сияқты бірдей чат үлгісін пайдаланады; бар баптауыңызды сақтай аласыз. Ұсынылатын көмексөз үлгісі — саясатыңызды әзірлеуші хабарламасына, ал бағаланатын контентті пайдаланушы хабарламасына орналастыру.

Қолдау және қауымдастық

Ашық салмақты орналастыруларды өзіңіз басқарып, өзіңіз қызмет көрсетесіз. Қолдауды мына жерлерден алуға болады:

• Сұрақтар, талқылау, кеңестер: Қауымдастықпен байланысу үшін Hugging Face модель беттерін пайдаланыңыз.

• OpenAI анықтамалық инференс кодындағы қайта шығарылатын қателер: gpt-oss GitHub репозиторийінде мәселе ашыңыз.

• Үшінші тараптың орындау ортасына қатысты мәселелер (мыс., vLLM, Ollama, llama.cpp): Тиісті жобаның мәселе трекерін, форумдарын немесе қолдау процесін пайдаланыңыз.

OpenAI өздігінен хостингтелетін немесе үшінші тарап хостингтейтін кез келген ашық салмақты баптауларға, конфигурацияларға, орталарға немесе қолданбаларға көмек, практикалық енгізу немесе жөндеу қолдауын көрсетпейді.

Біз қауымдастықпен бірге ашық қауіпсіздік құралдарын, соның ішінде ROOST Model Community (RMC) арқылы жақсартуды жалғастырамыз. RMC қауіпсіздік мамандары мен зерттеушілерді ашық кодты AI модельдерін қауіпсіздік жұмыс процестеріне енгізудің үздік тәжірибелерімен, соның ішінде бағалау нәтижелері және модель кері байланысымен бөлісу үшін біріктіреді. Бұл серіктестік және қатысу жолдары туралы көбірек білу үшін RMC GitHub репозиторийіне кіріңіз.

Қолдау және қауымдастық

Ашық салмақты орналастыруларды өзіңіз басқарып, өзіңіз қызмет көрсетесіз. Қолдауды мына жерлерден алуға болады:

• Сұрақтар, талқылау, кеңестер: Қауымдастықпен байланысу үшін Hugging Face модель беттерін пайдаланыңыз.

• OpenAI анықтамалық инференс кодындағы қайта шығарылатын қателер: gpt-oss GitHub репозиторийінде мәселе ашыңыз.

• Үшінші тараптың орындау ортасына қатысты мәселелер (мыс., vLLM, Ollama, llama.cpp): Тиісті жобаның мәселе трекерін, форумдарын немесе қолдау процесін пайдаланыңыз.

OpenAI өздігінен хостингтелетін немесе үшінші тарап хостингтейтін кез келген ашық салмақты баптауларға, конфигурацияларға, орталарға немесе қолданбаларға көмек, практикалық енгізу немесе жөндеу қолдауын көрсетпейді.

Құпиялылық және қауіпсіздік

Құпиялылық және деректер

Бұл модельдер сіз басқаратын инфрақұрылымда (жергілікті ортада немесе өз бұлтыңызда не хостинг серіктесіңізде) жұмыс істеуге арналған. Егер сіз деректерді OpenAI-мен анық бөліспесеңіз немесе біздің басқарылатын хостинг серіктестеріміздің бірін пайдаланбасаңыз, OpenAI осы өздігінен хостингтелетін модельдерге жіберген деректеріңізді қабылдамайды да, өңдемейді де.

Қауіпсіздік

Бұл модельдер кең ауқымды қауіпсіздік бойынша оқытудан және тестілеуден өтті. Толығырақ ақпаратты біздің модель картасынан және техникалық есебімізден қараңыз.

Контент бұзушылықтарын хабарлау

gpt‑oss модельдерімен жасалған контент саясаттарымызды бұзады деп ойласаңыз, оны біздің Контентті хабарлау формасы арқылы хабарлай аласыз. Тобыңызға жіберілімді қарауға көмектесу үшін мүмкіндігінше көбірек мәлімет беріңіз.

ЖҚС

Бұл модельдер тегін бе?

gpt-oss модель салмақтарын Apache 2.0 лицензиясы және gpt-oss пайдалану саясаты бойынша тегін жүктеп алып, пайдалануға болады. Дегенмен, оларды іске қосуға байланысты кез келген шығындарға — мысалы, есептеу, сақтау немесе үшінші тарап хостинг төлемдеріне — сіз жауаптысыз. Олардың бағасы таңдаған инфрақұрылымыңызға немесе провайдеріңізге байланысты болады.

Бұл модельдер «ашық кодты» ма?

Біз үйретілген салмақтардың рұқсатшыл Apache 2.0 лицензиясы және gpt-oss пайдалану саясаты бойынша жалпыға қолжетімді екенін білдіру үшін ашық модельдер немесе ашық салмақты терминін қолданамыз. Бұл модельдерді жүктеп алып, өз инфрақұрылымыңызда немесе қолдау көрсетілетін хостинг фреймворктерімен іске қосуға, сондай-ақ баптауға немесе дәл баптауға болатынын білдіреді.

Ашық модельдер әзірлеушілер мен ұйымдарға көбірек бақылау және икемділік береді. Қайда хостингтеуді таңдап, модельдерді нақты қолдану жағдайларына бейімдей аласыз және кең пайдалануға, өзгертуге әрі қайта таратуға мүмкіндік беретін лицензиялаудың пайдасын көресіз. Үйретілген салмақтар ашық болғанымен, айналасындағы кейбір инфрақұрылым немесе құралдар өз провайдерлерінің меншікті өнімі болып қалуы мүмкін.

Бұл модельдерге OpenAI API немесе ChatGPT арқылы қол жеткізе аламын ба?

Жоқ. Бұл модельдер OpenAI API ішінде қызмет көрсетілмейді және ChatGPT ішінде көрінбейді.

Модельдерді дәл баптай аламын ба?

Иә. Ашық кодты құралдарды және өзіңіз таңдаған инфрақұрылымды пайдаланып дәл баптай аласыз. Бұл модельдер үшін OpenAI API-лері арқылы дәл баптауды ұсынбаймыз.

Ашық салмақты модельдер API пайдаланудан арзанырақ па?

Шығындар инфрақұрылымға, жұмыс жүктемесіне және операциялық тәсілге байланысты өзгереді. Кей жағдайларда өзіңіз хостингтеу арзанырақ болуы мүмкін, ал хостинг, қызмет көрсету және жаңартуларды ескергенде біздің API платформамыз тиімдірек болуы мүмкін.

Бұл модельдер қандай мүмкіндіктерді қолдайды?

Бұл модельдер қазір тек мәтіндік ойлайтын модельдер болып табылады. Кең таралған орындау орталары стримингті, функция шақыруды және құрылымдалған нәтижелерді қолдайды. Нақты мүмкіндіктер үшін орындау ортаңыздың құжаттамасын тексеріңіз.

Бұл ModAPI-ден несімен ерекшеленеді?

Бұл өз саясатыңызды әкелуге мүмкіндік беретін өте қабілетті ойлайтын модель. Ол ModAPI-мен бірге жұмыс істей алады, бірақ төмен кідіріс қажет қолдану жағдайларында оны алмастыра алмауы мүмкін.