Ակնարկ

Ներկայացնում ենք բաց կշիռներով հիմնավորման երկու մոդել՝ gpt‑oss‑120b և gpt‑oss‑20b։ Դրանք աշխատում են ձեր վերահսկողության տակ գտնվող ենթակառուցվածքում կամ հոսթինգ մատակարարների միջոցով։

Ինչու բաց կշիռներ

• Ընտրություն և վերահսկողություն. Գործարկեք մոդելները ձեր տարածքում կամ մասնավոր ամպում, պահպանեք տվյալների մշակման հավելվածը և հարմարեցրեք արդյունավետությունը ձեր կարիքներին։

• Հարմարեցում. Fine-tune արեք կամ հարմարեցրեք մոդելները ձեր նախընտրած բաց գործիքներով։

Հասանելիություն և լիցենզավորում

• Լիցենզիա. Apache 2.0-ը թույլ է տալիս լայն օգտագործում, փոփոխում և վերաբաշխում, ներառյալ առևտրային օգտագործումը (ենթակա է մեր gpt-oss-ի օգտագործման քաղաքականությանը)։

• Մատուցում. Հասանելի չէ OpenAI API-ի միջոցով, ուստի API-ի գնագոյացումն ու սահմանաչափերը չեն կիրառվում։

• Համատեղելիություն. Կարող է գործարկվել տարածված բաց inference փաթեթներով, ինչպիսիք են vLLM-ը, Ollama-ն, llama.cpp-ը, ինչպես նաև ամպային կամ ինքնակառավարվող GPU միջավայրերում։

Սկսելու ուղեցույց

Մոդելների կշիռներն ու օժանդակ ռեսուրսները ստանալու համար կարող եք՝

• Ընդհանուր նկարագրությանն ու ուղիղ հղումներին ծանոթանալու համար այցելել gpt-oss-ի կայք։

• Ներբեռնել կշիռները Hugging Face-ի հավաքածուից՝ համայնքային հարթակից, որտեղ կարող եք գտնել երկու մոդելներն էլ, դիտել օգտագործման օրինակներ և, ցանկության դեպքում, անմիջապես Hugging Face-ի ծառայությունների միջոցով գործարկել եզրահանգումը։

• Եզրահանգման տեղեկատու կոդը ստանալու համար օգտվել մեր GitHub-ի շտեմարանից։

• Ollama-ի, vLLM-ի և Transformers-ի պես աջակցվող գործարկման միջավայրերում կարգավորելու համար օգտվել OpenAI-ի բաղադրատոմսերի ուղեցույցներից։ Բաղադրատոմսերում կան նաև քայլ առ քայլ հրահանգներ՝ տեղային գործարկման, տարածված գործարկման միջավայրերի օգտագործման և, եթե աջակցվում է, gpt-oss մոդելների լրացուցիչ ուսուցման համար։

gpt‑oss‑safeguard (հետազոտական նախնական տարբերակ)

gpt‑oss‑safeguard-ը gpt‑oss-ի հիման վրա ստեղծված բաց կշիռներով անվտանգության հիմնավորման երկու մոդել է։ Դրանք նախատեսված են քաղաքականության վրա հիմնված անվտանգության դասակարգման և վստահության ու անվտանգության հարակից առաջադրանքների համար, որոնք կատարում եք ձեր վերահսկողության տակ գտնվող ենթակառուցվածքում։ Ինչպես gpt‑oss-ի մյուս մոդելների դեպքում, այս կշիռները հասանելի չեն OpenAI API-ի կամ ChatGPT-ի միջոցով։

• Միայն տեքստային մոդելներ՝ կառուցվածքային արդյունքների օրինակելի սխեմաներով (օրինակ՝ քաղաքականության վերաբերյալ վճիռ և հիմնավորում)։

• Ձեր սեփական քաղաքականությունը. մոդելը մեկնաբանում է ձեր գրավոր քաղաքականությունը՝ նվազագույն ծրագրավորման շնորհիվ տարբեր պրոդուկտներում ընդհանրացումներ կատարելու համար։

• Հիմնավորված որոշումներ. դատողության ընտրովի հետքեր՝ վրիպազերծմանն ու աուդիտին աջակցելու համար (նախատեսված են մշակողների և անվտանգության մասնագետների, այլ ոչ թե վերջնական օգտատերերին ցուցադրելու համար)։

• Դատողության կարգավորվող ծավալ. ընտրեք «Ցածր» / «Միջին» / «Հզոր»՝ ուշացման և խորության միջև ցանկալի հավասարակշռության համար։

• Լիցենզիա. Apache 2.0 (տե՛ս ստորև՝ Հասանելիություն և լիցենզավորում)։

gpt‑oss‑safeguard-ը հարմար է LLM-ների մուտքային ու ելքային տվյալների զտման, առցանց բովանդակության պիտակավորման, ինչպես նաև անցանց խմբաքանակային պիտակավորման կամ վերանայման աշխատանքային հոսքերի համար։ Ընդհանուր կիրառությունների համար (զրույց, գործակալներ և այլն) խորհուրդ ենք տալիս gpt‑oss-ի հիմնական մոդելները։

Սխեման կարող եք հարմարեցնել ձեր կարիքներին։ Հարցումների ձևակերպման ուղեցույցների և օրինակների համար դիմեք OpenAI-ի գործնական ուղեցույցների ժողովածուին։

Մոդելի տարբերակներ և չափսեր

Երկու մոդելներն էլ լրացուցիչ կարգաբերված են gpt‑oss-ից՝ առանց ճարտարապետության փոփոխության։ Դրանք օգտագործում են նույն զրույցի ձևանմուշը, ինչ gpt‑oss-ը. կարող եք պահպանել ձեր գոյություն ունեցող կարգավորումը։ Հարցման առաջարկվող ձևաչափն է՝ ձեր քաղաքականությունը տեղադրել developer հաղորդագրության մեջ, իսկ գնահատվող բովանդակությունը՝ user հաղորդագրության մեջ։

Աջակցություն և համայնք

Բաց կշիռներով տեղակայումները ինքնակառավարվող և ինքնասպասարկվող են։ Աջակցություն ստանալու վայրերը՝

• Հարցեր, քննարկումներ, խորհուրդներ. Համայնքի հետ կապ հաստատելու համար օգտագործեք Hugging Face-ի մոդելի էջերը։

• Վերարտադրելի սխալներ OpenAI-ի հղումային inference կոդում. Խնդիր բացեք gpt-oss-ի GitHub ռեպոզիտորիայում։

• Խնդիրներ երրորդ կողմի runtime-ի հետ (օր.՝ vLLM, Ollama, llama.cpp). Օգտագործեք համապատասխան նախագծի խնդիրների հետևիչը, ֆորումները կամ աջակցության գործընթացը։

OpenAI-ը չի տրամադրում աջակցություն, գործնական ներդրում կամ վրիպազերծման աջակցություն ինքնուրույն կամ երրորդ կողմի հոսթինգով բաց կշիռներով որևէ կարգավորման, կազմաձևման, միջավայրի կամ հավելվածի համար։

Մենք կշարունակենք համայնքի հետ կատարելագործել բաց անվտանգության գործիքները, այդ թվում՝ ROOST Model Community-ի (RMC) միջոցով։ RMC-ն համախմբում է անվտանգության մասնագետներին և հետազոտողներին՝ կիսվելու լավագույն փորձով անվտանգության աշխատանքային հոսքերում բաց կոդով AI մոդելների ներդրման համար, ներառյալ գնահատման արդյունքները և մոդելի վերաբերյալ արձագանքը։ Այցելեք RMC GitHub ռեպոզիտորիա՝ այս գործընկերության և ներգրավվելու եղանակների մասին ավելին իմանալու համար։

Աջակցություն և համայնք

Բաց կշիռներով տեղակայումները ինքնակառավարվող և ինքնասպասարկվող են։ Աջակցություն ստանալու վայրերը՝

• Հարցեր, քննարկումներ, խորհուրդներ. Համայնքի հետ կապ հաստատելու համար օգտագործեք Hugging Face-ի մոդելի էջերը։

• Վերարտադրելի սխալներ OpenAI-ի հղումային inference կոդում. Խնդիր բացեք gpt-oss-ի GitHub ռեպոզիտորիայում։

• Խնդիրներ երրորդ կողմի runtime-ի հետ (օր.՝ vLLM, Ollama, llama.cpp). Օգտագործեք համապատասխան նախագծի խնդիրների հետևիչը, ֆորումները կամ աջակցության գործընթացը։

OpenAI-ը չի տրամադրում աջակցություն, գործնական ներդրում կամ վրիպազերծման աջակցություն ինքնուրույն կամ երրորդ կողմի հոսթինգով բաց կշիռներով որևէ կարգավորման, կազմաձևման, միջավայրի կամ հավելվածի համար։

Գաղտնիություն և անվտանգություն

Գաղտնիություն և տվյալներ

Այս մոդելները նախագծված են գործարկվելու ձեր վերահսկողության տակ գտնվող ենթակառուցվածքում (ձեր տարածքում, ձեր ամպում կամ հոսթինգ գործընկերոջ մոտ)։ OpenAI-ը չի ստանում կամ մշակում այն տվյալները, որոնք ուղարկում եք այս ինքնուրույն հոսթավորված մոդելներին, եթե դրանք բացահայտորեն չկիսեք OpenAI-ի հետ կամ չօգտագործեք մեր կառավարվող հոսթինգ գործընկերներից մեկին։

Անվտանգություն

Այս մոդելներն անցել են անվտանգության լայնածավալ ուսուցում և թեստավորում։ Ավելի մանրամասն տեղեկությունների համար տեսեք մեր մոդելի քարտը և տեխնիկական զեկույցը։

Բովանդակության խախտումների մասին հաղորդում

Եթե կարծում եք, որ gpt‑oss մոդելներով ստեղծված բովանդակությունը խախտում է մեր քաղաքականությունները, կարող եք հաղորդել այդ մասին մեր Բովանդակության հաղորդման ձևի միջոցով։ Խնդրում ենք տրամադրել հնարավորինս շատ մանրամասներ, որպեսզի օգնեք մեր թիմին վերանայել ձեր ներկայացումը։

ՀՏՀ

Արդյո՞ք այս մոդելներն անվճար են։

gpt-oss մոդելի կշիռները կարելի է անվճար ներբեռնել և օգտագործել Apache 2.0 լիցենզիայի և gpt-oss-ի օգտագործման քաղաքականության համաձայն։ Սակայն դուք պատասխանատու եք դրանց գործարկման հետ կապված բոլոր ծախսերի համար՝ օրինակ հաշվողական ռեսուրսների, պահեստավորման կամ երրորդ կողմի հոսթինգի վճարների։ Դրանց գինը կախված կլինի ձեր ընտրած ենթակառուցվածքից կամ մատակարարից։

Այս մոդելները «բաց կոդո՞վ» են։

Մենք օգտագործում ենք open model-ներ կամ բաց կշիռներով եզրույթները՝ նշելու, որ ուսուցված կշիռները հրապարակային հասանելի են թույլատրող Apache 2.0 լիցենզիայի և gpt-oss-ի օգտագործման քաղաքականության ներքո։ Սա նշանակում է, որ կարող եք ներբեռնել մոդելները, գործարկել դրանք ձեր սեփական ենթակառուցվածքում կամ աջակցվող հոսթինգ շրջանակներով, ինչպես նաև հարմարեցնել կամ fine-tune անել դրանք։

Open model-ները մշակողներին և կազմակերպություններին տալիս են ավելի մեծ վերահսկողություն և ճկունություն։ Կարող եք ընտրել, թե որտեղ հոսթավորել, հարմարեցնել մոդելները հատուկ կիրառությունների համար և օգտվել լիցենզավորումից, որը թույլ է տալիս լայն օգտագործում, փոփոխում և վերաբաշխում։ Թեև ուսուցված կշիռները բաց են, հարակից ենթակառուցվածքի կամ գործիքների որոշ մասեր կարող են մնալ դրանց մատակարարների սեփականությունը։

Կարո՞ղ եմ մուտք ունենալ այս մոդելներին OpenAI API-ի կամ ChatGPT-ի միջոցով։

Ոչ։ Այս մոդելները չեն մատուցվում OpenAI API-ում և չեն երևում ChatGPT-ում։

Կարո՞ղ եմ fine-tune անել մոդելները։

Այո։ Դուք կարող եք fine-tune անել՝ օգտագործելով բաց կոդով գործիքներ և ձեր նախընտրած ենթակառուցվածքը։ Այս մոդելների համար մենք չենք առաջարկում fine-tuning OpenAI API-ների միջոցով։

Բաց կշիռներով մոդելներն ավելի էժա՞ն են, քան API-ի օգտագործումը։

Ծախսերը տարբերվում են՝ կախված ենթակառուցվածքից, ծանրաբեռնվածությունից և գործառնական մոտեցումից։ Ինքնուրույն հոսթինգը որոշ դեպքերում կարող է ավելի էժան լինել, մինչդեռ մեր API Platform-ը կարող է ավելի արդյունավետ լինել՝ հոսթինգը, սպասարկումը և արդիականացումները հաշվի առնելով։

Ի՞նչ գործառույթներ են աջակցում այս մոդելները։

Այս մոդելները ներկայումս միայն տեքստային հիմնավորման մոդելներ են։ Տարածված runtime-ներն աջակցում են հոսքային փոխանցմանը, գործառույթի կանչին և կառուցվածքային արդյունքներին։ Ճշգրիտ հնարավորությունների համար ստուգեք ձեր runtime-ի փաստաթղթերը։

Ինչո՞վ է սա տարբերվում ModAPI-ից։

Սա շատ կարողունակ հիմնավորման մոդել է, որը թույլ է տալիս բերել ձեր սեփական քաղաքականությունը։ Այն կարող է աշխատել ModAPI-ի հետ համատեղ, բայց հավանաբար չի փոխարինի ցածր ուշացում պահանջող կիրառություններին։