Ակնարկ

Ներկայացնում ենք բաց կշիռներով հիմնավորման երկու մոդել՝ gpt‑oss‑120b և gpt‑oss‑20b։ Դրանք աշխատում են ձեր վերահսկողության տակ գտնվող ենթակառուցվածքում կամ հոսթինգ մատակարարների միջոցով։

Ինչու բաց կշիռներ

• Ընտրություն և վերահսկողություն. Գործարկեք մոդելները ձեր տարածքում կամ մասնավոր ամպում, պահպանեք տվյալների մշակման հավելվածը և հարմարեցրեք արդյունավետությունը ձեր կարիքներին։

• Հարմարեցում. Fine-tune արեք կամ հարմարեցրեք մոդելները ձեր նախընտրած բաց գործիքներով։

Հասանելիություն և լիցենզավորում

• Լիցենզիա. Apache 2.0-ը թույլ է տալիս լայն օգտագործում, փոփոխում և վերաբաշխում, ներառյալ առևտրային օգտագործումը (ենթակա է մեր gpt-oss-ի օգտագործման քաղաքականությանը)։

• Մատուցում. Հասանելի չէ OpenAI API-ի միջոցով, ուստի API-ի գնագոյացումն ու սահմանաչափերը չեն կիրառվում։

• Համատեղելիություն. Կարող է գործարկվել տարածված բաց inference փաթեթներով, ինչպիսիք են vLLM-ը, Ollama-ն, llama.cpp-ը, ինչպես նաև ամպային կամ ինքնակառավարվող GPU միջավայրերում։

Սկսել աշխատանքը

Մոդելի կշիռները և օժանդակ ռեսուրսները ստանալու համար կարող եք՝

• Այցելեք gpt-oss կայքը՝ ակնարկի և ուղիղ հղումների համար։

• Ներբեռնեք կշիռները Hugging Face հավաքածուից՝ համայնքային հանգույց, որտեղ կարող եք գտնել երկու մոդելներն էլ, տեսնել օգտագործման օրինակներ և ցանկության դեպքում inference-ը գործարկել անմիջապես Hugging Face-ի ծառայությունների միջոցով։

• Հղումային inference կոդի համար մուտք գործեք մեր GitHub ռեպոզիտորիա։

• Օգտագործեք OpenAI Cookbook-ի ուղեցույցները՝ Ollama, vLLM և Transformers-ի նման աջակցվող runtime-ներով կարգավորման համար։ Cookbook-ը նաև ներառում է քայլ առ քայլ հրահանգներ տեղային գործարկման, տարածված runtime-ների օգտագործման և, որտեղ աջակցվում է, gpt‑oss մոդելների fine-tuning-ի համար։

gpt‑oss‑safeguard (հետազոտական նախադիտում)

gpt‑oss‑safeguard-ը gpt‑oss-ի վրա կառուցված բաց կշիռներով անվտանգության հիմնավորման մոդելների զույգ է։ Դրանք նախատեսված են քաղաքականության վրա հիմնված անվտանգության դասակարգման և վստահության ու անվտանգության հարակից առաջադրանքների համար, որոնք գործարկում եք ձեր վերահսկած ենթակառուցվածքում։ Ինչպես gpt‑oss-ի մյուս մոդելները, այս կշիռները չեն մատուցվում OpenAI API-ի կամ ChatGPT-ի միջոցով։

• Միայն տեքստային մոդելներ՝ հղումային կառուցվածքային արդյունքների սխեմաներով (օր.՝ քաղաքականության վճիռ, հիմնավորում)։

• Բերեք ձեր սեփական քաղաքականությունը. մոդելը մեկնաբանում է ձեր գրավոր քաղաքականությունը, որպեսզի կարողանա նվազագույն ինժեներական աշխատանքով ընդհանրացնել տարբեր արտադրանքների համար։

• Հիմնավորված որոշումներ. կամընտիր հիմնավորման հետքեր՝ վրիպազերծման և աուդիտների համար (նախատեսված են մշակողների և անվտանգության մասնագետների, ոչ թե վերջնական օգտատերերին ցուցադրելու համար)։

• Կարգավորվող հիմնավորման ջանք. ընտրեք ցածր / միջին / բարձր՝ ուշացման և խորության միջև հավասարակշռելու համար։

• Լիցենզիա. Apache 2.0 (տես ստորև՝ Հասանելիություն և լիցենզավորում)։

gpt‑oss‑safeguard-ը հարմար է LLM-ների մուտքային/ելքային զտման, առցանց բովանդակության պիտակավորման և անցանց փաթեթային պիտակավորման կամ վերանայման աշխատանքային հոսքերի համար։ Ընդհանուր կիրառությունների համար (զրույց, ագենտներ և այլն) խորհուրդ ենք տալիս հիմնական gpt‑oss մոդելները։

Դուք կարող եք սխեման հարմարեցնել ձեր կարիքներին։ Հարցումների կազմման ուղեցույցների և օրինակների համար դիմեք OpenAI Cookbook-ին։

Մոդելի տարբերակներ և չափսեր

Երկու մոդելներն էլ լրացուցիչ կարգաբերված են gpt‑oss-ից՝ առանց ճարտարապետության փոփոխության։ Դրանք օգտագործում են նույն զրույցի ձևանմուշը, ինչ gpt‑oss-ը. կարող եք պահպանել ձեր գոյություն ունեցող կարգավորումը։ Հարցման առաջարկվող ձևաչափն է՝ ձեր քաղաքականությունը տեղադրել developer հաղորդագրության մեջ, իսկ գնահատվող բովանդակությունը՝ user հաղորդագրության մեջ։

Աջակցություն և համայնք

Բաց կշիռներով տեղակայումները ինքնակառավարվող և ինքնասպասարկվող են։ Աջակցություն ստանալու վայրերը՝

• Հարցեր, քննարկումներ, խորհուրդներ. Համայնքի հետ կապ հաստատելու համար օգտագործեք Hugging Face-ի մոդելի էջերը։

• Վերարտադրելի սխալներ OpenAI-ի հղումային inference կոդում. Խնդիր բացեք gpt-oss-ի GitHub ռեպոզիտորիայում։

• Խնդիրներ երրորդ կողմի runtime-ի հետ (օր.՝ vLLM, Ollama, llama.cpp). Օգտագործեք համապատասխան նախագծի խնդիրների հետևիչը, ֆորումները կամ աջակցության գործընթացը։

OpenAI-ը չի տրամադրում աջակցություն, գործնական ներդրում կամ վրիպազերծման աջակցություն ինքնուրույն կամ երրորդ կողմի հոսթինգով բաց կշիռներով որևէ կարգավորման, կազմաձևման, միջավայրի կամ հավելվածի համար։

Մենք կշարունակենք համայնքի հետ կատարելագործել բաց անվտանգության գործիքները, այդ թվում՝ ROOST Model Community-ի (RMC) միջոցով։ RMC-ն համախմբում է անվտանգության մասնագետներին և հետազոտողներին՝ կիսվելու լավագույն փորձով անվտանգության աշխատանքային հոսքերում բաց կոդով AI մոդելների ներդրման համար, ներառյալ գնահատման արդյունքները և մոդելի վերաբերյալ արձագանքը։ Այցելեք RMC GitHub ռեպոզիտորիա՝ այս գործընկերության և ներգրավվելու եղանակների մասին ավելին իմանալու համար։

Աջակցություն և համայնք

Բաց կշիռներով տեղակայումները ինքնակառավարվող և ինքնասպասարկվող են։ Աջակցություն ստանալու վայրերը՝

• Հարցեր, քննարկումներ, խորհուրդներ. Համայնքի հետ կապ հաստատելու համար օգտագործեք Hugging Face-ի մոդելի էջերը։

• Վերարտադրելի սխալներ OpenAI-ի հղումային inference կոդում. Խնդիր բացեք gpt-oss-ի GitHub ռեպոզիտորիայում։

• Խնդիրներ երրորդ կողմի runtime-ի հետ (օր.՝ vLLM, Ollama, llama.cpp). Օգտագործեք համապատասխան նախագծի խնդիրների հետևիչը, ֆորումները կամ աջակցության գործընթացը։

OpenAI-ը չի տրամադրում աջակցություն, գործնական ներդրում կամ վրիպազերծման աջակցություն ինքնուրույն կամ երրորդ կողմի հոսթինգով բաց կշիռներով որևէ կարգավորման, կազմաձևման, միջավայրի կամ հավելվածի համար։

Գաղտնիություն և անվտանգություն

Գաղտնիություն և տվյալներ

Այս մոդելները նախագծված են գործարկվելու ձեր վերահսկողության տակ գտնվող ենթակառուցվածքում (ձեր տարածքում, ձեր ամպում կամ հոսթինգ գործընկերոջ մոտ)։ OpenAI-ը չի ստանում կամ մշակում այն տվյալները, որոնք ուղարկում եք այս ինքնուրույն հոսթավորված մոդելներին, եթե դրանք բացահայտորեն չկիսեք OpenAI-ի հետ կամ չօգտագործեք մեր կառավարվող հոսթինգ գործընկերներից մեկին։

Անվտանգություն

Այս մոդելներն անցել են անվտանգության լայնածավալ ուսուցում և թեստավորում։ Ավելի մանրամասն տեղեկությունների համար տեսեք մեր մոդելի քարտը և տեխնիկական զեկույցը։

Բովանդակության խախտումների մասին հաղորդում

Եթե կարծում եք, որ gpt‑oss մոդելներով ստեղծված բովանդակությունը խախտում է մեր քաղաքականությունները, կարող եք հաղորդել այդ մասին մեր Բովանդակության հաղորդման ձևի միջոցով։ Խնդրում ենք տրամադրել հնարավորինս շատ մանրամասներ, որպեսզի օգնեք մեր թիմին վերանայել ձեր ներկայացումը։

ՀՏՀ

Արդյո՞ք այս մոդելներն անվճար են։

gpt-oss մոդելի կշիռները կարելի է անվճար ներբեռնել և օգտագործել Apache 2.0 լիցենզիայի և gpt-oss-ի օգտագործման քաղաքականության համաձայն։ Սակայն դուք պատասխանատու եք դրանց գործարկման հետ կապված բոլոր ծախսերի համար՝ օրինակ հաշվողական ռեսուրսների, պահեստավորման կամ երրորդ կողմի հոսթինգի վճարների։ Դրանց գինը կախված կլինի ձեր ընտրած ենթակառուցվածքից կամ մատակարարից։

Այս մոդելները «բաց կոդո՞վ» են։

Մենք օգտագործում ենք open model-ներ կամ բաց կշիռներով եզրույթները՝ նշելու, որ ուսուցված կշիռները հրապարակային հասանելի են թույլատրող Apache 2.0 լիցենզիայի և gpt-oss-ի օգտագործման քաղաքականության ներքո։ Սա նշանակում է, որ կարող եք ներբեռնել մոդելները, գործարկել դրանք ձեր սեփական ենթակառուցվածքում կամ աջակցվող հոսթինգ շրջանակներով, ինչպես նաև հարմարեցնել կամ fine-tune անել դրանք։

Open model-ները մշակողներին և կազմակերպություններին տալիս են ավելի մեծ վերահսկողություն և ճկունություն։ Կարող եք ընտրել, թե որտեղ հոսթավորել, հարմարեցնել մոդելները հատուկ կիրառությունների համար և օգտվել լիցենզավորումից, որը թույլ է տալիս լայն օգտագործում, փոփոխում և վերաբաշխում։ Թեև ուսուցված կշիռները բաց են, հարակից ենթակառուցվածքի կամ գործիքների որոշ մասեր կարող են մնալ դրանց մատակարարների սեփականությունը։

Կարո՞ղ եմ մուտք ունենալ այս մոդելներին OpenAI API-ի կամ ChatGPT-ի միջոցով։

Ոչ։ Այս մոդելները չեն մատուցվում OpenAI API-ում և չեն երևում ChatGPT-ում։

Կարո՞ղ եմ fine-tune անել մոդելները։

Այո։ Դուք կարող եք fine-tune անել՝ օգտագործելով բաց կոդով գործիքներ և ձեր նախընտրած ենթակառուցվածքը։ Այս մոդելների համար մենք չենք առաջարկում fine-tuning OpenAI API-ների միջոցով։

Բաց կշիռներով մոդելներն ավելի էժա՞ն են, քան API-ի օգտագործումը։

Ծախսերը տարբերվում են՝ կախված ենթակառուցվածքից, ծանրաբեռնվածությունից և գործառնական մոտեցումից։ Ինքնուրույն հոսթինգը որոշ դեպքերում կարող է ավելի էժան լինել, մինչդեռ մեր API Platform-ը կարող է ավելի արդյունավետ լինել՝ հոսթինգը, սպասարկումը և արդիականացումները հաշվի առնելով։

Ի՞նչ գործառույթներ են աջակցում այս մոդելները։

Այս մոդելները ներկայումս միայն տեքստային հիմնավորման մոդելներ են։ Տարածված runtime-ներն աջակցում են հոսքային փոխանցմանը, գործառույթի կանչին և կառուցվածքային արդյունքներին։ Ճշգրիտ հնարավորությունների համար ստուգեք ձեր runtime-ի փաստաթղթերը։

Ինչո՞վ է սա տարբերվում ModAPI-ից։

Սա շատ կարողունակ հիմնավորման մոդել է, որը թույլ է տալիս բերել ձեր սեփական քաղաքականությունը։ Այն կարող է աշխատել ModAPI-ի հետ համատեղ, բայց հավանաբար չի փոխարինի ցածր ուշացում պահանջող կիրառություններին։