შენიშვნა: ეს სტატია მაღალ დონეზე მიმოხილვას იძლევა. ტექნიკური დაყენების ინფორმაცია შეგიძლიათ იხილოთ gpt-oss ვებსაიტზე, GitHub-ზე, Hugging Face-ზე და OpenAI Cookbooks-ში.
მიმოხილვა
წარმოგიდგენთ ორ ღია წონების მსჯელობის მოდელს: gpt‑oss‑120b და gpt‑oss‑20b. ისინი მუშაობს თქვენს მიერ კონტროლირებულ ინფრასტრუქტურაზე ან ჰოსტინგის პროვაიდერების მეშვეობით.
შენიშვნა: ეს მოდელები არ მიეწოდება OpenAI API-ის მეშვეობით და არ არის ხელმისაწვდომი ChatGPT-ში.
რატომ ღია წონები
არჩევანი და კონტროლი: გაუშვით მოდელები შიდა ინფრასტრუქტურაში ან თქვენს კერძო ღრუბელში, შეინარჩუნეთ მონაცემთა ადგილმდებარეობა და მოარგეთ წარმადობა თქვენს საჭიროებებს.
მორგება: დამატებით გაწვრთენით ან მოარგეთ მოდელები თქვენთვის სასურველი ღია ინსტრუმენტებით.
ხელმისაწვდომობა და ლიცენზირება
ლიცენზია: Apache 2.0 იძლევა ფართო გამოყენების, ცვლილებისა და ხელახალი გავრცელების საშუალებას, მათ შორის კომერციული გამოყენებისთვის (ჩვენი gpt-oss-ის გამოყენების პოლიტიკის დაცვით).
მიწოდება: OpenAI API-ის მეშვეობით ხელმისაწვდომი არ არის, ამიტომ API-ის ფასები და მოთხოვნების ლიმიტები არ ვრცელდება.
თავსებადობა: შესაძლებელია გაშვება გავრცელებული ღია ინფერენციის სტეკებით, როგორიცაა vLLM, Ollama, llama.cpp, და ღრუბლოვან ან თვითმართვად GPU გარემოებში.
დაწყება
მოდელის წონებისა და დამხმარე რესურსების მისაღებად შეგიძლიათ:
მიმოხილვისა და პირდაპირი ბმულებისთვის ეწვიეთ gpt-oss-ის ვებსაიტს.
წონები ჩამოტვირთეთ Hugging Face-ის კოლექციიდან — ეს არის საზოგადოების ერთიანი სივრცე, სადაც იპოვით ორივე მოდელს, გაეცნობით გამოყენების მაგალითებს და, სურვილის შემთხვევაში, ინფერენციას პირდაპირ Hugging Face-ის სერვისებით გაუშვებთ.
ინფერენციის საცნობარო კოდის სანახავად გადადით ჩვენს GitHub-ის რეპოზიტორიაში.
Ollama-სთან, vLLM-სა და Transformers-თან თავსებად გარემოებში გამართვისთვის გამოიყენეთ OpenAI-ის რეცეპტების სახელმძღვანელოები. რეცეპტებში ასევე მოცემულია ეტაპობრივი ინსტრუქციები ლოკალურად გაშვების, გავრცელებული გაშვების გარემოების გამოყენებისა და, მხარდაჭერის შემთხვევაში, gpt-oss მოდელების დამატებით გაწვრთნის შესახებ.
gpt‑oss‑safeguard (კვლევითი წინასწარი ვერსია)
gpt‑oss‑safeguard არის gpt‑oss-ზე აგებული ღია წონების მქონე უსაფრთხოების მსჯელობის მოდელების წყვილი. ისინი განკუთვნილია პოლიტიკაზე დაფუძნებული უსაფრთხოების კლასიფიკაციისთვის და ნდობასა და უსაფრთხოებასთან დაკავშირებული სხვა ამოცანებისთვის, რომლებსაც თქვენივე კონტროლირებად ინფრასტრუქტურაზე ასრულებთ. სხვა gpt‑oss მოდელების მსგავსად, ეს წონები OpenAI API-ის ან ChatGPT-ის მეშვეობით არ არის ხელმისაწვდომი.
მხოლოდ ტექსტზე მომუშავე მოდელები სტრუქტურირებული შედეგების საცნობარო სქემებით (მაგ., პოლიტიკასთან შესაბამისობის დასკვნა, დასაბუთება).
გამოიყენეთ საკუთარი პოლიტიკა: მოდელი განმარტავს თქვენს წერილობით პოლიტიკას, რათა მინიმალური საინჟინრო სამუშაოთი მისი განზოგადება სხვადასხვა პროდუქტზე შეძლოს.
მსჯელობაზე დაფუძნებული გადაწყვეტილებები: გამართვისა და აუდიტის გასამარტივებლად შესაძლებელია მსჯელობის კვალის დამატება (განკუთვნილია დეველოპერებისა და უსაფრთხოების სპეციალისტებისთვის და არა საბოლოო მომხმარებლებისთვის საჩვენებლად).
მსჯელობის ძალისხმევის კონფიგურაცია: დაყოვნებასა და სიღრმეს შორის სასურველი ბალანსისთვის აირჩიეთ დაბალი / საშუალო / მაღალი დონე.
ლიცენზია: Apache 2.0 (იხ. ქვემოთ ხელმისაწვდომობა და ლიცენზირება).
gpt‑oss‑safeguard კარგად შეეფერება LLM-ების შემავალი და გამომავალი მონაცემების გაფილტვრას, ონლაინ შიგთავსის მონიშვნასა და ოფლაინ პაკეტური მონიშვნის ან მიმოხილვის სამუშაო პროცესებს. ზოგადი დანიშნულების აპლიკაციებისთვის (ჩატი, აგენტები და სხვ.) გირჩევთ ძირითად gpt‑oss მოდელებს.
შეგიძლიათ სქემა თქვენს საჭიროებებს მოარგოთ. პრომპტების შედგენის ინსტრუქციებისა და მაგალითებისთვის იხილეთ OpenAI Cookbook.
მოდელის ვარიანტები და ზომები
| მოდელი | დანიშნულება | შენიშვნები |
|---|---|---|
| gpt‑oss‑safeguard‑120b | საწარმოო გარემო, მაღალი სიმძლავრის უსაფრთხოების მსჯელობა | 117B პარამეტრი (≈5.1B აქტიური). შემუშავებულია ისე, რომ დაეტიოს ერთ 80 GB GPU-ზე (მაგ., NVIDIA H100; ასევე მუშაობს უფრო დიდი მეხსიერების მქონე GPU-ებზე, როგორიცაა AMD MI300X). |
| gpt‑oss‑safeguard‑20b | დაბალი დაყოვნების / შეზღუდული გარემოები | 21B პარამეტრი (≈3.6B აქტიური). |
ორივე მოდელი დაზუსტებულია gpt‑oss-იდან არქიტექტურის ცვლილების გარეშე. ისინი იყენებენ იმავე ჩატის შაბლონს, რასაც gpt‑oss; შეგიძლიათ შეინარჩუნოთ არსებული კონფიგურაცია. მოთხოვნის შედგენის რეკომენდებული შაბლონია, რომ თქვენი პოლიტიკა განათავსოთ დეველოპერის შეტყობინებაში, ხოლო შესაფასებელი კონტენტი — მომხმარებლის შეტყობინებაში.
მხარდაჭერა და საზოგადოება
ღია წონების განთავსებები თვითმართვადი და თვითმომსახურებადია. მხარდაჭერის მიღება შეგიძლიათ აქ:
კითხვები, განხილვა, რჩევები: საზოგადოებასთან დასაკავშირებლად გამოიყენეთ Hugging Face-ის მოდელის გვერდები.
რეპროდუცირებადი შეცდომები OpenAI-ის სარეფერენცო ინფერენციის კოდში: გახსენით issue gpt-oss-ის GitHub რეპოზიტორიაში.
პრობლემები მესამე მხარის გაშვების გარემოსთან (მაგ., vLLM, Ollama, llama.cpp): გამოიყენეთ შესაბამისი პროექტის issue tracker, ფორუმები ან მხარდაჭერის პროცესი.
OpenAI არ უზრუნველყოფს დახმარებას, პრაქტიკულ დანერგვას ან გამართვის მხარდაჭერას თვითჰოსტირებულ ან მესამე მხარის მიერ ჰოსტირებულ ღია წონების დაყენებებისთვის, კონფიგურაციებისთვის, გარემოებისთვის ან აპლიკაციებისთვის.
ჩვენ გავაგრძელებთ საზოგადოებასთან ერთად მუშაობას ღია უსაფრთხოების ინსტრუმენტების გასაუმჯობესებლად, მათ შორის ROOST Model Community-ის (RMC) მეშვეობით. RMC აერთიანებს უსაფრთხოების სპეციალისტებსა და მკვლევრებს, რათა გააზიარონ საუკეთესო პრაქტიკები ღია კოდის AI მოდელების უსაფრთხოების სამუშაო პროცესებში დასანერგად, მათ შორის შეფასების შედეგები და მოდელის უკუკავშირი. ამ პარტნიორობის შესახებ მეტის გასაგებად და ჩასართავად ეწვიეთ RMC GitHub რეპოზიტორიას.
მხარდაჭერა და საზოგადოება
ღია წონების განთავსებები თვითმართვადი და თვითმომსახურებადია. მხარდაჭერის მიღება შეგიძლიათ აქ:
კითხვები, განხილვა, რჩევები: საზოგადოებასთან დასაკავშირებლად გამოიყენეთ Hugging Face-ის მოდელის გვერდები.
რეპროდუცირებადი შეცდომები OpenAI-ის სარეფერენცო ინფერენციის კოდში: გახსენით issue gpt-oss-ის GitHub რეპოზიტორიაში.
პრობლემები მესამე მხარის გაშვების გარემოსთან (მაგ., vLLM, Ollama, llama.cpp): გამოიყენეთ შესაბამისი პროექტის issue tracker, ფორუმები ან მხარდაჭერის პროცესი.
OpenAI არ უზრუნველყოფს დახმარებას, პრაქტიკულ დანერგვას ან გამართვის მხარდაჭერას თვითჰოსტირებულ ან მესამე მხარის მიერ ჰოსტირებულ ღია წონების დაყენებებისთვის, კონფიგურაციებისთვის, გარემოებისთვის ან აპლიკაციებისთვის.
კონფიდენციალურობა და უსაფრთხოება
კონფიდენციალურობა და მონაცემები
ეს მოდელები შექმნილია თქვენს მიერ კონტროლირებულ ინფრასტრუქტურაზე გასაშვებად (შიდა ინფრასტრუქტურაში, თქვენს ღრუბელში ან ჰოსტინგ პარტნიორთან). OpenAI არ იღებს და არ ამუშავებს მონაცემებს, რომლებსაც ამ თვითჰოსტირებულ მოდელებს უგზავნით, თუ მათ პირდაპირ არ გაუზიარებთ OpenAI-ს ან არ გამოიყენებთ ჩვენს ერთ-ერთ მართულ ჰოსტინგ პარტნიორს.
უსაფრთხოება
ამ მოდელებმა გაიარა უსაფრთხოების ფართო ტრენინგი და ტესტირება. დამატებითი დეტალებისთვის იხილეთ ჩვენი მოდელის ბარათი და ტექნიკური ანგარიში.
კონტენტის დარღვევებზე შეტყობინება
თუ ფიქრობთ, რომ gpt‑oss მოდელებით გენერირებული კონტენტი არღვევს ჩვენს პოლიტიკებს, შეგიძლიათ ამის შესახებ შეგვატყობინოთ ჩვენი კონტენტის შეტყობინების ფორმის მეშვეობით. გთხოვთ, მოგვაწოდოთ რაც შეიძლება მეტი დეტალი, რათა ჩვენს გუნდს თქვენი განაცხადის განხილვაში დაეხმაროთ.
ხშირად დასმული კითხვები
უფასოა ეს მოდელები?
gpt-oss მოდელის წონების ჩამოტვირთვა და გამოყენება უფასოა Apache 2.0 ლიცენზიისა და gpt-oss-ის გამოყენების პოლიტიკის მიხედვით. თუმცა, თქვენ ხართ პასუხისმგებელი მათ გაშვებასთან დაკავშირებულ ნებისმიერ ხარჯზე — როგორიცაა გამოთვლითი რესურსები, საცავი ან მესამე მხარის ჰოსტინგის საფასური. ამ ხარჯების ფასი დამოკიდებული იქნება თქვენს არჩეულ ინფრასტრუქტურასა ან პროვაიდერზე.
არის ეს მოდელები „ღია კოდის“?
ჩვენ ვიყენებთ ტერმინებს open models ან ღია წონები, რათა აღვნიშნოთ, რომ გაწვრთნილი წონები საჯაროდ ხელმისაწვდომია ლიბერალური Apache 2.0 ლიცენზიისა და gpt-oss-ის გამოყენების პოლიტიკის ფარგლებში. ეს ნიშნავს, რომ შეგიძლიათ ჩამოტვირთოთ მოდელები, გაუშვათ ისინი საკუთარ ინფრასტრუქტურაზე ან მხარდაჭერილი ჰოსტინგის ჩარჩოებით და მოარგოთ ან დამატებით გაწვრთნათ ისინი.
Open models დეველოპერებსა და ორგანიზაციებს მეტ კონტროლსა და მოქნილობას აძლევს. შეგიძლიათ აირჩიოთ, სად უმასპინძლოთ, მოარგოთ მოდელები კონკრეტულ გამოყენების შემთხვევებს და ისარგებლოთ ლიცენზიით, რომელიც ფართო გამოყენებას, ცვლილებასა და ხელახალ გავრცელებას იძლევა. მიუხედავად იმისა, რომ გაწვრთნილი წონები ღიაა, ზოგიერთი მიმდებარე ინფრასტრუქტურა ან ინსტრუმენტი შეიძლება მათი პროვაიდერებისთვის საკუთრებად დარჩეს.
შემიძლია ამ მოდელებზე წვდომა OpenAI API-ის ან ChatGPT-ის მეშვეობით?
არა. ეს მოდელები OpenAI API-ში არ მიეწოდება და ChatGPT-ში არ ჩანს.
შემიძლია მოდელების დამატებით გაწვრთნა?
დიახ. დამატებითი გაწვრთნა შეგიძლიათ ღია კოდის ინსტრუმენტებითა და თქვენთვის სასურველი ინფრასტრუქტურით. ამ მოდელებისთვის OpenAI-ის API-ების მეშვეობით დამატებით გაწვრთნას არ ვთავაზობთ.
ღია წონების მოდელები API-ის გამოყენებაზე იაფია?
ხარჯები დამოკიდებულია ინფრასტრუქტურაზე, სამუშაო დატვირთვასა და საოპერაციო მიდგომაზე. თვითჰოსტირება ზოგ შემთხვევაში შეიძლება უფრო იაფი იყოს, ხოლო ჩვენი API Platform შეიძლება უფრო ეფექტიანი იყოს ჰოსტინგის, მოვლა-პატრონობისა და განახლებების გათვალისწინებით.
რა ფუნქციებს უჭერს მხარს ეს მოდელები?
ეს მოდელები ამჟამად მხოლოდ ტექსტური მსჯელობის მოდელებია. გავრცელებული გაშვების გარემოები მხარს უჭერს სტრიმინგს, ფუნქციის გამოძახებას და სტრუქტურირებულ შედეგებს. ზუსტი შესაძლებლობებისთვის შეამოწმეთ თქვენი გაშვების გარემოს დოკუმენტაცია.
რით განსხვავდება ეს ModAPI-სგან?
ეს არის ძალიან ძლიერი მსჯელობის მოდელი, რომელიც საკუთარი პოლიტიკის გამოყენების საშუალებას გაძლევთ. მას შეუძლია ModAPI-სთან ერთად მუშაობა, მაგრამ, სავარაუდოდ, დაბალი დაყოვნების გამოყენების შემთხვევებისთვის ჩანაცვლება არ იქნება.