შენიშვნა: ეს სტატია მაღალ დონეზე მიმოხილვას იძლევა. ტექნიკური დაყენების ინფორმაცია შეგიძლიათ იხილოთ gpt-oss ვებსაიტზე, GitHub-ზე, Hugging Face-ზე და OpenAI Cookbooks-ში.
მიმოხილვა
წარმოგიდგენთ ორ ღია წონების მსჯელობის მოდელს: gpt‑oss‑120b და gpt‑oss‑20b. ისინი მუშაობს თქვენს მიერ კონტროლირებულ ინფრასტრუქტურაზე ან ჰოსტინგის პროვაიდერების მეშვეობით.
შენიშვნა: ეს მოდელები არ მიეწოდება OpenAI API-ის მეშვეობით და არ არის ხელმისაწვდომი ChatGPT-ში.
რატომ ღია წონები
არჩევანი და კონტროლი: გაუშვით მოდელები შიდა ინფრასტრუქტურაში ან თქვენს კერძო ღრუბელში, შეინარჩუნეთ მონაცემთა ადგილმდებარეობა და მოარგეთ წარმადობა თქვენს საჭიროებებს.
მორგება: დამატებით გაწვრთენით ან მოარგეთ მოდელები თქვენთვის სასურველი ღია ინსტრუმენტებით.
ხელმისაწვდომობა და ლიცენზირება
ლიცენზია: Apache 2.0 იძლევა ფართო გამოყენების, ცვლილებისა და ხელახალი გავრცელების საშუალებას, მათ შორის კომერციული გამოყენებისთვის (ჩვენი gpt-oss-ის გამოყენების პოლიტიკის დაცვით).
მიწოდება: OpenAI API-ის მეშვეობით ხელმისაწვდომი არ არის, ამიტომ API-ის ფასები და მოთხოვნების ლიმიტები არ ვრცელდება.
თავსებადობა: შესაძლებელია გაშვება გავრცელებული ღია ინფერენციის სტეკებით, როგორიცაა vLLM, Ollama, llama.cpp, და ღრუბლოვან ან თვითმართვად GPU გარემოებში.
დაწყება
მოდელის წონებისა და დამხმარე რესურსების მისაღებად შეგიძლიათ:
მიმოხილვისა და პირდაპირი ბმულებისთვის ეწვიეთ gpt-oss ვებსაიტს.
ჩამოტვირთეთ წონები Hugging Face-ის კოლექციიდან — საზოგადოების ჰაბიდან, სადაც შეგიძლიათ იპოვოთ ორივე მოდელი, ნახოთ გამოყენების მაგალითები და სურვილისამებრ გაუშვათ ინფერენცია პირდაპირ Hugging Face-ის სერვისების მეშვეობით.
სარეფერენცო ინფერენციის კოდისთვის შედით ჩვენს GitHub რეპოზიტორიაში.
Ollama-ს, vLLM-ისა და Transformers-ის მსგავს მხარდაჭერილ გაშვების გარემოებთან დასაყენებლად გამოიყენეთ OpenAI Cookbook-ის სახელმძღვანელოები. Cookbook ასევე მოიცავს ნაბიჯ-ნაბიჯ ინსტრუქციებს ლოკალურად გაშვების, გავრცელებული გაშვების გარემოების გამოყენებისა და — სადაც მხარდაჭერილია — gpt‑oss მოდელების დამატებით გაწვრთნისთვის.
gpt‑oss‑safeguard (კვლევითი პრევიუ)
gpt‑oss‑safeguard არის gpt‑oss-ზე აგებული ღია წონების უსაფრთხოების მსჯელობის მოდელების წყვილი. ისინი შექმნილია პოლიტიკაზე დაფუძნებული უსაფრთხოების კლასიფიკაციისთვის და ნდობისა და უსაფრთხოების დაკავშირებული ამოცანებისთვის, რომლებსაც თქვენს მიერ კონტროლირებულ ინფრასტრუქტურაზე უშვებთ. სხვა gpt‑oss მოდელების მსგავსად, ეს წონები არ მიეწოდება OpenAI API-ის ან ChatGPT-ის მეშვეობით.
მხოლოდ ტექსტური მოდელები სარეფერენცო სტრუქტურირებული შედეგების სქემებით (მაგ., პოლიტიკის ვერდიქტი, დასაბუთება).
მოიტანეთ საკუთარი პოლიტიკა: მოდელი განმარტავს თქვენს დაწერილ პოლიტიკას, რათა მინიმალური საინჟინრო ძალისხმევით განზოგადდეს სხვადასხვა პროდუქტზე.
დასაბუთებული გადაწყვეტილებები: არასავალდებულო მსჯელობის კვალები გამართვისა და აუდიტის დასახმარებლად (განკუთვნილია დეველოპერებისა და უსაფრთხოების სპეციალისტებისთვის და არა საბოლოო მომხმარებლისთვის საჩვენებლად).
კონფიგურირებადი მსჯელობის ძალისხმევა: აირჩიეთ დაბალი / საშუალო / მაღალი, რათა დააბალანსოთ დაყოვნება და სიღრმე.
ლიცენზია: Apache 2.0 (იხილეთ ქვემოთ ხელმისაწვდომობა და ლიცენზირება).
gpt‑oss‑safeguard კარგად შეეფერება LLM-ებისთვის შეყვანის/გამოტანის გაფილტვრას, ონლაინ კონტენტის მონიშვნას და ოფლაინ პარტიულ მონიშვნას ან განხილვის სამუშაო პროცესებს. ზოგადი აპლიკაციებისთვის (ჩატი, აგენტები და ა.შ.) გირჩევთ ძირითად gpt‑oss მოდელებს.
შეგიძლიათ სქემა თქვენს საჭიროებებს მოარგოთ. მოთხოვნების შედგენის სახელმძღვანელოებისა და მაგალითებისთვის იხილეთ OpenAI Cookbook.
მოდელის ვარიანტები და ზომები
| მოდელი | დანიშნულება | შენიშვნები |
|---|---|---|
| gpt‑oss‑safeguard‑120b | საწარმოო გარემო, მაღალი სიმძლავრის უსაფრთხოების მსჯელობა | 117B პარამეტრი (≈5.1B აქტიური). შემუშავებულია ისე, რომ დაეტიოს ერთ 80 GB GPU-ზე (მაგ., NVIDIA H100; ასევე მუშაობს უფრო დიდი მეხსიერების მქონე GPU-ებზე, როგორიცაა AMD MI300X). |
| gpt‑oss‑safeguard‑20b | დაბალი დაყოვნების / შეზღუდული გარემოები | 21B პარამეტრი (≈3.6B აქტიური). |
ორივე მოდელი დაზუსტებულია gpt‑oss-იდან არქიტექტურის ცვლილების გარეშე. ისინი იყენებენ იმავე ჩატის შაბლონს, რასაც gpt‑oss; შეგიძლიათ შეინარჩუნოთ არსებული კონფიგურაცია. მოთხოვნის შედგენის რეკომენდებული შაბლონია, რომ თქვენი პოლიტიკა განათავსოთ დეველოპერის შეტყობინებაში, ხოლო შესაფასებელი კონტენტი — მომხმარებლის შეტყობინებაში.
მხარდაჭერა და საზოგადოება
ღია წონების განთავსებები თვითმართვადი და თვითმომსახურებადია. მხარდაჭერის მიღება შეგიძლიათ აქ:
კითხვები, განხილვა, რჩევები: საზოგადოებასთან დასაკავშირებლად გამოიყენეთ Hugging Face-ის მოდელის გვერდები.
რეპროდუცირებადი შეცდომები OpenAI-ის სარეფერენცო ინფერენციის კოდში: გახსენით issue gpt-oss-ის GitHub რეპოზიტორიაში.
პრობლემები მესამე მხარის გაშვების გარემოსთან (მაგ., vLLM, Ollama, llama.cpp): გამოიყენეთ შესაბამისი პროექტის issue tracker, ფორუმები ან მხარდაჭერის პროცესი.
OpenAI არ უზრუნველყოფს დახმარებას, პრაქტიკულ დანერგვას ან გამართვის მხარდაჭერას თვითჰოსტირებულ ან მესამე მხარის მიერ ჰოსტირებულ ღია წონების დაყენებებისთვის, კონფიგურაციებისთვის, გარემოებისთვის ან აპლიკაციებისთვის.
ჩვენ გავაგრძელებთ საზოგადოებასთან ერთად მუშაობას ღია უსაფრთხოების ინსტრუმენტების გასაუმჯობესებლად, მათ შორის ROOST Model Community-ის (RMC) მეშვეობით. RMC აერთიანებს უსაფრთხოების სპეციალისტებსა და მკვლევრებს, რათა გააზიარონ საუკეთესო პრაქტიკები ღია კოდის AI მოდელების უსაფრთხოების სამუშაო პროცესებში დასანერგად, მათ შორის შეფასების შედეგები და მოდელის უკუკავშირი. ამ პარტნიორობის შესახებ მეტის გასაგებად და ჩასართავად ეწვიეთ RMC GitHub რეპოზიტორიას.
მხარდაჭერა და საზოგადოება
ღია წონების განთავსებები თვითმართვადი და თვითმომსახურებადია. მხარდაჭერის მიღება შეგიძლიათ აქ:
კითხვები, განხილვა, რჩევები: საზოგადოებასთან დასაკავშირებლად გამოიყენეთ Hugging Face-ის მოდელის გვერდები.
რეპროდუცირებადი შეცდომები OpenAI-ის სარეფერენცო ინფერენციის კოდში: გახსენით issue gpt-oss-ის GitHub რეპოზიტორიაში.
პრობლემები მესამე მხარის გაშვების გარემოსთან (მაგ., vLLM, Ollama, llama.cpp): გამოიყენეთ შესაბამისი პროექტის issue tracker, ფორუმები ან მხარდაჭერის პროცესი.
OpenAI არ უზრუნველყოფს დახმარებას, პრაქტიკულ დანერგვას ან გამართვის მხარდაჭერას თვითჰოსტირებულ ან მესამე მხარის მიერ ჰოსტირებულ ღია წონების დაყენებებისთვის, კონფიგურაციებისთვის, გარემოებისთვის ან აპლიკაციებისთვის.
კონფიდენციალურობა და უსაფრთხოება
კონფიდენციალურობა და მონაცემები
ეს მოდელები შექმნილია თქვენს მიერ კონტროლირებულ ინფრასტრუქტურაზე გასაშვებად (შიდა ინფრასტრუქტურაში, თქვენს ღრუბელში ან ჰოსტინგ პარტნიორთან). OpenAI არ იღებს და არ ამუშავებს მონაცემებს, რომლებსაც ამ თვითჰოსტირებულ მოდელებს უგზავნით, თუ მათ პირდაპირ არ გაუზიარებთ OpenAI-ს ან არ გამოიყენებთ ჩვენს ერთ-ერთ მართულ ჰოსტინგ პარტნიორს.
უსაფრთხოება
ამ მოდელებმა გაიარა უსაფრთხოების ფართო ტრენინგი და ტესტირება. დამატებითი დეტალებისთვის იხილეთ ჩვენი მოდელის ბარათი და ტექნიკური ანგარიში.
კონტენტის დარღვევებზე შეტყობინება
თუ ფიქრობთ, რომ gpt‑oss მოდელებით გენერირებული კონტენტი არღვევს ჩვენს პოლიტიკებს, შეგიძლიათ ამის შესახებ შეგვატყობინოთ ჩვენი კონტენტის შეტყობინების ფორმის მეშვეობით. გთხოვთ, მოგვაწოდოთ რაც შეიძლება მეტი დეტალი, რათა ჩვენს გუნდს თქვენი განაცხადის განხილვაში დაეხმაროთ.
ხშირად დასმული კითხვები
უფასოა ეს მოდელები?
gpt-oss მოდელის წონების ჩამოტვირთვა და გამოყენება უფასოა Apache 2.0 ლიცენზიისა და gpt-oss-ის გამოყენების პოლიტიკის მიხედვით. თუმცა, თქვენ ხართ პასუხისმგებელი მათ გაშვებასთან დაკავშირებულ ნებისმიერ ხარჯზე — როგორიცაა გამოთვლითი რესურსები, საცავი ან მესამე მხარის ჰოსტინგის საფასური. ამ ხარჯების ფასი დამოკიდებული იქნება თქვენს არჩეულ ინფრასტრუქტურასა ან პროვაიდერზე.
არის ეს მოდელები „ღია კოდის“?
ჩვენ ვიყენებთ ტერმინებს open models ან ღია წონები, რათა აღვნიშნოთ, რომ გაწვრთნილი წონები საჯაროდ ხელმისაწვდომია ლიბერალური Apache 2.0 ლიცენზიისა და gpt-oss-ის გამოყენების პოლიტიკის ფარგლებში. ეს ნიშნავს, რომ შეგიძლიათ ჩამოტვირთოთ მოდელები, გაუშვათ ისინი საკუთარ ინფრასტრუქტურაზე ან მხარდაჭერილი ჰოსტინგის ჩარჩოებით და მოარგოთ ან დამატებით გაწვრთნათ ისინი.
Open models დეველოპერებსა და ორგანიზაციებს მეტ კონტროლსა და მოქნილობას აძლევს. შეგიძლიათ აირჩიოთ, სად უმასპინძლოთ, მოარგოთ მოდელები კონკრეტულ გამოყენების შემთხვევებს და ისარგებლოთ ლიცენზიით, რომელიც ფართო გამოყენებას, ცვლილებასა და ხელახალ გავრცელებას იძლევა. მიუხედავად იმისა, რომ გაწვრთნილი წონები ღიაა, ზოგიერთი მიმდებარე ინფრასტრუქტურა ან ინსტრუმენტი შეიძლება მათი პროვაიდერებისთვის საკუთრებად დარჩეს.
შემიძლია ამ მოდელებზე წვდომა OpenAI API-ის ან ChatGPT-ის მეშვეობით?
არა. ეს მოდელები OpenAI API-ში არ მიეწოდება და ChatGPT-ში არ ჩანს.
შემიძლია მოდელების დამატებით გაწვრთნა?
დიახ. დამატებითი გაწვრთნა შეგიძლიათ ღია კოდის ინსტრუმენტებითა და თქვენთვის სასურველი ინფრასტრუქტურით. ამ მოდელებისთვის OpenAI-ის API-ების მეშვეობით დამატებით გაწვრთნას არ ვთავაზობთ.
ღია წონების მოდელები API-ის გამოყენებაზე იაფია?
ხარჯები დამოკიდებულია ინფრასტრუქტურაზე, სამუშაო დატვირთვასა და საოპერაციო მიდგომაზე. თვითჰოსტირება ზოგ შემთხვევაში შეიძლება უფრო იაფი იყოს, ხოლო ჩვენი API Platform შეიძლება უფრო ეფექტიანი იყოს ჰოსტინგის, მოვლა-პატრონობისა და განახლებების გათვალისწინებით.
რა ფუნქციებს უჭერს მხარს ეს მოდელები?
ეს მოდელები ამჟამად მხოლოდ ტექსტური მსჯელობის მოდელებია. გავრცელებული გაშვების გარემოები მხარს უჭერს სტრიმინგს, ფუნქციის გამოძახებას და სტრუქტურირებულ შედეგებს. ზუსტი შესაძლებლობებისთვის შეამოწმეთ თქვენი გაშვების გარემოს დოკუმენტაცია.
რით განსხვავდება ეს ModAPI-სგან?
ეს არის ძალიან ძლიერი მსჯელობის მოდელი, რომელიც საკუთარი პოლიტიკის გამოყენების საშუალებას გაძლევთ. მას შეუძლია ModAPI-სთან ერთად მუშაობა, მაგრამ, სავარაუდოდ, დაბალი დაყოვნების გამოყენების შემთხვევებისთვის ჩანაცვლება არ იქნება.