Prehľad

Predstavujeme dva uvažovacie modely s otvorenými váhami: gpt‑oss‑120b a gpt‑oss‑20b. Bežia na infraštruktúre, ktorú ovládate, alebo cez poskytovateľov hostingu.

Prečo otvorené váhy

• Voľba a kontrola: Spúšťajte modely lokálne alebo vo svojom súkromnom cloude, zachovajte rezidenciu údajov a prispôsobte výkon svojim potrebám.

• Prispôsobenie: Dolaďte alebo prispôsobte modely pomocou preferovaných otvorených nástrojov.

Dostupnosť a licencovanie

• Licencia: Apache 2.0 umožňuje široké používanie, úpravy a redistribúciu vrátane komerčného použitia (v súlade s našimi zásadami používania gpt-oss).

• Poskytovanie: Nie sú dostupné cez OpenAI API, takže ceny API a limity požiadaviek sa neuplatňujú.

• Kompatibilita: Možno ich spúšťať s bežnými otvorenými inferenčnými stackmi, ako sú vLLM, Ollama, llama.cpp, a v cloudových alebo vlastne spravovaných GPU prostrediach.

Začíname

Váhy modelov a podporné zdroje môžete získať týmito spôsobmi:

• Prehľad a priame odkazy nájdete na webovej lokalite gpt-oss.

• Váhy si stiahnite z kolekcie Hugging Face – komunitného centra, kde nájdete oba modely a príklady použitia a kde môžete voliteľne spustiť inferenciu priamo prostredníctvom služieb Hugging Face.

• Referenčný kód na inferenciu nájdete v našom repozitári na GitHube.

• Pri nastavovaní s podporovanými behovými prostrediami, ako sú Ollama, vLLM a Transformers, postupujte podľa návodov v Receptoch OpenAI. Recepty obsahujú aj podrobné pokyny na lokálne spustenie, používanie bežných behovových prostredí a – tam, kde je to podporované – dolaďovanie modelov gpt-oss.

gpt‑oss‑safeguard (výskumná ukážka)

gpt‑oss‑safeguard je dvojica bezpečnostných uvažovacích modelov s otvorenými váhami postavených na gpt‑oss. Sú určené na klasifikáciu bezpečnosti podľa pravidiel a súvisiace úlohy v oblasti dôveryhodnosti & bezpečnosti, ktoré spúšťate na infraštruktúre pod svojou kontrolou. Podobne ako pri ostatných modeloch gpt‑oss ani tieto váhy nie sú poskytované cez OpenAI API ani ChatGPT.

• Modely pracujúce iba s textom s referenčnými schémami štruktúrovaných výstupov (napr. verdikt podľa pravidiel, odôvodnenie).

• Použite vlastné pravidlá: model interpretuje vaše písomné pravidlá, takže ich možno s minimálnym technickým úsilím zovšeobecniť naprieč produktmi.

• Odôvodnené rozhodnutia: voliteľné záznamy uvažovania pomáhajú pri ladení a auditoch (sú určené vývojárom a odborníkom na bezpečnosť, nie na zobrazenie koncovým používateľom).

• Konfigurovateľné úsilie pri uvažovaní: vyberte úroveň Nízka / Stredná / Vysoká podľa požadovaného pomeru medzi latenciou a hĺbkou.

• Licencia: Apache 2.0 (pozrite si časť Dostupnosť a licencovanie nižšie).

gpt‑oss‑safeguard je vhodný na filtrovanie vstupov a výstupov LLM, označovanie online obsahu a pracovné postupy dávkového označovania alebo kontroly offline. Na všeobecné použitie (chat, agenti atď.) odporúčame základné modely gpt‑oss.

Schému si môžete prispôsobiť podľa svojich potrieb. Návody na zadávanie pokynov a príklady nájdete v OpenAI Cookbook.

Varianty modelov a veľkosť

Oba modely sú doladené z gpt‑oss bez zmeny architektúry. Používajú rovnakú šablónu chatu ako gpt‑oss; existujúce nastavenie si môžete ponechať. Odporúčaný vzor príkazu je umiestniť vaše zásady do správy vývojára a obsah na vyhodnotenie do správy používateľa.

Podpora a komunita

Nasadenia s otvorenými váhami si spravujete a obsluhujete sami. Podporu získate tu:

• Otázky, diskusia, tipy: Na zapojenie do komunity použite stránky modelov na Hugging Face.

• Reprodukovateľné chyby v referenčnom inferenčnom kóde OpenAI: Otvorte issue v repozitári GitHub pre gpt-oss.

• Problémy s runtime prostredím tretej strany (napr. vLLM, Ollama, llama.cpp): Použite sledovanie problémov, fóra alebo proces podpory príslušného projektu.

OpenAI neposkytuje pomoc, praktickú implementáciu ani podporu pri ladení pre žiadne self‑hostované alebo treťou stranou hostované nastavenia, konfigurácie, prostredia či aplikácie s otvorenými váhami.

Budeme pokračovať v iteráciách s komunitou s cieľom zlepšovať otvorené bezpečnostné nástroje, a to aj prostredníctvom ROOST Model Community (RMC). RMC spája bezpečnostných odborníkov a výskumníkov, aby zdieľali osvedčené postupy pri implementácii open source AI modelov do bezpečnostných pracovných postupov vrátane výsledkov hodnotení a spätnej väzby k modelom. Navštívte repozitár RMC na GitHub, kde sa dozviete viac o tomto partnerstve a o tom, ako sa zapojiť.

Podpora a komunita

Nasadenia s otvorenými váhami si spravujete a obsluhujete sami. Podporu získate tu:

• Otázky, diskusia, tipy: Na zapojenie do komunity použite stránky modelov na Hugging Face.

• Reprodukovateľné chyby v referenčnom inferenčnom kóde OpenAI: Otvorte issue v repozitári GitHub pre gpt-oss.

• Problémy s runtime prostredím tretej strany (napr. vLLM, Ollama, llama.cpp): Použite sledovanie problémov, fóra alebo proces podpory príslušného projektu.

OpenAI neposkytuje pomoc, praktickú implementáciu ani podporu pri ladení pre žiadne self‑hostované alebo treťou stranou hostované nastavenia, konfigurácie, prostredia či aplikácie s otvorenými váhami.

Súkromie a bezpečnosť

Súkromie a údaje

Tieto modely sú navrhnuté tak, aby bežali na infraštruktúre, ktorú ovládate (lokálne alebo vo vašom cloude či u hostingového partnera). OpenAI neprijíma ani nespracúva údaje, ktoré odosielate týmto self‑hostovaným modelom, pokiaľ ich výslovne nezdieľate s OpenAI alebo nepoužijete jedného z našich spravovaných hostingových partnerov.

Bezpečnosť

Tieto modely prešli rozsiahlym bezpečnostným tréningom a testovaním. Ďalšie podrobnosti nájdete v našej karte modelu a technickej správe.

Nahlasovanie porušení týkajúcich sa obsahu

Ak sa domnievate, že obsah vygenerovaný modelmi gpt‑oss porušuje naše zásady, môžete ho nahlásiť prostredníctvom nášho formulára na nahlásenie obsahu. Uveďte čo najviac podrobností, aby náš tím mohol vaše podanie posúdiť.

Časté otázky

Sú tieto modely bezplatné?

Váhy modelov gpt-oss si môžete bezplatne stiahnuť a používať na základe licencie Apache 2.0 a zásad používania gpt-oss. Zodpovedáte však za všetky náklady spojené s ich prevádzkou — napríklad výpočtový výkon, úložisko alebo poplatky za hosting tretej strany. Ceny budú závisieť od zvolenej infraštruktúry alebo poskytovateľa.

Sú tieto modely „s otvoreným zdrojovým kódom“?

Používame pojem otvorené modely alebo s otvorenými váhami na označenie toho, že natrénované váhy sú verejne dostupné na základe permisívnej licencie Apache 2.0 a zásad používania gpt-oss. To znamená, že si modely môžete stiahnuť, spúšťať ich na vlastnej infraštruktúre alebo s podporovanými hostingovými rámcami a prispôsobiť alebo doladiť ich.

Otvorené modely poskytujú vývojárom a organizáciám väčšiu kontrolu a flexibilitu. Môžete si vybrať, kde ich budete hostovať, prispôsobiť modely konkrétnym prípadom použitia a využiť licencovanie, ktoré umožňuje široké používanie, úpravy a redistribúciu. Hoci sú natrénované váhy otvorené, časť okolitej infraštruktúry alebo nástrojov môže zostať proprietárna pre ich poskytovateľov.

Môžem k týmto modelom pristupovať cez OpenAI API alebo ChatGPT?

Nie. Tieto modely sa neposkytujú v OpenAI API a nezobrazujú sa v ChatGPT.

Môžem modely doladiť?

Áno. Dolaďovať môžete pomocou open‑source nástrojov a preferovanej infraštruktúry. Pre tieto modely neponúkame dolaďovanie cez OpenAI API.

Sú modely s otvorenými váhami lacnejšie než používanie API?

Náklady sa líšia podľa infraštruktúry, pracovného zaťaženia a prevádzkového prístupu. Self‑hosting môže byť v niektorých prípadoch lacnejší, zatiaľ čo naša API Platform môže byť efektívnejšia, ak zohľadníte hosting, údržbu a inovácie.

Aké funkcie tieto modely podporujú?

Tieto modely sú momentálne iba textové uvažovacie modely. Bežné runtime prostredia podporujú streamovanie, volanie funkcie a štruktúrované výstupy. Presné možnosti si overte v dokumentácii svojho runtime prostredia.

Ako sa to líši od ModAPI?

Ide o veľmi schopný uvažovací model, ktorý vám umožňuje priniesť si vlastné zásady. Môže fungovať v súčinnosti s ModAPI, ale pravdepodobne nenahradí prípady použitia s nízkou latenciou.