Přehled

Představujeme dva modely s uvažováním a otevřenými vahami: gpt‑oss‑120b a gpt‑oss‑20b. Běží na infrastruktuře, kterou řídíte, nebo prostřednictvím poskytovatelů hostingu.

Proč otevřené váhy

• Volba a kontrola: Spouštějte modely on‑premises nebo ve svém privátním cloudu, zachovejte datovou rezidenci a přizpůsobte výkon svým potřebám.

• Přizpůsobení: Dolaďujte nebo přizpůsobujte modely pomocí vámi preferovaných otevřených nástrojů.

Dostupnost a licencování

• Licence: Apache 2.0 umožňuje široké použití, úpravy a redistribuci, včetně komerčního použití (s výhradou našich zásad použití gpt-oss).

• Poskytování: Není dostupné prostřednictvím OpenAI API, takže ceny API ani limity frekvence požadavků se neuplatňují.

• Kompatibilita: Lze spouštět s běžnými otevřenými inferenčními stacky, jako jsou vLLM, Ollama, llama.cpp, a v cloudových nebo samostatně spravovaných prostředích s GPU.

Začínáme

Váhy modelu a doprovodné materiály můžete získat takto:

• Přehled a přímé odkazy najdete na webu gpt-oss.

• Stáhněte si váhy z kolekce na Hugging Face – komunitním portálu, kde najdete oba modely a příklady použití a kde můžete také volitelně spustit inferenci přímo prostřednictvím služeb Hugging Face.

• Referenční kód pro inferenci najdete v našem repozitáři na GitHubu.

• K nastavení v podporovaných běhových prostředích, jako jsou Ollama, vLLM a Transformers, použijte návody v Receptech OpenAI. Recepty obsahují také podrobné pokyny ke spuštění v místním prostředí, používání běžných běhových prostředí a – tam, kde je to podporováno – dolaďování modelů gpt-oss.

gpt‑oss‑safeguard (výzkumná verze)

gpt‑oss‑safeguard je dvojice bezpečnostních modelů s otevřenými vahami a uvažováním založených na gpt‑oss. Jsou navrženy pro klasifikaci bezpečnosti podle zásad a související úlohy v oblasti důvěryhodnosti & bezpečnosti, které provozujete ve vlastní infrastruktuře. Stejně jako u ostatních modelů gpt‑oss nejsou tyto váhy poskytovány prostřednictvím OpenAI API ani ChatGPT.

• Modely pracující pouze s textem s referenčními schématy strukturovaných výstupů (např. rozhodnutí podle zásad, odůvodnění).

• Použijte vlastní zásady: model vaše písemné zásady interpretuje, takže je lze s minimálními technickými úpravami zobecnit napříč produkty.

• Odůvodněná rozhodnutí: volitelné záznamy uvažování usnadňují ladění a audity (jsou určeny vývojářům a odborníkům na bezpečnost, nikoli k zobrazování koncovým uživatelům).

• Nastavitelná míra uvažování: volbou Nízká / Střední / Vysoká můžete vyvážit latenci a hloubku.

• Licence: Apache 2.0 (viz část Dostupnost a licencování níže).

gpt‑oss‑safeguard se dobře hodí k filtrování vstupů a výstupů LLM, online označování obsahu a offline dávkovému označování nebo postupům kontroly. Pro obecné aplikace (chat, agenty apod.) doporučujeme základní modely gpt‑oss.

Schéma si můžete přizpůsobit podle svých potřeb. Návody k zadávání promptů a příklady najdete v Kuchařce OpenAI.

Varianty a velikosti modelů

Oba modely jsou doladěny z gpt‑oss beze změny architektury. Používají stejnou chatovací šablonu jako gpt‑oss; stávající nastavení můžete ponechat. Doporučený vzor promptování je umístit vaše zásady do zprávy vývojáře a obsah k vyhodnocení do zprávy uživatele.

Podpora a komunita

Nasazení s otevřenými vahami si spravujete a obsluhujete sami. Podporu získáte zde:

• Otázky, diskuse, tipy: Ke komunikaci s komunitou použijte stránky modelů na Hugging Face.

• Reprodukovatelné chyby v referenčním inferenčním kódu OpenAI: Otevřete issue v repozitáři GitHub gpt-oss.

• Problémy s runtime třetí strany (např. vLLM, Ollama, llama.cpp): Použijte tracker issues, fóra nebo proces podpory příslušného projektu.

OpenAI neposkytuje asistenci, praktickou implementaci ani podporu ladění pro žádná self‑hostovaná nebo třetí stranou hostovaná nastavení, konfigurace, prostředí či aplikace s otevřenými vahami.

Budeme dál iterovat s komunitou na zlepšování otevřených bezpečnostních nástrojů, mimo jiné prostřednictvím ROOST Model Community (RMC). RMC sdružuje bezpečnostní specialisty a výzkumníky, aby sdíleli osvědčené postupy pro implementaci open source AI modelů do bezpečnostních pracovních postupů, včetně výsledků hodnocení a zpětné vazby k modelům. Navštivte repozitář RMC na GitHubu, kde se dozvíte více o tomto partnerství a možnostech zapojení.

Podpora a komunita

Nasazení s otevřenými vahami si spravujete a obsluhujete sami. Podporu získáte zde:

• Otázky, diskuse, tipy: Ke komunikaci s komunitou použijte stránky modelů na Hugging Face.

• Reprodukovatelné chyby v referenčním inferenčním kódu OpenAI: Otevřete issue v repozitáři GitHub gpt-oss.

• Problémy s runtime třetí strany (např. vLLM, Ollama, llama.cpp): Použijte tracker issues, fóra nebo proces podpory příslušného projektu.

OpenAI neposkytuje asistenci, praktickou implementaci ani podporu ladění pro žádná self‑hostovaná nebo třetí stranou hostovaná nastavení, konfigurace, prostředí či aplikace s otevřenými vahami.

Soukromí a bezpečnost

Soukromí a data

Tyto modely jsou navrženy tak, aby běžely na infrastruktuře, kterou řídíte (on‑premises, ve vašem cloudu nebo u hostingového partnera). OpenAI nepřijímá ani nezpracovává data, která těmto self‑hostovaným modelům posíláte, pokud je s OpenAI výslovně nesdílíte nebo nepoužijete některého z našich spravovaných hostingových partnerů.

Bezpečnost

Tyto modely prošly rozsáhlým bezpečnostním tréninkem a testováním. Další podrobnosti najdete v naší kartě modelu a technické zprávě.

Nahlášení porušení pravidel obsahu

Pokud se domníváte, že obsah vygenerovaný pomocí modelů gpt‑oss porušuje naše zásady, můžete jej nahlásit prostřednictvím našeho formuláře pro nahlášení obsahu. Uveďte prosím co nejvíce podrobností, abyste našemu týmu pomohli vaše podání posoudit.

Časté dotazy

Jsou tyto modely zdarma?

Váhy modelů gpt-oss lze zdarma stáhnout a používat podle licence Apache 2.0 a podle zásad používání pro gpt-oss. Nesete však odpovědnost za veškeré náklady spojené s jejich provozem — například za výpočetní prostředky, úložiště nebo poplatky za hosting u třetích stran. Jejich cena bude záviset na vámi zvolené infrastruktuře nebo poskytovateli.

Jsou tyto modely „open source“?

Termín open modely nebo s otevřenými vahami používáme k označení toho, že natrénované váhy jsou veřejně dostupné pod permisivní licencí Apache 2.0 a zásadami použití gpt-oss. To znamená, že si modely můžete stáhnout, spouštět je na vlastní infrastruktuře nebo s podporovanými hostingovými frameworky a upravovat či dolaďovat je.

Open modely dávají vývojářům a organizacím větší kontrolu a flexibilitu. Můžete si vybrat, kde je hostovat, přizpůsobit modely konkrétním případům použití a využít licenci umožňující široké použití, úpravy a redistribuci. Přestože jsou natrénované váhy otevřené, některá okolní infrastruktura nebo nástroje mohou zůstat proprietární pro své poskytovatele.

Mohu k těmto modelům přistupovat přes OpenAI API nebo ChatGPT?

Ne. Tyto modely nejsou poskytovány v OpenAI API a nezobrazují se v ChatGPT.

Mohu modely dolaďovat?

Ano. Dolaďování můžete provádět pomocí open‑source nástrojů a vámi preferované infrastruktury. U těchto modelů nenabízíme dolaďování prostřednictvím API OpenAI.

Jsou modely s otevřenými vahami levnější než použití API?

Náklady se liší podle infrastruktury, zátěže a provozního přístupu. Self‑hosting může být v některých případech levnější, zatímco naše API Platform může být efektivnější po započtení hostingu, údržby a upgradů.

Jaké funkce tyto modely podporují?

Tyto modely jsou v současnosti pouze textové modely s uvažováním. Běžné runtime podporují streamování, volání funkce a strukturované výstupy. Přesné možnosti najdete v dokumentaci svého runtime.

Jak se to liší od ModAPI?

Jde o vysoce schopný model s uvažováním, který vám umožňuje přinést si vlastní zásady. Může fungovat společně s ModAPI, ale pravděpodobně nenahrazuje případy použití s nízkou latencí.