Översikt

Vi presenterar två resonemangsmodeller med öppna vikter: gpt‑oss‑120b och gpt‑oss‑20b. De körs på infrastruktur du kontrollerar, eller via hosting-leverantörer.

Varför öppna vikter

• Valfrihet och kontroll: Kör modeller lokalt eller i ditt privata moln, behåll datahemvist och anpassa prestanda efter dina behov.

• Anpassning: Finjustera eller anpassa modellerna med dina föredragna öppna verktyg.

Tillgänglighet och licensiering

• Licens: Apache 2.0 tillåter bred användning, modifiering och vidaredistribution, inklusive kommersiell användning (med förbehåll för vår gpt-oss användningspolicy).

• Servering: Inte tillgänglig via OpenAI API, så API-priser och frekvensgränser gäller inte.

• Kompatibilitet: Kan köras med vanliga öppna inferensstackar som vLLM, Ollama, llama.cpp och i moln- eller självhanterade GPU-miljöer.

Kom igång

För att få modellvikterna och stödjande resurser kan du:

• Besök gpt-oss-webbplatsen för en översikt och direktlänkar.

• Ladda ned vikter från Hugging Face-samlingen — en community-hubb där du hittar båda modellerna, kan se användningsexempel och, om du vill, köra inferens direkt via Hugging Faces tjänster.

• Gå till vårt GitHub-repo för referenskod för inferens.

• Använd guider i OpenAI Cookbook för konfiguration med stödda runtimes som Ollama, vLLM och Transformers. Cookbook innehåller också stegvisa instruktioner för att köra lokalt, använda vanliga runtimes och – där det stöds – finjustera gpt‑oss-modeller.

gpt‑oss‑safeguard (forskningsförhandsvisning)

gpt‑oss‑safeguard är ett par säkerhetsresonemangsmodeller med öppna vikter byggda ovanpå gpt‑oss. De är utformade för policybaserad säkerhetsklassificering och relaterade uppgifter inom förtroende och säkerhet som du kör på infrastruktur du kontrollerar. Precis som andra gpt‑oss-modeller tillhandahålls dessa vikter inte via OpenAI API eller ChatGPT.

• Modeller endast för text med referensscheman för strukturerade utdata (t.ex. policyutslag, motivering).

• Ta med din egen policy: modellen tolkar din skrivna policy så att den kan generalisera över produkter med minimal engineering.

• Resonerade beslut: valfria resonemangsspår som stöd för felsökning och granskningar (avsedda för utvecklare och säkerhetsexperter, inte för visning för slutanvändare).

• Konfigurerbar resonemangsinsats: välj låg/medel/hög för att väga latens mot djup.

• Licens: Apache 2.0 (se Tillgänglighet och licensiering nedan).

gpt‑oss‑safeguard passar bra för in-/utdatafiltrering för LLM:er, märkning av onlineinnehåll och batchmärkning eller granskningsarbetsflöden offline. För allmänna tillämpningar (chatt, agenter osv.) rekommenderar vi de centrala gpt‑oss-modellerna.

Du kan anpassa schemat efter dina behov. Se OpenAI Cookbook för guider om prompting och exempel.

Modellvarianter och storlekar

Båda modellerna är finjusterade från gpt‑oss utan ändringar i arkitekturen. De använder samma chattmall som gpt‑oss; du kan behålla din befintliga konfiguration. Ett rekommenderat promptmönster är att placera din policy i ett utvecklarmeddelande och innehållet som ska utvärderas i ett användarmeddelande.

Support och community

Distributioner med öppna vikter hanteras och servas av dig själv. Här kan du få support:

• Frågor, diskussion, tips: Använd Hugging Face-modellsidorna för att engagera dig i communityn.

• Reproducerbara buggar i OpenAI:s referenskod för inferens: Öppna ett ärende i gpt-oss GitHub-repo.

• Problem med en tredjepartsruntime (t.ex. vLLM, Ollama, llama.cpp): Använd respektive projekts ärendehantering, forum eller supportprocess.

OpenAI tillhandahåller inte hjälp, praktisk implementering eller felsökningssupport för självhostade eller tredjepartshostade konfigurationer, miljöer eller appar med öppna vikter.

Vi fortsätter att iterera med communityn för att förbättra öppna säkerhetsverktyg, bland annat genom ROOST Model Community (RMC). RMC samlar säkerhetsexperter och forskare för att dela bästa praxis för att implementera AI-modeller med öppen källkod i säkerhetsarbetsflöden, inklusive utvärderingsresultat och modellfeedback. Besök RMC:s GitHub-repo om du vill veta mer om detta partnerskap och hur du kan engagera dig.

Support och community

Distributioner med öppna vikter hanteras och servas av dig själv. Här kan du få support:

• Frågor, diskussion, tips: Använd Hugging Face-modellsidorna för att engagera dig i communityn.

• Reproducerbara buggar i OpenAI:s referenskod för inferens: Öppna ett ärende i gpt-oss GitHub-repo.

• Problem med en tredjepartsruntime (t.ex. vLLM, Ollama, llama.cpp): Använd respektive projekts ärendehantering, forum eller supportprocess.

OpenAI tillhandahåller inte hjälp, praktisk implementering eller felsökningssupport för självhostade eller tredjepartshostade konfigurationer, miljöer eller appar med öppna vikter.

Integritet och säkerhet

Integritet och data

Dessa modeller är utformade för att köras på infrastruktur som du kontrollerar (lokalt eller i din moln- eller hostingpartners miljö). OpenAI tar inte emot eller behandlar de data du skickar till dessa självhostade modeller, såvida du inte uttryckligen delar dem med OpenAI eller använder någon av våra hanterade hostingpartner.

Säkerhet

Dessa modeller genomgick omfattande säkerhetsträning och testning. Mer information finns i vårt modellkort och vår tekniska rapport.

Rapportera innehållsöverträdelser

Om du anser att innehåll som genererats med gpt‑oss-modeller bryter mot våra policyer kan du rapportera det via vårt formulär för innehållsrapportering. Ange så många detaljer som möjligt för att hjälpa vårt team att granska din inskickade rapport.

Vanliga frågor

Är dessa modeller kostnadsfria?

gpt-oss-modellvikterna är kostnadsfria att ladda ned och använda under Apache 2.0-licensen och gpt-oss användningspolicy. Du ansvarar dock för eventuella kostnader som är förknippade med att köra dem – till exempel beräkning, lagring eller avgifter för tredjepartshosting. Priserna för detta beror på din valda infrastruktur eller leverantör.

Är de här modellerna ”öppen källkod”?

Vi använder termen öppna modeller eller öppna vikter för att ange att de tränade vikterna är offentligt tillgängliga under den tillåtande Apache 2.0-licensen och gpt-oss användningspolicy. Det innebär att du kan ladda ned modellerna, köra dem på din egen infrastruktur eller med stödda hostingramverk och anpassa eller finjustera dem.

Öppna modeller ger utvecklare och organisationer större kontroll och flexibilitet. Du kan välja var du vill hosta, anpassa modellerna för specifika användningsfall och dra nytta av licensiering som tillåter bred användning, modifiering och vidaredistribution. Även om de tränade vikterna är öppna kan viss omgivande infrastruktur eller verktyg förbli proprietära hos sina leverantörer.

Kan jag komma åt dessa modeller via OpenAI API eller ChatGPT?

Nej. Dessa modeller tillhandahålls inte i OpenAI API och visas inte i ChatGPT.

Kan jag finjustera modellerna?

Ja. Du kan finjustera med verktyg med öppen källkod och din föredragna infrastruktur. Vi erbjuder inte finjustering via OpenAI API:er för dessa modeller.

Är modeller med öppna vikter billigare än att använda API:t?

Kostnaderna varierar beroende på infrastruktur, arbetsbelastning och driftsätt. Självhosting kan i vissa fall vara billigare, medan vår API Platform kan vara mer effektiv när man räknar in hosting, underhåll och uppgraderingar.

Vilka funktioner stöder dessa modeller?

Dessa modeller är för närvarande resonemangsmodeller endast för text. Vanliga runtimes stöder streaming, funktionsanrop och strukturerade utdata. Kontrollera dokumentationen för din runtime för exakta funktioner.

Hur skiljer sig detta från ModAPI?

Detta är en mycket kapabel resonemangsmodell som låter dig ta med din egen policy. Den kan fungera tillsammans med ModAPI, men är sannolikt inte en ersättning för användningsfall med låg latens.