Oversigt

Vi introducerer to open-weight-ræsonneringsmodeller: gpt‑oss‑120b og gpt‑oss‑20b. De kører på infrastruktur, du kontrollerer, eller via hostingudbydere.

Hvorfor open weights

• Valg og kontrol: Kør modeller on-premises eller i din private cloud, bevar dataresidens, og tilpas ydeevnen til dine behov.

• Tilpasning: Finjuster eller tilpas modellerne med dine foretrukne åbne værktøjer.

Tilgængelighed og licensering

• Licens: Apache 2.0 tillader bred brug, ændring og videredistribution, herunder kommerciel brug (underlagt vores gpt-oss-brugspolitik).

• Serving: Ikke tilgængelig via OpenAI API’et, så API-priser og brugsgrænser gælder ikke.

• Kompatibilitet: Kan køres med almindelige åbne inferensstakke som vLLM, Ollama, llama.cpp og i cloud- eller selvadministrerede GPU-miljøer.

Kom i gang

For at få modelvægtene og understøttende ressourcer kan du:

• Besøg gpt-oss-websitet for en oversigt og direkte links.

• Download vægte fra Hugging Face-samlingen — et fællesskabshub, hvor du kan finde begge modeller, se brugseksempler og eventuelt køre inferens direkte via Hugging Face’s tjenester.

• Få adgang til vores GitHub-repo for referencekode til inferens.

• Brug vejledninger i OpenAI Cookbook til opsætning med understøttede runtimes som Ollama, vLLM og Transformers. Cookbook indeholder også trinvise instruktioner til at køre lokalt, bruge almindelige runtimes og — hvor det understøttes — finjustere gpt‑oss-modeller.

gpt‑oss‑safeguard (forskningspreview)

gpt‑oss‑safeguard er et par open-weight-sikkerhedsræsonneringsmodeller bygget oven på gpt‑oss. De er designet til politikbaseret sikkerhedsklassificering og relaterede trust & safety-opgaver, som du kører på infrastruktur, du kontrollerer. Ligesom andre gpt‑oss-modeller leveres disse vægte ikke via OpenAI API’et eller ChatGPT.

• Kun tekst-modeller med referenceskemaer for strukturerede outputs (f.eks. politikafgørelse, begrundelse).

• Medbring din egen politik: modellen fortolker din skriftlige politik, så den kan generalisere på tværs af produkter med minimal engineering.

• Ræsonnerede beslutninger: valgfrie ræsonneringsspor til hjælp ved debugging og audits (beregnet til udviklere og sikkerhedsfolk, ikke til visning for slutbrugere).

• Konfigurerbar ræsonneringsindsats: vælg lav / medium / høj for at afveje latenstid mod dybde.

• Licens: Apache 2.0 (se Tilgængelighed og licensering nedenfor).

gpt‑oss‑safeguard egner sig godt til input-/outputfiltrering for LLM’er, mærkning af onlineindhold og offline batchmærkning eller gennemgangsworkflows. Til generelle applikationer (chat, agenter osv.) anbefaler vi de centrale gpt‑oss-modeller.

Du kan tilpasse skemaet til dine behov. Se OpenAI Cookbook for vejledninger om prompting og eksempler.

Modelvarianter & størrelser

Begge modeller er finjusteret fra gpt‑oss uden ændring af arkitekturen. De bruger samme chatskabelon som gpt‑oss; du kan beholde din nuværende opsætning. Et anbefalet promptmønster er at placere din politik i en udviklermeddelelse og det indhold, der skal evalueres, i en brugermeddelelse.

Support og fællesskab

Open-weight-implementeringer administreres og serviceres af dig selv. Her kan du få support:

• Spørgsmål, diskussion, tips: Brug Hugging Face-modelsiderne til at engagere dig i fællesskabet.

• Reproducerbare fejl i OpenAI’s referencekode til inferens: Opret et issue i gpt-oss’ GitHub-repo.

• Problemer med en tredjepartsruntime (f.eks. vLLM, Ollama, llama.cpp): Brug det respektive projekts issue-tracker, fora eller supportproces.

OpenAI yder ikke assistance, praktisk implementering eller debugging-support til selvhostede eller tredjepartshostede open-weight-opsætninger, konfigurationer, miljøer eller applikationer.

Vi vil fortsætte med at iterere med fællesskabet for at forbedre åbne sikkerhedsværktøjer, blandt andet gennem ROOST Model Community (RMC). RMC samler sikkerhedsfolk og forskere for at dele best practices for implementering af open source-AI-modeller i sikkerhedsworkflows, herunder evalueringsresultater og modelfeedback. Besøg RMC GitHub-repoet for at få mere at vide om dette partnerskab, og hvordan du kan blive involveret.

Support og fællesskab

Open-weight-implementeringer administreres og serviceres af dig selv. Her kan du få support:

• Spørgsmål, diskussion, tips: Brug Hugging Face-modelsiderne til at engagere dig i fællesskabet.

• Reproducerbare fejl i OpenAI’s referencekode til inferens: Opret et issue i gpt-oss’ GitHub-repo.

• Problemer med en tredjepartsruntime (f.eks. vLLM, Ollama, llama.cpp): Brug det respektive projekts issue-tracker, fora eller supportproces.

OpenAI yder ikke assistance, praktisk implementering eller debugging-support til selvhostede eller tredjepartshostede open-weight-opsætninger, konfigurationer, miljøer eller applikationer.

Privatliv og sikkerhed

Privatliv og data

Disse modeller er designet til at køre på infrastruktur, du kontrollerer (on-premises eller hos din cloud- eller hostingpartner). OpenAI modtager eller behandler ikke de data, du sender til disse selvhostede modeller, medmindre du eksplicit deler dem med OpenAI eller bruger en af vores administrerede hostingpartnere.

Sikkerhed

Disse modeller gennemgik omfattende sikkerhedstræning og -test. Se vores modelkort og tekniske rapport for flere oplysninger.

Rapportering af indholdsovertrædelser

Hvis du mener, at indhold genereret med gpt‑oss-modeller overtræder vores politikker, kan du rapportere det via vores formular til rapportering af indhold. Angiv så mange detaljer som muligt for at hjælpe vores team med at gennemgå din indsendelse.

Ofte stillede spørgsmål

Er disse modeller gratis?

Modelvægtene for gpt-oss er gratis at downloade og bruge under Apache 2.0-licensen og gpt-oss' brugspolitik. Du er dog ansvarlig for alle omkostninger forbundet med at køre dem — såsom beregning, lager eller gebyrer til tredjepartshosting. Priserne for disse afhænger af din valgte infrastruktur eller udbyder.

Er disse modeller “open source”?

Vi bruger betegnelsen open models eller open-weight for at angive, at de trænede vægte er offentligt tilgængelige under den permissive Apache 2.0-licens og gpt-oss’ brugspolitik. Det betyder, at du kan downloade modellerne, køre dem på din egen infrastruktur eller med understøttede hostingframeworks og tilpasse eller finjustere dem.

Open models giver udviklere og organisationer større kontrol og fleksibilitet. Du kan vælge, hvor de skal hostes, tilpasse modellerne til specifikke use cases og drage fordel af licensering, der tillader bred brug, ændring og videredistribution. Selvom de trænede vægte er åbne, kan noget af den omgivende infrastruktur eller tooling forblive proprietær hos deres udbydere.

Kan jeg få adgang til disse modeller via OpenAI API’et eller ChatGPT?

Nej. Disse modeller leveres ikke i OpenAI API’et og vises ikke i ChatGPT.

Kan jeg finjustere modellerne?

Ja. Du kan finjustere med open source-værktøjer og din foretrukne infrastruktur. Vi tilbyder ikke finjustering via OpenAI API’er for disse modeller.

Er open-weight-modeller billigere end at bruge API’et?

Omkostninger varierer afhængigt af infrastruktur, arbejdsbelastning og driftsmetode. Selvhosting kan i nogle tilfælde være billigere, mens vores API-platform kan være mere effektiv, når man medregner hosting, vedligeholdelse og opgraderinger.

Hvilke funktioner understøtter disse modeller?

Disse modeller er i øjeblikket ræsonneringsmodeller kun til tekst. Almindelige runtimes understøtter streaming, funktionskald og strukturerede outputs. Tjek dokumentationen for din runtime for de præcise funktioner.

Hvordan adskiller dette sig fra ModAPI?

Dette er en meget kapabel ræsonneringsmodel, der giver dig mulighed for at medbringe din egen politik. Den kan arbejde sammen med ModAPI, men er sandsynligvis ikke en erstatning til use cases med lav latenstid.