Oversigt

Vi introducerer to open-weight-ræsonneringsmodeller: gpt‑oss‑120b og gpt‑oss‑20b. De kører på infrastruktur, du kontrollerer, eller via hostingudbydere.

Hvorfor open weights

• Valg og kontrol: Kør modeller on-premises eller i din private cloud, bevar dataresidens, og tilpas ydeevnen til dine behov.

• Tilpasning: Finjuster eller tilpas modellerne med dine foretrukne åbne værktøjer.

Tilgængelighed og licensering

• Licens: Apache 2.0 tillader bred brug, ændring og videredistribution, herunder kommerciel brug (underlagt vores gpt-oss-brugspolitik).

• Serving: Ikke tilgængelig via OpenAI API’et, så API-priser og brugsgrænser gælder ikke.

• Kompatibilitet: Kan køres med almindelige åbne inferensstakke som vLLM, Ollama, llama.cpp og i cloud- eller selvadministrerede GPU-miljøer.

Kom godt i gang

Sådan får du adgang til modelvægtene og de tilhørende ressourcer:

• Besøg gpt-oss-webstedet for at få et overblik og direkte links.

• Download vægtene fra samlingen på Hugging Face – et fællesskabsdrevet knudepunkt, hvor du kan finde begge modeller, se eksempler på brug og eventuelt køre inferens direkte via Hugging Faces tjenester.

• Gå til vores GitHub-repository for at se referencekode til inferens.

• Brug vejledningerne i OpenAI Recipes til opsætning med understøttede kørselmiljøer som Ollama, vLLM og Transformers. Recipes indeholder også trinvise vejledninger i lokal kørsel, brug af almindelige kørselmiljøer og – hvor det understøttes – finjustering af gpt-oss-modeller.

gpt‑oss‑safeguard (forskningsforhåndsvisning)

gpt‑oss‑safeguard er et par ræsonneringsmodeller med åbne vægte til sikkerhed, som er bygget oven på gpt‑oss. De er udviklet til politikbaseret sikkerhedsklassificering og relaterede tillids- og sikkerhedsopgaver, som du kører på infrastruktur, du selv kontrollerer. Som med andre gpt‑oss-modeller stilles disse vægte ikke til rådighed via OpenAI API eller ChatGPT.

• Modeller, der kun behandler tekst, med referenceskemaer til strukturerede outputs (f.eks. politikafgørelse og begrundelse).

• Brug din egen politik: Modellen fortolker din skriftlige politik, så den med minimal udviklingsindsats kan generalisere på tværs af produkter.

• Begrundede beslutninger: Valgfrie ræsonneringsspor, der letter fejlfinding og revision (beregnet til udviklere og sikkerhedseksperter, ikke til visning for slutbrugere).

• Konfigurerbar ræsonneringsindsats: Vælg Lav / Mellem / Høj for at afveje svartid mod dybde.

• Licens: Apache 2.0 (se Tilgængelighed og licensering nedenfor).

gpt‑oss‑safeguard er velegnet til filtrering af input og output for LLM'er, onlinemærkning af indhold samt offline batchmærkning eller arbejdsgange til gennemgang. Til generelle anvendelser (chat, agenter osv.) anbefaler vi de centrale gpt‑oss-modeller.

Du kan tilpasse skemaet efter dine behov. Se vejledninger og eksempler på udarbejdelse af prompts i OpenAI Cookbook.

Modelvarianter & størrelser

Begge modeller er finjusteret fra gpt‑oss uden ændring af arkitekturen. De bruger samme chatskabelon som gpt‑oss; du kan beholde din nuværende opsætning. Et anbefalet promptmønster er at placere din politik i en udviklermeddelelse og det indhold, der skal evalueres, i en brugermeddelelse.

Support og fællesskab

Open-weight-implementeringer administreres og serviceres af dig selv. Her kan du få support:

• Spørgsmål, diskussion, tips: Brug Hugging Face-modelsiderne til at engagere dig i fællesskabet.

• Reproducerbare fejl i OpenAI’s referencekode til inferens: Opret et issue i gpt-oss’ GitHub-repo.

• Problemer med en tredjepartsruntime (f.eks. vLLM, Ollama, llama.cpp): Brug det respektive projekts issue-tracker, fora eller supportproces.

OpenAI yder ikke assistance, praktisk implementering eller debugging-support til selvhostede eller tredjepartshostede open-weight-opsætninger, konfigurationer, miljøer eller applikationer.

Vi vil fortsætte med at iterere med fællesskabet for at forbedre åbne sikkerhedsværktøjer, blandt andet gennem ROOST Model Community (RMC). RMC samler sikkerhedsfolk og forskere for at dele best practices for implementering af open source-AI-modeller i sikkerhedsworkflows, herunder evalueringsresultater og modelfeedback. Besøg RMC GitHub-repoet for at få mere at vide om dette partnerskab, og hvordan du kan blive involveret.

Support og fællesskab

Open-weight-implementeringer administreres og serviceres af dig selv. Her kan du få support:

• Spørgsmål, diskussion, tips: Brug Hugging Face-modelsiderne til at engagere dig i fællesskabet.

• Reproducerbare fejl i OpenAI’s referencekode til inferens: Opret et issue i gpt-oss’ GitHub-repo.

• Problemer med en tredjepartsruntime (f.eks. vLLM, Ollama, llama.cpp): Brug det respektive projekts issue-tracker, fora eller supportproces.

OpenAI yder ikke assistance, praktisk implementering eller debugging-support til selvhostede eller tredjepartshostede open-weight-opsætninger, konfigurationer, miljøer eller applikationer.

Privatliv og sikkerhed

Privatliv og data

Disse modeller er designet til at køre på infrastruktur, du kontrollerer (on-premises eller hos din cloud- eller hostingpartner). OpenAI modtager eller behandler ikke de data, du sender til disse selvhostede modeller, medmindre du eksplicit deler dem med OpenAI eller bruger en af vores administrerede hostingpartnere.

Sikkerhed

Disse modeller gennemgik omfattende sikkerhedstræning og -test. Se vores modelkort og tekniske rapport for flere oplysninger.

Rapportering af indholdsovertrædelser

Hvis du mener, at indhold genereret med gpt‑oss-modeller overtræder vores politikker, kan du rapportere det via vores formular til rapportering af indhold. Angiv så mange detaljer som muligt for at hjælpe vores team med at gennemgå din indsendelse.

Ofte stillede spørgsmål

Er disse modeller gratis?

Modelvægtene for gpt-oss er gratis at downloade og bruge under Apache 2.0-licensen og gpt-oss' brugspolitik. Du er dog ansvarlig for alle omkostninger forbundet med at køre dem — såsom beregning, lager eller gebyrer til tredjepartshosting. Priserne for disse afhænger af din valgte infrastruktur eller udbyder.

Er disse modeller “open source”?

Vi bruger betegnelsen open models eller open-weight for at angive, at de trænede vægte er offentligt tilgængelige under den permissive Apache 2.0-licens og gpt-oss’ brugspolitik. Det betyder, at du kan downloade modellerne, køre dem på din egen infrastruktur eller med understøttede hostingframeworks og tilpasse eller finjustere dem.

Open models giver udviklere og organisationer større kontrol og fleksibilitet. Du kan vælge, hvor de skal hostes, tilpasse modellerne til specifikke use cases og drage fordel af licensering, der tillader bred brug, ændring og videredistribution. Selvom de trænede vægte er åbne, kan noget af den omgivende infrastruktur eller tooling forblive proprietær hos deres udbydere.

Kan jeg få adgang til disse modeller via OpenAI API’et eller ChatGPT?

Nej. Disse modeller leveres ikke i OpenAI API’et og vises ikke i ChatGPT.

Kan jeg finjustere modellerne?

Ja. Du kan finjustere med open source-værktøjer og din foretrukne infrastruktur. Vi tilbyder ikke finjustering via OpenAI API’er for disse modeller.

Er open-weight-modeller billigere end at bruge API’et?

Omkostninger varierer afhængigt af infrastruktur, arbejdsbelastning og driftsmetode. Selvhosting kan i nogle tilfælde være billigere, mens vores API-platform kan være mere effektiv, når man medregner hosting, vedligeholdelse og opgraderinger.

Hvilke funktioner understøtter disse modeller?

Disse modeller er i øjeblikket ræsonneringsmodeller kun til tekst. Almindelige runtimes understøtter streaming, funktionskald og strukturerede outputs. Tjek dokumentationen for din runtime for de præcise funktioner.

Hvordan adskiller dette sig fra ModAPI?

Dette er en meget kapabel ræsonneringsmodel, der giver dig mulighed for at medbringe din egen politik. Den kan arbejde sammen med ModAPI, men er sandsynligvis ikke en erstatning til use cases med lav latenstid.