Overzicht

Introductie van twee open‑weight redenerende modellen: gpt‑oss‑120b en gpt‑oss‑20b. Ze draaien op infrastructuur die je beheert, of via hostingproviders.

Waarom open-weights

• Keuze en controle: draai modellen on‑premises of in je private cloud, behoud gegevensresidentie en stem prestaties af op je behoeften.

• Aanpassing: fine‑tune of pas de modellen aan met je favoriete open tooling.

Beschikbaarheid en licenties

• Licentie: Apache 2.0 staat breed gebruik, aanpassing en herdistributie toe, inclusief commercieel gebruik (onder voorbehoud van ons gpt-oss gebruiksbeleid).

• Serving: niet beschikbaar via de OpenAI API, dus API-prijzen en volumelimieten zijn niet van toepassing.

• Compatibiliteit: kan worden uitgevoerd met gangbare open inferentiestacks zoals vLLM, Ollama, llama.cpp, en in cloud- of zelfbeheerde GPU-omgevingen.

Aan de slag

Zo krijgt u de modelgewichten en ondersteunende middelen:

• Ga naar de gpt-oss-website voor een overzicht en directe links.

• Download de gewichten uit de Hugging Face-collectie — een communityplatform waar u beide modellen en gebruiksvoorbeelden vindt en desgewenst rechtstreeks via de diensten van Hugging Face inferentie kunt uitvoeren.

• Bekijk onze GitHub-repository voor referentiecode voor inferentie.

• Gebruik de handleidingen in OpenAI Recipes om alles in te stellen met ondersteunde runtimes zoals Ollama, vLLM en Transformers. OpenAI Recipes bevat ook stapsgewijze instructies voor lokaal gebruik, het werken met veelgebruikte runtimes en — waar ondersteund — het finetunen van gpt-oss-modellen.

gpt‑oss‑safeguard (onderzoekspreview)

gpt‑oss‑safeguard bestaat uit twee redenerende veiligheidsmodellen met open gewichten, gebouwd op gpt‑oss. Ze zijn ontworpen voor veiligheidsclassificatie op basis van beleid en aanverwante taken voor vertrouwen & veiligheid die je uitvoert op infrastructuur die je zelf beheert. Net als bij andere gpt‑oss-modellen worden deze gewichten niet aangeboden via de OpenAI API of ChatGPT.

• Modellen die uitsluitend tekst verwerken, met referentieschema's voor gestructureerde output (zoals een beleidsoordeel en onderbouwing).

• Gebruik je eigen beleid: het model interpreteert je geschreven beleid, zodat het met minimale technische aanpassingen voor verschillende producten kan worden ingezet.

• Onderbouwde beslissingen: optionele redeneringssporen ondersteunen foutopsporing en audits (bedoeld voor ontwikkelaars en veiligheidsprofessionals, niet voor weergave aan eindgebruikers).

• Instelbare redeneerinspanning: kies Laag / Gemiddeld / Hoog om latentie en diepgang tegen elkaar af te wegen.

• Licentie: Apache 2.0 (zie Beschikbaarheid en licenties hieronder).

gpt‑oss‑safeguard is zeer geschikt voor het filteren van invoer en uitvoer voor LLM's, het online labelen van content en workflows voor offline batchlabeling of beoordeling. Voor algemene toepassingen (chat, agents enzovoort) raden we de belangrijkste gpt‑oss-modellen aan.

Je kunt het schema aan je behoeften aanpassen. Raadpleeg het OpenAI Cookbook voor handleidingen over het schrijven van prompts en voor voorbeelden.

Modelvarianten & grootte

Beide modellen zijn vanuit gpt‑oss gefine‑tuned zonder architectuurwijziging. Ze gebruiken dezelfde chatsjabloon als gpt‑oss; je kunt je bestaande setup behouden. Een aanbevolen promptingpatroon is om je beleid in een ontwikkelaarsbericht te plaatsen en de te beoordelen content in een gebruikersbericht.

Ondersteuning en community

Open‑weight-implementaties worden zelf beheerd en ondersteund. Hier kun je ondersteuning krijgen:

• Vragen, discussie, tips: gebruik de Hugging Face-modelpagina’s om met de community in contact te komen.

• Reproduceerbare bugs in OpenAI’s referentiecode voor inferentie: open een issue in de gpt-oss GitHub-repo.

• Problemen met een runtime van derden (bijv. vLLM, Ollama, llama.cpp): gebruik de issuetracker, forums of het ondersteuningsproces van het betreffende project.

OpenAI biedt geen hulp, praktische implementatie of debugging-ondersteuning voor zelfgehoste of door derden gehoste open‑weight-setups, configuraties, omgevingen of toepassingen.

We blijven samen met de community itereren om open veiligheidstooling te verbeteren, onder meer via de ROOST Model Community (RMC). De RMC brengt veiligheidsexperts en onderzoekers samen om best practices te delen voor het implementeren van open‑source AI-modellen in veiligheidsworkflows, inclusief evaluatieresultaten en modelfeedback. Bezoek de RMC GitHub-repo voor meer informatie over deze samenwerking en hoe je kunt meedoen.

Ondersteuning en community

Open‑weight-implementaties worden zelf beheerd en ondersteund. Hier kun je ondersteuning krijgen:

• Vragen, discussie, tips: gebruik de Hugging Face-modelpagina’s om met de community in contact te komen.

• Reproduceerbare bugs in OpenAI’s referentiecode voor inferentie: open een issue in de gpt-oss GitHub-repo.

• Problemen met een runtime van derden (bijv. vLLM, Ollama, llama.cpp): gebruik de issuetracker, forums of het ondersteuningsproces van het betreffende project.

OpenAI biedt geen hulp, praktische implementatie of debugging-ondersteuning voor zelfgehoste of door derden gehoste open‑weight-setups, configuraties, omgevingen of toepassingen.

Privacy en veiligheid

Privacy en gegevens

Deze modellen zijn ontworpen om te draaien op infrastructuur die je beheert (on-premises of in je cloud of bij je hostingpartner). OpenAI ontvangt of verwerkt de gegevens die je naar deze zelfgehoste modellen stuurt niet, tenzij je deze expliciet met OpenAI deelt of een van onze beheerde hostingpartners gebruikt.

Veiligheid

Deze modellen hebben uitgebreide veiligheidstraining en -tests ondergaan. Zie voor meer informatie onze modelkaart en ons technisch rapport.

Contentschendingen melden

Als je denkt dat content die met gpt‑oss-modellen is gegenereerd ons beleid schendt, kun je dit melden via ons formulier Content melden. Geef zo veel mogelijk details op om ons team te helpen je inzending te beoordelen.

Veelgestelde vragen

Zijn deze modellen gratis?

De gpt-oss-modelgewichten zijn gratis te downloaden en te gebruiken onder de Apache 2.0-licentie en het gpt-oss gebruiksbeleid. Je bent echter verantwoordelijk voor alle kosten die samenhangen met het draaien ervan — zoals compute, opslag of hostingkosten van derden. De prijzen daarvoor hangen af van je gekozen infrastructuur of provider.

Zijn deze modellen ‘open source’?

We gebruiken de term open modellen of open-weight om aan te geven dat de getrainde gewichten openbaar beschikbaar zijn onder de permissieve Apache 2.0-licentie en het gpt-oss gebruiksbeleid. Dit betekent dat je de modellen kunt downloaden, ze op je eigen infrastructuur of met ondersteunde hostingframeworks kunt draaien en ze kunt aanpassen of fine-tunen.

Open modellen geven ontwikkelaars en organisaties meer controle en flexibiliteit. Je kunt kiezen waar je host, de modellen aanpassen voor specifieke usecases en profiteren van licenties die breed gebruik, aanpassing en herdistributie toestaan. Hoewel de getrainde gewichten open zijn, kan sommige omliggende infrastructuur of tooling eigendom blijven van de providers.

Kan ik toegang krijgen tot deze modellen via de OpenAI API of ChatGPT?

Nee. Deze modellen worden niet aangeboden in de OpenAI API en verschijnen niet in ChatGPT.

Kan ik de modellen fine‑tunen?

Ja. Je kunt fine‑tunen met open‑source tools en je voorkeursinfrastructuur. We bieden voor deze modellen geen fine‑tuning via OpenAI API’s.

Zijn open‑weight-modellen goedkoper dan het gebruik van de API?

Kosten variëren op basis van infrastructuur, workload en operationele aanpak. Zelf hosten kan in sommige gevallen goedkoper zijn, terwijl ons API-platform efficiënter kan zijn wanneer je hosting, onderhoud en upgrades meerekent.

Welke functies ondersteunen deze modellen?

Deze modellen zijn momenteel redenerende modellen die alleen tekst ondersteunen. Gangbare runtimes ondersteunen streaming, functies aanroepen en gestructureerde output. Raadpleeg de documentatie van je runtime voor de exacte mogelijkheden.

Waarin verschilt dit van ModAPI?

Dit is een zeer capabel redenerend model waarmee je je eigen beleid kunt gebruiken. Het kan samenwerken met ModAPI, maar is waarschijnlijk geen vervanging voor usecases met lage latentie.