Nota: Aquest article ofereix una visió general d’alt nivell. La informació per a la configuració tècnica es pot trobar al lloc web de gpt-oss, a GitHub, a Hugging Face i a OpenAI Cookbooks.
Visió general
Presentem dos models de raonament de pesos oberts: gpt‑oss‑120b i gpt‑oss‑20b. S’executen a la infraestructura que controles o a través de proveïdors d’allotjament.
Nota: Aquests models no es distribueixen mitjançant l’API d’OpenAI i no estan disponibles a ChatGPT.
Per què pesos oberts
Elecció i control: executa models localment o al teu núvol privat, mantén la ubicació de les dades i adapta el rendiment a les teves necessitats.
Personalització: ajusta finament o adapta els models amb les eines obertes que prefereixis.
Disponibilitat i llicències
Llicència: Apache 2.0 permet un ús, modificació i redistribució amplis, inclòs l’ús comercial (subjecte a la nostra política d’ús de gpt-oss).
Servei: no està disponible a través de l’API d’OpenAI, de manera que no s’apliquen els preus ni els límits de peticions de l’API.
Compatibilitat: es pot executar amb piles d’inferència obertes habituals com vLLM, Ollama i llama.cpp, i en entorns GPU al núvol o autogestionats.
Primers passos
Per obtenir els pesos del model i els recursos de suport, pots:
Visitar el lloc web de gpt-oss per veure’n una visió general i enllaços directes.
Baixar els pesos des de la col·lecció de Hugging Face: un centre comunitari on pots trobar tots dos models, veure exemples d’ús i, opcionalment, executar inferència directament a través dels serveis de Hugging Face.
Accedir al nostre repositori de GitHub per obtenir codi d’inferència de referència.
Fes servir les guies de l’OpenAI Cookbook per configurar entorns d’execució compatibles com Ollama, vLLM i Transformers. El Cookbook també inclou instruccions pas a pas per executar localment, utilitzar entorns d’execució habituals i, quan sigui compatible, ajustar finament models gpt‑oss.
gpt‑oss‑safeguard (versió preliminar de recerca)
gpt‑oss‑safeguard és un parell de models de raonament de seguretat de pesos oberts creats sobre gpt‑oss. Estan dissenyats per a la classificació de seguretat basada en polítiques i tasques relacionades de confiança i seguretat que executes a la infraestructura que controles. Com altres models gpt‑oss, aquests pesos no se serveixen a través de l’API d’OpenAI ni de ChatGPT.
Models només de text amb esquemes de resultats estructurats de referència (p. ex., veredicte de política, justificació).
Porta la teva pròpia política: el model interpreta la teva política escrita perquè pugui generalitzar entre productes amb una enginyeria mínima.
Decisions raonades: traces de raonament opcionals per facilitar la depuració i les auditories (pensades per a desenvolupadors i professionals de seguretat, no per mostrar-les als usuaris finals).
Esforç de raonament configurable: tria baix / mitjà / alt per equilibrar latència i profunditat.
Llicència: Apache 2.0 (consulta Disponibilitat i llicències més avall).
gpt‑oss‑safeguard és adequat per filtrar entrades/sortides per a LLM, etiquetar contingut en línia i etiquetar o revisar lots fora de línia. Per a aplicacions generals (xat, agents, etc.), recomanem els models gpt‑oss principals.
Pots adaptar l’esquema a les teves necessitats. Consulta l’OpenAI Cookbook per veure guies sobre indicacions i exemples.
Variants i mida del model
| Model | Ús previst | Notes |
|---|---|---|
| gpt‑oss‑safeguard‑120b | Producció, raonament de seguretat d’alta capacitat | 117 B de paràmetres (≈5,1 B actius). Dissenyat per cabre en una sola GPU de 80 GB (p. ex., NVIDIA H100; també s’executa en GPU amb més memòria, com AMD MI300X). |
| gpt‑oss‑safeguard‑20b | Entorns de menor latència / restringits | 21 B de paràmetres (≈3,6 B actius). |
Tots dos models s’han ajustat a partir de gpt‑oss sense cap canvi d’arquitectura. Fan servir la mateixa plantilla de xat que gpt‑oss; pots mantenir la configuració existent. Un patró d’indicacions recomanat és posar la teva política en un missatge de desenvolupador i el contingut que cal avaluar en un missatge d’usuari.
Suport i comunitat
Els desplegaments de pesos oberts són autogestionats i d’autoservei. Aquí pots obtenir suport:
Preguntes, debat i consells: fes servir les pàgines de models de Hugging Face per interactuar amb la comunitat.
Errors reproduïbles en el codi d’inferència de referència d’OpenAI: obre una incidència al repositori de GitHub de gpt-oss.
Problemes amb un entorn d’execució de tercers (p. ex., vLLM, Ollama, llama.cpp): fes servir el gestor d’incidències, els fòrums o el procés de suport del projecte corresponent.
OpenAI no ofereix assistència, implementació pràctica ni suport de depuració per a cap configuració, entorn o aplicació de pesos oberts autoallotjada o allotjada per tercers.
Continuarem iterant amb la comunitat per millorar les eines obertes de seguretat, també a través de la ROOST Model Community (RMC). La RMC reuneix professionals i investigadors de seguretat per compartir bones pràctiques per implementar models d’IA de codi obert en fluxos de treball de seguretat, inclosos els resultats d’avaluació i el feedback del model. Visita el repositori de GitHub de la RMC per obtenir més informació sobre aquesta col·laboració i com participar-hi.
Suport i comunitat
Els desplegaments de pesos oberts són autogestionats i d’autoservei. Aquí pots obtenir suport:
Preguntes, debat i consells: fes servir les pàgines de models de Hugging Face per interactuar amb la comunitat.
Errors reproduïbles en el codi d’inferència de referència d’OpenAI: obre una incidència al repositori de GitHub de gpt-oss.
Problemes amb un entorn d’execució de tercers (p. ex., vLLM, Ollama, llama.cpp): fes servir el gestor d’incidències, els fòrums o el procés de suport del projecte corresponent.
OpenAI no ofereix assistència, implementació pràctica ni suport de depuració per a cap configuració, entorn o aplicació de pesos oberts autoallotjada o allotjada per tercers.
Privadesa i seguretat
Privadesa i dades
Aquests models estan dissenyats per executar-se a la infraestructura que controles (localment o al teu núvol o soci d’allotjament). OpenAI no rep ni processa les dades que envies a aquests models autoallotjats tret que les comparteixis explícitament amb OpenAI o facis servir un dels nostres socis d’allotjament gestionat.
Seguretat
Aquests models s’han sotmès a una formació i unes proves de seguretat exhaustives. Per obtenir més informació, consulta la nostra fitxa del model i l’informe tècnic.
Informar d’infraccions de contingut
Si creus que el contingut generat amb models gpt‑oss infringeix les nostres polítiques, pots informar-ne mitjançant el nostre formulari per informar de contingut. Proporciona tants detalls com sigui possible per ajudar el nostre equip a revisar la teva comunicació.
PMF
Aquests models són gratuïts?
Els pesos dels models gpt-oss es poden descarregar i utilitzar gratuïtament sota la llicència Apache 2.0 i la política d’ús de gpt-oss. Tanmateix, ets responsable de qualsevol cost associat a executar-los, com ara costos de còmput, emmagatzematge o allotjament de tercers. El preu d’aquests serveis dependrà de la infraestructura o el proveïdor que triïs.
Aquests models són «de codi obert»?
Fem servir el terme models oberts o de pesos oberts per indicar que els pesos entrenats estan disponibles públicament sota la llicència permissiva Apache 2.0 i la política d’ús de gpt-oss. Això vol dir que pots baixar els models, executar-los a la teva pròpia infraestructura o amb marcs d’allotjament compatibles, i personalitzar-los o ajustar-los finament.
Els models oberts ofereixen als desenvolupadors i a les organitzacions més control i flexibilitat. Pots triar on allotjar-los, adaptar els models a casos d’ús específics i beneficiar-te d’una llicència que permet un ús, modificació i redistribució amplis. Tot i que els pesos entrenats són oberts, part de la infraestructura o de les eines que els envolten poden continuar sent propietàries dels seus proveïdors.
Puc accedir a aquests models a través de l’API d’OpenAI o de ChatGPT?
No. Aquests models no se serveixen a l’API d’OpenAI i no apareixen a ChatGPT.
Puc ajustar finament els models?
Sí. Pots fer l’ajust fi amb eines de codi obert i la infraestructura que prefereixis. No oferim ajust fi a través de les API d’OpenAI per a aquests models.
Els models de pesos oberts són més barats que fer servir l’API?
Els costos varien segons la infraestructura, la càrrega de treball i l’enfocament operatiu. L’autoallotjament pot ser més barat en alguns casos, mentre que la nostra Plataforma API pot ser més eficient si es tenen en compte l’allotjament, el manteniment i les actualitzacions.
Quines funcions admeten aquests models?
Actualment, aquests models són models de raonament només de text. Els entorns d’execució habituals admeten transmissió en temps real, crida a funcions i resultats estructurats. Consulta la documentació del teu entorn d’execució per conèixer-ne les capacitats exactes.
En què es diferencia de ModAPI?
És un model de raonament molt capaç que et permet aportar la teva pròpia política. Pot funcionar juntament amb ModAPI, però probablement no substitueix els casos d’ús de baixa latència.