Nota: Aquest article ofereix una visió general d’alt nivell. La informació per a la configuració tècnica es pot trobar al lloc web de gpt-oss, a GitHub, a Hugging Face i a OpenAI Cookbooks.
Visió general
Presentem dos models de raonament de pesos oberts: gpt‑oss‑120b i gpt‑oss‑20b. S’executen a la infraestructura que controles o a través de proveïdors d’allotjament.
Nota: Aquests models no es distribueixen mitjançant l’API d’OpenAI i no estan disponibles a ChatGPT.
Per què pesos oberts
Elecció i control: executa models localment o al teu núvol privat, mantén la ubicació de les dades i adapta el rendiment a les teves necessitats.
Personalització: ajusta finament o adapta els models amb les eines obertes que prefereixis.
Disponibilitat i llicències
Llicència: Apache 2.0 permet un ús, modificació i redistribució amplis, inclòs l’ús comercial (subjecte a la nostra política d’ús de gpt-oss).
Servei: no està disponible a través de l’API d’OpenAI, de manera que no s’apliquen els preus ni els límits de peticions de l’API.
Compatibilitat: es pot executar amb piles d’inferència obertes habituals com vLLM, Ollama i llama.cpp, i en entorns GPU al núvol o autogestionats.
Primers passos
Per obtenir els pesos del model i els recursos complementaris, podeu:
Visitar el lloc web de gpt-oss per consultar-ne una descripció general i obtenir enllaços directes.
Baixar els pesos de la col·lecció de Hugging Face, un espai de la comunitat on podeu trobar tots dos models, consultar exemples d'ús i, opcionalment, executar inferències directament mitjançant els serveis de Hugging Face.
Accedir al nostre repositori de GitHub per consultar codi d'inferència de referència.
Seguir les guies de les Receptes d'OpenAI per configurar entorns d'execució compatibles, com ara Ollama, vLLM i Transformers. Les Receptes també inclouen instruccions pas a pas per executar els models localment, utilitzar entorns d'execució habituals i, quan sigui compatible, fer l'ajust fi dels models gpt-oss.
gpt‑oss‑safeguard (versió preliminar de recerca)
gpt‑oss‑safeguard és una parella de models de raonament de seguretat amb pesos oberts basats en gpt‑oss. Estan dissenyats per a la classificació de seguretat basada en polítiques i altres tasques relacionades amb la confiança i la seguretat que executeu en una infraestructura sota el vostre control. Com passa amb altres models gpt‑oss, aquests pesos no s'ofereixen mitjançant l'API d'OpenAI ni ChatGPT.
Models només de text amb esquemes de referència per a resultats estructurats (p. ex., veredicte sobre la política i justificació).
Feu servir la vostra pròpia política: el model interpreta la política escrita perquè es pugui generalitzar a diversos productes amb un esforç d'enginyeria mínim.
Decisions raonades: traces de raonament opcionals per facilitar la depuració i les auditories (pensades per a desenvolupadors i professionals de la seguretat, no per mostrar-les als usuaris finals).
Esforç de raonament configurable: trieu Baixa / Mitjana / Alta per equilibrar la latència i la profunditat.
Llicència: Apache 2.0 (vegeu Disponibilitat i llicències més avall).
gpt‑oss‑safeguard és una bona opció per filtrar les entrades i sortides dels LLM, etiquetar contingut en línia i crear fluxos de treball d'etiquetatge per lots o de revisió fora de línia. Per a aplicacions generals (xat, agents, etc.), recomanem els models principals de gpt‑oss.
Podeu adaptar l'esquema a les vostres necessitats. Consulteu el Receptari d'OpenAI per trobar guies sobre la formulació d'instruccions i exemples.
Variants i mida del model
| Model | Ús previst | Notes |
|---|---|---|
| gpt‑oss‑safeguard‑120b | Producció, raonament de seguretat d’alta capacitat | 117 B de paràmetres (≈5,1 B actius). Dissenyat per cabre en una sola GPU de 80 GB (p. ex., NVIDIA H100; també s’executa en GPU amb més memòria, com AMD MI300X). |
| gpt‑oss‑safeguard‑20b | Entorns de menor latència / restringits | 21 B de paràmetres (≈3,6 B actius). |
Tots dos models s’han ajustat a partir de gpt‑oss sense cap canvi d’arquitectura. Fan servir la mateixa plantilla de xat que gpt‑oss; pots mantenir la configuració existent. Un patró d’indicacions recomanat és posar la teva política en un missatge de desenvolupador i el contingut que cal avaluar en un missatge d’usuari.
Suport i comunitat
Els desplegaments de pesos oberts són autogestionats i d’autoservei. Aquí pots obtenir suport:
Preguntes, debat i consells: fes servir les pàgines de models de Hugging Face per interactuar amb la comunitat.
Errors reproduïbles en el codi d’inferència de referència d’OpenAI: obre una incidència al repositori de GitHub de gpt-oss.
Problemes amb un entorn d’execució de tercers (p. ex., vLLM, Ollama, llama.cpp): fes servir el gestor d’incidències, els fòrums o el procés de suport del projecte corresponent.
OpenAI no ofereix assistència, implementació pràctica ni suport de depuració per a cap configuració, entorn o aplicació de pesos oberts autoallotjada o allotjada per tercers.
Continuarem iterant amb la comunitat per millorar les eines obertes de seguretat, també a través de la ROOST Model Community (RMC). La RMC reuneix professionals i investigadors de seguretat per compartir bones pràctiques per implementar models d’IA de codi obert en fluxos de treball de seguretat, inclosos els resultats d’avaluació i el feedback del model. Visita el repositori de GitHub de la RMC per obtenir més informació sobre aquesta col·laboració i com participar-hi.
Suport i comunitat
Els desplegaments de pesos oberts són autogestionats i d’autoservei. Aquí pots obtenir suport:
Preguntes, debat i consells: fes servir les pàgines de models de Hugging Face per interactuar amb la comunitat.
Errors reproduïbles en el codi d’inferència de referència d’OpenAI: obre una incidència al repositori de GitHub de gpt-oss.
Problemes amb un entorn d’execució de tercers (p. ex., vLLM, Ollama, llama.cpp): fes servir el gestor d’incidències, els fòrums o el procés de suport del projecte corresponent.
OpenAI no ofereix assistència, implementació pràctica ni suport de depuració per a cap configuració, entorn o aplicació de pesos oberts autoallotjada o allotjada per tercers.
Privadesa i seguretat
Privadesa i dades
Aquests models estan dissenyats per executar-se a la infraestructura que controles (localment o al teu núvol o soci d’allotjament). OpenAI no rep ni processa les dades que envies a aquests models autoallotjats tret que les comparteixis explícitament amb OpenAI o facis servir un dels nostres socis d’allotjament gestionat.
Seguretat
Aquests models s’han sotmès a una formació i unes proves de seguretat exhaustives. Per obtenir més informació, consulta la nostra fitxa del model i l’informe tècnic.
Informar d’infraccions de contingut
Si creus que el contingut generat amb models gpt‑oss infringeix les nostres polítiques, pots informar-ne mitjançant el nostre formulari per informar de contingut. Proporciona tants detalls com sigui possible per ajudar el nostre equip a revisar la teva comunicació.
PMF
Aquests models són gratuïts?
Els pesos dels models gpt-oss es poden descarregar i utilitzar gratuïtament sota la llicència Apache 2.0 i la política d’ús de gpt-oss. Tanmateix, ets responsable de qualsevol cost associat a executar-los, com ara costos de còmput, emmagatzematge o allotjament de tercers. El preu d’aquests serveis dependrà de la infraestructura o el proveïdor que triïs.
Aquests models són «de codi obert»?
Fem servir el terme models oberts o de pesos oberts per indicar que els pesos entrenats estan disponibles públicament sota la llicència permissiva Apache 2.0 i la política d’ús de gpt-oss. Això vol dir que pots baixar els models, executar-los a la teva pròpia infraestructura o amb marcs d’allotjament compatibles, i personalitzar-los o ajustar-los finament.
Els models oberts ofereixen als desenvolupadors i a les organitzacions més control i flexibilitat. Pots triar on allotjar-los, adaptar els models a casos d’ús específics i beneficiar-te d’una llicència que permet un ús, modificació i redistribució amplis. Tot i que els pesos entrenats són oberts, part de la infraestructura o de les eines que els envolten poden continuar sent propietàries dels seus proveïdors.
Puc accedir a aquests models a través de l’API d’OpenAI o de ChatGPT?
No. Aquests models no se serveixen a l’API d’OpenAI i no apareixen a ChatGPT.
Puc ajustar finament els models?
Sí. Pots fer l’ajust fi amb eines de codi obert i la infraestructura que prefereixis. No oferim ajust fi a través de les API d’OpenAI per a aquests models.
Els models de pesos oberts són més barats que fer servir l’API?
Els costos varien segons la infraestructura, la càrrega de treball i l’enfocament operatiu. L’autoallotjament pot ser més barat en alguns casos, mentre que la nostra Plataforma API pot ser més eficient si es tenen en compte l’allotjament, el manteniment i les actualitzacions.
Quines funcions admeten aquests models?
Actualment, aquests models són models de raonament només de text. Els entorns d’execució habituals admeten transmissió en temps real, crida a funcions i resultats estructurats. Consulta la documentació del teu entorn d’execució per conèixer-ne les capacitats exactes.
En què es diferencia de ModAPI?
És un model de raonament molt capaç que et permet aportar la teva pròpia política. Pot funcionar juntament amb ModAPI, però probablement no substitueix els casos d’ús de baixa latència.