Tandaan: Nagbibigay ang artikulong ito ng high-level na pangkalahatang-ideya. Matatagpuan ang impormasyon para sa teknikal na setup sa website ng gpt-oss, GitHub, Hugging Face, at OpenAI Cookbooks.
Pangkalahatang-ideya
Ipinapakilala ang dalawang open-weight na nangangatwirang modelo: gpt‑oss‑120b at gpt‑oss‑20b. Tumatakbo ang mga ito sa imprastrakturang kontrolado mo, o sa pamamagitan ng mga hosting provider.
Tandaan: Ang mga modelong ito ay hindi inihahatid sa pamamagitan ng OpenAI API at hindi available sa ChatGPT.
Bakit open-weights
Pagpipilian at kontrol: Patakbuhin ang mga modelo on-premises o sa iyong private cloud, panatilihin ang lokasyon ng data, at iangkop ang performance sa iyong mga pangangailangan.
Customization: I-fine-tune o iangkop ang mga modelo gamit ang gusto mong open tooling.
Availability at paglilisensya
Lisensya: Pinapayagan ng Apache 2.0 ang malawak na paggamit, pagbabago, at muling pamamahagi, kabilang ang komersyal na paggamit (napapailalim sa aming patakaran sa paggamit ng gpt-oss).
Serving: Hindi available sa pamamagitan ng OpenAI API, kaya hindi nalalapat ang pagpepresyo ng API at mga rate limit.
Compatibility: Maaaring patakbuhin gamit ang karaniwang open inference stacks tulad ng vLLM, Ollama, llama.cpp, at sa cloud o self-managed na mga GPU environment.
Pagsisimula
Para makuha ang mga weight ng modelo at mga sumusuportang resource, maaari mong:
Bisitahin ang website ng gpt-oss para sa pangkalahatang-ideya at mga direktang link.
I-download ang mga weight mula sa koleksyon sa Hugging Face — isang community hub kung saan mahahanap mo ang parehong modelo, makikita ang mga halimbawa ng paggamit, at opsyonal na direktang magpatakbo ng inference sa pamamagitan ng mga serbisyo ng Hugging Face.
I-access ang aming GitHub repo para sa reference inference code.
Gamitin ang mga gabay sa OpenAI Cookbook para sa setup gamit ang mga sinusuportahang runtime tulad ng Ollama, vLLM, at Transformers. Kasama rin sa Cookbook ang sunod-sunod na tagubilin para sa pagpapatakbo nang lokal, paggamit ng karaniwang runtime, at—kung sinusuportahan—fine-tuning ng mga gpt‑oss na modelo.
gpt‑oss‑safeguard (research preview)
Ang gpt‑oss‑safeguard ay pares ng open-weight na nangangatwirang modelo sa kaligtasan na binuo sa ibabaw ng gpt‑oss. Dinisenyo ang mga ito para sa policy-based na pag-uuri ng kaligtasan at kaugnay na mga gawaing trust & safety na pinapatakbo mo sa imprastrakturang kontrolado mo. Tulad ng ibang gpt‑oss na modelo, hindi inihahatid ang mga weight na ito sa pamamagitan ng OpenAI API o ChatGPT.
Mga text-only na modelo na may reference na mga schema ng naka-structure na output (hal., hatol sa patakaran, rasyonal).
Magdala ng sarili mong patakaran: binibigyang-kahulugan ng modelo ang iyong nakasulat na patakaran para makapag-generalize ito sa iba’t ibang produkto nang may kaunting engineering.
Mga desisyong may pangangatwiran: opsyonal na mga reasoning trace para makatulong sa debugging at mga audit (nilalayon para sa mga developer at safety practitioner, hindi para ipakita sa end user).
Nako-configure na pagsisikap sa pangangatwiran: pumili ng low / medium / high para timbangin ang latency kumpara sa lalim.
Lisensya: Apache 2.0 (tingnan ang Availability and licensing sa ibaba).
Ang gpt‑oss‑safeguard ay angkop para sa pag-filter ng input/output para sa mga LLM, pag-label ng online na nilalaman, at mga offline na batch labeling o review workflow. Para sa mga pangkalahatang application (chat, mga agent, atbp.), inirerekomenda namin ang core na mga gpt‑oss na modelo.
Maaari mong iangkop ang schema sa iyong mga pangangailangan. Mangyaring sumangguni sa OpenAI Cookbook para sa mga gabay sa prompting at mga halimbawa.
Mga variant at laki ng modelo
| Modelo | Nilalayong paggamit | Mga tala |
|---|---|---|
| gpt‑oss‑safeguard‑120b | Production, high-capacity na pangangatwirang pangkaligtasan | 117B parameter (≈5.1B aktibo). Dinisenyo para magkasya sa iisang 80 GB GPU (hal., NVIDIA H100; tumatakbo rin sa mga GPU na may mas malaking memory gaya ng AMD MI300X). |
| gpt‑oss‑safeguard‑20b | Mas mababang latency / limitadong environment | 21B parameter (≈3.6B aktibo). |
Ang parehong modelo ay fine-tuned mula sa gpt‑oss nang walang pagbabago sa arkitektura. Ginagamit nila ang parehong chat template gaya ng gpt‑oss; maaari mong panatilihin ang kasalukuyan mong setup. Ang inirerekomendang prompting pattern ay ilagay ang iyong patakaran sa developer message at ang nilalamang susuriin sa user message.
Suporta at komunidad
Ang mga open-weight deployment ay self-managed at self-serviced. Narito kung saan makakakuha ng suporta:
Mga tanong, talakayan, tip: Gamitin ang mga page ng modelo sa Hugging Face para makipag-ugnayan sa komunidad.
Mga bug na mare-reproduce sa reference inference code ng OpenAI: Magbukas ng issue sa GitHub repo ng gpt-oss.
Mga isyu sa third-party runtime (hal., vLLM, Ollama, llama.cpp): Gamitin ang issue tracker, mga forum, o proseso ng suporta ng kaukulang proyekto.
Ang OpenAI ay hindi nagbibigay ng tulong, hands-on na pagpapatupad, o suporta sa debugging para sa anumang self-hosted o third-party-hosted na open-weight setup, configuration, environment, o application.
Patuloy kaming makikipag-iterate sa komunidad upang pahusayin ang open na tooling sa kaligtasan, kabilang ang sa pamamagitan ng ROOST Model Community (RMC). Pinagsasama ng RMC ang mga safety practitioner at researcher upang magbahagi ng pinakamahuhusay na kasanayan sa pagpapatupad ng mga open source na AI model sa mga safety workflow, kabilang ang mga resulta ng evaluation at feedback sa modelo. Bisitahin ang RMC GitHub repo upang matuto pa tungkol sa partnership na ito at kung paano makilahok.
Suporta at komunidad
Ang mga open-weight deployment ay self-managed at self-serviced. Narito kung saan makakakuha ng suporta:
Mga tanong, talakayan, tip: Gamitin ang mga page ng modelo sa Hugging Face para makipag-ugnayan sa komunidad.
Mga bug na mare-reproduce sa reference inference code ng OpenAI: Magbukas ng issue sa GitHub repo ng gpt-oss.
Mga isyu sa third-party runtime (hal., vLLM, Ollama, llama.cpp): Gamitin ang issue tracker, mga forum, o proseso ng suporta ng kaukulang proyekto.
Ang OpenAI ay hindi nagbibigay ng tulong, hands-on na pagpapatupad, o suporta sa debugging para sa anumang self-hosted o third-party-hosted na open-weight setup, configuration, environment, o application.
Privacy at kaligtasan
Privacy at data
Dinisenyo ang mga modelong ito para tumakbo sa imprastrakturang kontrolado mo (on-premises o sa iyong cloud o hosting partner). Hindi natatanggap o pinoproseso ng OpenAI ang data na ipinapadala mo sa mga self-hosted na modelong ito maliban kung tahasan mo itong ibabahagi sa OpenAI, o gagamit ka ng isa sa aming managed hosting partners.
Kaligtasan
Dumaan ang mga modelong ito sa malawakang pagsasanay at pagsusuri sa kaligtasan. Para sa higit pang detalye, tingnan ang aming card ng modelo at teknikal na ulat.
Pag-uulat ng mga paglabag sa nilalaman
Kung naniniwala kang lumalabag sa aming mga patakaran ang nilalamang nabuo gamit ang mga gpt‑oss na modelo, maaari mo itong iulat sa pamamagitan ng aming form para Mag-ulat ng Nilalaman. Mangyaring magbigay ng pinakamaraming detalye hangga’t maaari upang matulungan ang aming team na suriin ang iyong isinumite.
FAQ
Libre ba ang mga modelong ito?
Libreng i-download at gamitin ang mga weight ng gpt-oss model sa ilalim ng Apache 2.0 license at patakaran sa paggamit ng gpt-oss. Gayunpaman, responsibilidad mo ang anumang gastos na kaugnay ng pagpapatakbo ng mga ito — gaya ng compute, storage, o third-party hosting fees. Ang pagpepresyo para sa mga iyon ay depende sa napili mong imprastraktura o provider.
“Open source” ba ang mga modelong ito?
Ginagamit namin ang terminong mga open na modelo o open-weight para ipahiwatig na ang mga sinanay na weight ay pampublikong available sa ilalim ng permissive na Apache 2.0 license at patakaran sa paggamit ng gpt-oss. Ibig sabihin nito, maaari mong i-download ang mga modelo, patakbuhin ang mga ito sa sarili mong imprastraktura o gamit ang sinusuportahang hosting frameworks, at i-customize o i-fine-tune ang mga ito.
Nagbibigay ang mga open na modelo sa mga developer at organisasyon ng mas malaking kontrol at flexibility. Maaari mong piliin kung saan magho-host, iangkop ang mga modelo para sa partikular na use case, at makinabang sa lisensyang nagpapahintulot ng malawak na paggamit, pagbabago, at muling pamamahagi. Bagama’t open ang mga sinanay na weight, maaaring manatiling proprietary sa kanilang mga provider ang ilang nakapaligid na imprastraktura o tooling.
Maa-access ko ba ang mga modelong ito sa pamamagitan ng OpenAI API o ChatGPT?
Hindi. Hindi inihahatid ang mga modelong ito sa OpenAI API at hindi lumalabas sa ChatGPT.
Maaari ko bang i-fine-tune ang mga modelo?
Oo. Maaari kang mag-fine-tune gamit ang mga open-source na tool at ang gusto mong imprastraktura. Hindi kami nag-aalok ng fine-tuning sa pamamagitan ng mga OpenAI API para sa mga modelong ito.
Mas mura ba ang mga open-weight na modelo kaysa paggamit ng API?
Nag-iiba ang mga gastos batay sa imprastraktura, workload, at paraan ng operasyon. Maaaring mas mura ang self-hosting sa ilang kaso, habang ang aming API Platform ay maaaring maging mas episyente kapag isinasaalang-alang ang hosting, maintenance, at mga upgrade.
Anong mga feature ang sinusuportahan ng mga modelong ito?
Sa kasalukuyan, ang mga modelong ito ay text-only na mga nangangatwirang modelo. Sinusuportahan ng karaniwang mga runtime ang streaming, pagtawag ng function, at mga naka-structure na output. Tingnan ang dokumentasyon ng iyong runtime para sa eksaktong mga capability.
Paano ito naiiba sa ModAPI?
Isa itong napakahusay na nangangatwirang modelo na nagbibigay-daan sa iyong magdala ng sarili mong patakaran. Maaari itong gumana kasabay ng ModAPI ngunit malamang na hindi kapalit para sa mga use case na nangangailangan ng mababang latency.
