OpenAI
Ang page na ito ay isinalin ng AI. Tingnan ang orihinal na artikulo sa English.

OpenAI open-weight na mga modelo (gpt-oss)

Alamin ang tungkol sa open‑weight na mga modelo ng OpenAI (gpt-oss) at kung saan makakakuha ng suporta

Na-update: 6 days ago

Tandaan: Nagbibigay ang artikulong ito ng high-level na pangkalahatang-ideya. Matatagpuan ang impormasyon para sa teknikal na setup sa website ng gpt-oss, GitHub, Hugging Face, at OpenAI Cookbooks.

Pangkalahatang-ideya

Ipinapakilala ang dalawang open-weight na nangangatwirang modelo: gpt‑oss‑120b at gpt‑oss‑20b. Tumatakbo ang mga ito sa imprastrakturang kontrolado mo, o sa pamamagitan ng mga hosting provider.

Tandaan: Ang mga modelong ito ay hindi inihahatid sa pamamagitan ng OpenAI API at hindi available sa ChatGPT.

Bakit open-weights

  • Pagpipilian at kontrol: Patakbuhin ang mga modelo on-premises o sa iyong private cloud, panatilihin ang lokasyon ng data, at iangkop ang performance sa iyong mga pangangailangan.

  • Customization: I-fine-tune o iangkop ang mga modelo gamit ang gusto mong open tooling.

Availability at paglilisensya

  • Lisensya: Pinapayagan ng Apache 2.0 ang malawak na paggamit, pagbabago, at muling pamamahagi, kabilang ang komersyal na paggamit (napapailalim sa aming patakaran sa paggamit ng gpt-oss).

  • Serving: Hindi available sa pamamagitan ng OpenAI API, kaya hindi nalalapat ang pagpepresyo ng API at mga rate limit.

  • Compatibility: Maaaring patakbuhin gamit ang karaniwang open inference stacks tulad ng vLLM, Ollama, llama.cpp, at sa cloud o self-managed na mga GPU environment.

Pagsisimula

Para makuha ang mga weight ng modelo at mga kaugnay na resource, maaari mong:

  • Bisitahin ang website ng gpt-oss para sa pangkalahatang-ideya at mga direktang link.

  • I-download ang mga weight mula sa koleksyon sa Hugging Face—isang community hub kung saan makikita mo ang dalawang modelo at mga halimbawa ng paggamit, at maaari ka ring direktang magpatakbo ng inference gamit ang mga serbisyo ng Hugging Face.

  • Puntahan ang aming GitHub repo para sa code na sanggunian sa pagpapatakbo ng inference.

  • Gamitin ang mga gabay sa Mga Recipe ng OpenAI para sa pag-set up gamit ang mga sinusuportahang runtime tulad ng Ollama, vLLM, at Transformers. Kasama rin sa Mga Recipe ang sunod-sunod na tagubilin para sa lokal na pagpapatakbo, paggamit ng mga karaniwang runtime, at—kung sinusuportahan—pag-fine-tune ng mga modelo ng gpt-oss.

gpt‑oss‑safeguard (preview para sa pananaliksik)

Ang gpt‑oss‑safeguard ay dalawang open-weight na nangangatwirang modelo para sa kaligtasan na binuo gamit ang gpt‑oss. Idinisenyo ang mga ito para sa pag-uuri ng kaligtasan batay sa patakaran at mga kaugnay na gawain sa tiwala & kaligtasan na pinapatakbo mo sa imprastrakturang kontrolado mo. Gaya ng iba pang modelo ng gpt‑oss, hindi inihahatid ang mga weight na ito sa pamamagitan ng OpenAI API o ChatGPT.

  • Mga modelo na text-only na may mga sangguniang schema para sa mga naka-structure na output (hal., pasya sa patakaran, batayan).

  • Gamitin ang sarili mong patakaran: inuunawa ng modelo ang nakasulat mong patakaran upang mailapat ito sa iba't ibang produkto nang kaunti lamang ang kailangang engineering.

  • Mga pasyang may pangangatwiran: opsyonal na mga tala ng pangangatwiran upang makatulong sa pag-debug at pag-audit (para sa mga developer at practitioner sa kaligtasan, hindi para ipakita sa mga end user).

  • Naaayos na antas ng pangangatwiran: pumili ng Mababa / Medium / Mataas ayon sa nais na balanse ng latency at lalim.

  • Lisensya: Apache 2.0 (tingnan ang Availability at paglilisensya sa ibaba).

Ang gpt‑oss‑safeguard ay angkop para sa pag-filter ng input/output ng mga LLM, online na paglalagay ng label sa content, at mga workflow para sa offline na batch labeling o pagsusuri. Para sa mga pangkalahatang application (chat, mga agent, atbp.), inirerekomenda namin ang mga pangunahing modelo ng gpt‑oss.

Maaari mong iangkop ang schema sa iyong mga pangangailangan. Mangyaring sumangguni sa OpenAI Cookbook para sa mga gabay sa pagbuo ng prompt at mga halimbawa.

Mga variant at laki ng modelo

ModeloNilalayong paggamitMga tala
gpt‑oss‑safeguard‑120bProduction, high-capacity na pangangatwirang pangkaligtasan117B parameter (≈5.1B aktibo). Dinisenyo para magkasya sa

iisang 80 GB GPU
(hal., NVIDIA H100; tumatakbo rin sa mga GPU na may mas malaking memory gaya ng AMD MI300X).
gpt‑oss‑safeguard‑20bMas mababang latency / limitadong environment21B parameter (≈3.6B aktibo).

Ang parehong modelo ay fine-tuned mula sa gpt‑oss nang walang pagbabago sa arkitektura. Ginagamit nila ang parehong chat template gaya ng gpt‑oss; maaari mong panatilihin ang kasalukuyan mong setup. Ang inirerekomendang prompting pattern ay ilagay ang iyong patakaran sa developer message at ang nilalamang susuriin sa user message.

Suporta at komunidad

Ang mga open-weight deployment ay self-managed at self-serviced. Narito kung saan makakakuha ng suporta:

  • Mga tanong, talakayan, tip: Gamitin ang mga page ng modelo sa Hugging Face para makipag-ugnayan sa komunidad.

  • Mga bug na mare-reproduce sa reference inference code ng OpenAI: Magbukas ng issue sa GitHub repo ng gpt-oss.

  • Mga isyu sa third-party runtime (hal., vLLM, Ollama, llama.cpp): Gamitin ang issue tracker, mga forum, o proseso ng suporta ng kaukulang proyekto.

Ang OpenAI ay hindi nagbibigay ng tulong, hands-on na pagpapatupad, o suporta sa debugging para sa anumang self-hosted o third-party-hosted na open-weight setup, configuration, environment, o application.

Patuloy kaming makikipag-iterate sa komunidad upang pahusayin ang open na tooling sa kaligtasan, kabilang ang sa pamamagitan ng ROOST Model Community (RMC). Pinagsasama ng RMC ang mga safety practitioner at researcher upang magbahagi ng pinakamahuhusay na kasanayan sa pagpapatupad ng mga open source na AI model sa mga safety workflow, kabilang ang mga resulta ng evaluation at feedback sa modelo. Bisitahin ang RMC GitHub repo upang matuto pa tungkol sa partnership na ito at kung paano makilahok.

Suporta at komunidad

Ang mga open-weight deployment ay self-managed at self-serviced. Narito kung saan makakakuha ng suporta:

  • Mga tanong, talakayan, tip: Gamitin ang mga page ng modelo sa Hugging Face para makipag-ugnayan sa komunidad.

  • Mga bug na mare-reproduce sa reference inference code ng OpenAI: Magbukas ng issue sa GitHub repo ng gpt-oss.

  • Mga isyu sa third-party runtime (hal., vLLM, Ollama, llama.cpp): Gamitin ang issue tracker, mga forum, o proseso ng suporta ng kaukulang proyekto.

Ang OpenAI ay hindi nagbibigay ng tulong, hands-on na pagpapatupad, o suporta sa debugging para sa anumang self-hosted o third-party-hosted na open-weight setup, configuration, environment, o application.

Privacy at kaligtasan

Privacy at data

Dinisenyo ang mga modelong ito para tumakbo sa imprastrakturang kontrolado mo (on-premises o sa iyong cloud o hosting partner). Hindi natatanggap o pinoproseso ng OpenAI ang data na ipinapadala mo sa mga self-hosted na modelong ito maliban kung tahasan mo itong ibabahagi sa OpenAI, o gagamit ka ng isa sa aming managed hosting partners.

Kaligtasan

Dumaan ang mga modelong ito sa malawakang pagsasanay at pagsusuri sa kaligtasan. Para sa higit pang detalye, tingnan ang aming card ng modelo at teknikal na ulat.

Pag-uulat ng mga paglabag sa nilalaman

Kung naniniwala kang lumalabag sa aming mga patakaran ang nilalamang nabuo gamit ang mga gpt‑oss na modelo, maaari mo itong iulat sa pamamagitan ng aming form para Mag-ulat ng Nilalaman. Mangyaring magbigay ng pinakamaraming detalye hangga’t maaari upang matulungan ang aming team na suriin ang iyong isinumite.

FAQ

Libre ba ang mga modelong ito?

Libreng i-download at gamitin ang mga weight ng gpt-oss model sa ilalim ng Apache 2.0 license at patakaran sa paggamit ng gpt-oss. Gayunpaman, responsibilidad mo ang anumang gastos na kaugnay ng pagpapatakbo ng mga ito — gaya ng compute, storage, o third-party hosting fees. Ang pagpepresyo para sa mga iyon ay depende sa napili mong imprastraktura o provider.

“Open source” ba ang mga modelong ito?

Ginagamit namin ang terminong mga open na modelo o open-weight para ipahiwatig na ang mga sinanay na weight ay pampublikong available sa ilalim ng permissive na Apache 2.0 license at patakaran sa paggamit ng gpt-oss. Ibig sabihin nito, maaari mong i-download ang mga modelo, patakbuhin ang mga ito sa sarili mong imprastraktura o gamit ang sinusuportahang hosting frameworks, at i-customize o i-fine-tune ang mga ito.

Nagbibigay ang mga open na modelo sa mga developer at organisasyon ng mas malaking kontrol at flexibility. Maaari mong piliin kung saan magho-host, iangkop ang mga modelo para sa partikular na use case, at makinabang sa lisensyang nagpapahintulot ng malawak na paggamit, pagbabago, at muling pamamahagi. Bagama’t open ang mga sinanay na weight, maaaring manatiling proprietary sa kanilang mga provider ang ilang nakapaligid na imprastraktura o tooling.

Maa-access ko ba ang mga modelong ito sa pamamagitan ng OpenAI API o ChatGPT?

Hindi. Hindi inihahatid ang mga modelong ito sa OpenAI API at hindi lumalabas sa ChatGPT.

Maaari ko bang i-fine-tune ang mga modelo?

Oo. Maaari kang mag-fine-tune gamit ang mga open-source na tool at ang gusto mong imprastraktura. Hindi kami nag-aalok ng fine-tuning sa pamamagitan ng mga OpenAI API para sa mga modelong ito.

Mas mura ba ang mga open-weight na modelo kaysa paggamit ng API?

Nag-iiba ang mga gastos batay sa imprastraktura, workload, at paraan ng operasyon. Maaaring mas mura ang self-hosting sa ilang kaso, habang ang aming API Platform ay maaaring maging mas episyente kapag isinasaalang-alang ang hosting, maintenance, at mga upgrade.

Anong mga feature ang sinusuportahan ng mga modelong ito?

Sa kasalukuyan, ang mga modelong ito ay text-only na mga nangangatwirang modelo. Sinusuportahan ng karaniwang mga runtime ang streaming, pagtawag ng function, at mga naka-structure na output. Tingnan ang dokumentasyon ng iyong runtime para sa eksaktong mga capability.

Paano ito naiiba sa ModAPI?

Isa itong napakahusay na nangangatwirang modelo na nagbibigay-daan sa iyong magdala ng sarili mong patakaran. Maaari itong gumana kasabay ng ModAPI ngunit malamang na hindi kapalit para sa mga use case na nangangailangan ng mababang latency.

Nakatulong ba ang artikulong ito?