注意:本文提供高階概覽。技術設定資訊可在 gpt-oss 網站、GitHub、Hugging Face 和 OpenAI Cookbooks 找到。
概覽
推出兩個開放權重推理模型:gpt‑oss‑120b 和 gpt‑oss‑20b。它們可在您控制的基礎架構上執行,或透過託管服務供應商執行。
注意:這些模型不會透過 OpenAI API 提供服務,也無法在 ChatGPT 中使用。
為何採用開放權重
選擇與控制:在內部部署或私有雲中執行模型,維持資料駐留,並依需求調整效能。
自訂:使用您偏好的開放工具微調或調整模型。
可用性與授權
授權:Apache 2.0 允許廣泛使用、修改與重新散布,包括商業用途(須遵守我們的 gpt-oss 使用政策)。
提供服務:無法透過 OpenAI API 使用,因此 API 定價與速率限制不適用。
相容性:可搭配常見的開放推論堆疊執行,例如 vLLM、Ollama、llama.cpp,也可在雲端或自行管理的 GPU 環境中執行。
開始使用
若要取得模型權重和支援資源,您可以:
造訪 gpt-oss 網站,取得概覽與直接連結。
從 Hugging Face collection 下載權重;這是社群樞紐,您可以在此找到兩個模型、查看使用範例,並可選擇直接透過 Hugging Face 的服務執行推論。
存取我們的 GitHub 儲存庫,取得參考推論程式碼。
使用 OpenAI Cookbook 中的指南,透過 Ollama、vLLM 和 Transformers 等支援的執行階段進行設定。Cookbook 也包含逐步說明,說明如何在本機執行、使用常見執行階段,以及在支援的情況下微調 gpt‑oss 模型。
gpt‑oss‑safeguard(研究預覽版)
gpt‑oss‑safeguard 是一組建構於 gpt‑oss 之上的開放權重安全推理模型。它們專為基於政策的安全分類及相關信任與安全任務而設計,可在您控制的基礎架構上執行。與其他 gpt‑oss 模型一樣,這些權重不會透過 OpenAI API 或 ChatGPT 提供服務。
具備參考結構化輸出結構描述(例如政策判定、理由)的純文字模型。
自備政策:模型會解讀您撰寫的政策,因此只需少量工程即可泛化到不同產品。
具推理的決策:可選用推理軌跡以協助偵錯與稽核(供開發人員和安全從業者使用,不適合向一般使用者顯示)。
可設定的推理投入:可選擇低/中/高,以在延遲與深度之間取捨。
授權:Apache 2.0(請參閱下方的可用性與授權)。
gpt‑oss‑safeguard 適合用於 LLM 的輸入/輸出篩選、線上內容標記,以及離線批次標記或審查工作流程。對於一般應用(聊天、智慧體等),我們建議使用核心 gpt‑oss 模型。
您可以依需求調整結構描述。請參閱 OpenAI Cookbook,取得提示詞撰寫指南與範例。
模型變體與規模
| 模型 | 預期用途 | 備註 |
|---|---|---|
| gpt‑oss‑safeguard‑120b | 生產環境、高容量安全推理 | 117B 參數(約 5.1B 啟用)。設計為可在 單張 80 GB GPU 上執行(例如 NVIDIA H100;也可在 AMD MI300X 等記憶體較大的 GPU 上執行)。 |
| gpt‑oss‑safeguard‑20b | 較低延遲/受限環境 | 21B 參數(約 3.6B 啟用)。 |
兩個模型皆由 gpt‑oss 微調而來,架構未變更。它們使用與 gpt‑oss 相同的聊天範本;您可以保留現有設定。建議的提示詞模式是將您的政策放在開發人員訊息中,並將要評估的內容放在使用者訊息中。
支援與社群
開放權重部署由使用者自行管理與維護。以下是取得支援的方式:
問題、討論、訣竅:使用 Hugging Face 模型頁面與社群互動。
OpenAI 參考推論程式碼中可重現的錯誤:在 gpt-oss GitHub 儲存庫提出 issue。
第三方執行階段的問題(例如 vLLM、Ollama、llama.cpp):使用相應專案的 issue 追蹤器、論壇或支援流程。
OpenAI 不會為任何自行託管或第三方託管的開放權重設定、組態、環境或應用程式提供協助、實作支援或偵錯支援。
我們將持續與社群反覆改進開放安全工具,包括透過 ROOST Model Community(RMC)推動。RMC 匯集安全從業者與研究人員,分享將開放原始碼 AI 模型導入安全工作流程的最佳實務,包括評估結果與模型回饋。請造訪 RMC GitHub 儲存庫,深入了解這項合作關係以及參與方式。
支援與社群
開放權重部署由使用者自行管理與維護。以下是取得支援的方式:
問題、討論、訣竅:使用 Hugging Face 模型頁面與社群互動。
OpenAI 參考推論程式碼中可重現的錯誤:在 gpt-oss GitHub 儲存庫提出 issue。
第三方執行階段的問題(例如 vLLM、Ollama、llama.cpp):使用相應專案的 issue 追蹤器、論壇或支援流程。
OpenAI 不會為任何自行託管或第三方託管的開放權重設定、組態、環境或應用程式提供協助、實作支援或偵錯支援。
隱私權與安全性
隱私權與資料
這些模型設計為在您控制的基礎架構上執行(內部部署,或在您的雲端或託管合作夥伴環境中)。除非您明確與 OpenAI 分享資料,或使用我們的代管託管合作夥伴之一,否則 OpenAI 不會接收或處理您傳送給這些自託管模型的資料。
檢舉內容違規
如果您認為使用 gpt‑oss 模型產生的內容違反我們的政策,可以透過我們的檢舉內容表單回報。請盡可能提供詳細資訊,以協助我們的團隊審查您的提交內容。
常見問題
這些模型是免費的嗎?
gpt-oss 模型權重可依 Apache 2.0 授權和 gpt-oss 使用政策免費下載與使用。不過,您需自行承擔執行這些模型所產生的任何成本,例如運算、儲存或第三方託管費用。這些費用將取決於您選擇的基礎架構或供應商。
這些模型是「開放原始碼」嗎?
我們使用開放模型或開放權重一詞,表示已訓練的權重依寬鬆的 Apache 2.0 授權和 gpt-oss 使用政策公開提供。這表示您可以下載模型,在自己的基礎架構或支援的託管框架上執行,並進行自訂或微調。
開放模型讓開發人員和組織擁有更大的控制權與彈性。您可以選擇託管位置、針對特定使用案例調整模型,並受益於允許廣泛使用、修改與重新散布的授權。雖然已訓練的權重是開放的,但周邊的部分基礎架構或工具可能仍為其供應商的專有項目。
我可以透過 OpenAI API 或 ChatGPT 存取這些模型嗎?
不可以。這些模型不會在 OpenAI API 中提供服務,也不會出現在 ChatGPT 中。
我可以微調這些模型嗎?
可以。您可以使用開放原始碼工具和偏好的基礎架構進行微調。我們不透過 OpenAI API 提供這些模型的微調。
開放權重模型會比使用 API 更便宜嗎?
成本會因基礎架構、工作負載與營運方式而異。在某些情況下,自行託管可能較便宜;但若將託管、維護與升級納入考量,我們的 API Platform 可能更有效率。
這些模型支援哪些功能?
這些模型目前是純文字推理模型。常見執行階段支援串流、函式呼叫和結構化輸出。請查看您的執行階段文件以了解確切功能。
這與 ModAPI 有何不同?
這是一個能力很強的推理模型,可讓您自備政策。它可以與 ModAPI 搭配使用,但可能無法取代低延遲使用案例。
