OpenAI

封鎖模式

了解封鎖模式如何限制對網路和外部服務的存取,以協助降低提示注入攻擊造成的資料外洩風險。

更新日期:16 hours ago

封鎖模式正逐步向符合資格的個人帳戶推出,包括 Free、Go、Plus 和 Pro,以及自助式 ChatGPT Business 帳戶。如果你在設定中沒有看到封鎖模式,可能是因為你的帳戶尚未開放使用。

概覽

封鎖模式是一項可選的進階安全設定,會限制 OpenAI 產品中許多可連線至網路或外部服務的工具與功能。其設計目的是透過限制對外網路要求,降低因 提示注入 攻擊而導致資料外洩的風險,但代價是會停用或限制某些實用功能。封鎖模式並非人人適用。它專為處理敏感資料,且希望針對與提示注入相關的資料外洩風險獲得更嚴格防護的個人和組織而設計。

適用情況

封鎖模式適用於所有帳戶類型和工作區。你必須先登入才能使用。

封鎖模式如何協助降低資料外洩風險

提示注入是一項前沿且具挑戰性的研究問題,我們持續致力強化多層安全與防護系統,以保護使用者免受此類攻擊的威脅。封鎖模式建立在模型、產品和系統等級的防護措施之上。包括沙箱隔離、防範基於 URL 的資料外洩、監控與強制執行,以及角色權限控管和稽核記錄等企業控制。封鎖模式旨在透過限制可能將敏感資料傳輸給攻擊者的對外網路請求,協助防止提示注入攻擊中資料外洩的最後階段。封鎖模式不會防止提示注入出現在 ChatGPT 處理的內容中。例如,提示注入可能出現在快取的網頁內容或上傳的檔案中,並且仍可能影響回應的行為或準確性。具體而言,對於處於「封鎖模式」的使用者,OpenAI 產品的以下功能會停用:

  • 即時網頁瀏覽:網頁瀏覽僅限於存取快取內容。搜尋結果可能受限、無法取得或已過時。

  • 圖片支援:ChatGPT 可能無法在一般回覆中顯示圖片,或從網路擷取圖片。使用者仍可上傳圖片檔案,在原本可使用圖像生成的情況下,該功能仍可使用。

  • 深度研究:此功能已停用。

  • 自主代理模式:已停用自主代理模式。

  • Canvas 網路功能:使用者無法核准畫布產生的程式碼存取網路。

  • 檔案下載:ChatGPT 無法下載檔案進行資料分析。ChatGPT 仍可處理你手動上傳的檔案。

封鎖模式不會變更記憶體、檔案上傳、分享對話功能,也不會變更對話是否可用於改進模型。其中許多設定可由工作區管理員個別設定。封鎖模式不會影響 Codex 中的網路存取。

應用程式

應用程式和連接器在封鎖模式中的運作方式,取決於您的帳戶類型和工作區設定。針對個人帳戶和自助式 ChatGPT Business 帳戶,封鎖模式允許使用已同步資料的連接器,但會封鎖即時連接器存取和連接器寫入動作。部分連線體驗,包括 ChatGPT 中的財務功能和購物代理體驗,無法在封鎖模式中使用。針對受管理的工作區,應用程式、MCP 和連接器會受到工作區設定與角色型存取控制的管控。封鎖模式不會自動停用這些工作區中的所有應用程式。工作區管理員應僅啟用使用封鎖模式的成員所需的受信任應用程式和動作。若要疑難排解受管理的工作區,請一併檢閱成員的角色和應用程式設定。在下列情況下,成員可能無法使用應用程式、連接器、MCP 或動作:

  • 成員或群組已被指派封鎖模式角色,該角色會限制所需功能

  • 該應用程式未指派給成員、群組或角色

  • 未啟用必要的讀取或寫入動作

  • 成員沒有底層檔案、程式碼庫、頻道、記錄或來源系統的存取權限

ChatGPT 中的應用程式存取權不會覆寫已連線來源系統中的權限。如需指派角色的詳細資訊,請參閱:RBAC。在為使用封鎖模式的成員設定應用程式時,管理員應考量每個應用程式和動作的資料外洩風險。

高風險

不建議封鎖模式使用者使用這些應用程式和動作:

  • 不建議對不可信任的應用程式執行讀取或寫入動作。僅啟用你信任的應用程式。

  • 不建議使用針對具有廣泛或不確定可見性的受信任應用程式的寫入動作。如果無法確認其副作用不會被惡意行為者察覺,即使是受信任的應用程式,也應避免啟用寫入動作。

中度風險

封鎖模式使用者請謹慎使用:

  • Sync 連接器作為可能的資料外洩匯集點風險較低,因為所存取的資料已同步至 OpenAI,因此查詢不會對 OpenAI 外部送出即時網路請求。它們仍可能成為敏感資料的來源,而惡意行為者可能會試圖竊取這些資料。

  • 讀取可信任應用程式的動作作為資料外洩攻擊可能的接收端,風險較低,因為它們不會產生寫入端副作用。它們仍可能成為敏感資料的來源,而惡意行為者可能會試圖竊取這些資料。

  • 可見度受限的受信任應用程式的寫入動作風險高於讀取動作,因為它們會產生副作用。只有在你確信任何附帶影響只會被你信任的人看見,而不會被惡意行為者看見時,才啟用這些。

有別於封鎖模式,合規 API 日誌平台可詳細掌握應用程式使用情況、共享資料和連線來源,協助管理員維持監督。如需更多應用程式使用狀況記錄的相關資訊,請參閱:適用於企業客戶的合規 API

開啟封鎖模式

個人和自助式 ChatGPT Business 帳戶

適用於符合資格的個人帳戶和自助式 ChatGPT Business 帳戶:

  1. Go設定

  2. 選取 安全性

  3. 進階安全性 下,開啟 封鎖模式

  4. 在確認對話方塊中,選取開啟

封鎖模式和開發者模式無法同時使用。開啟 封鎖模式 會關閉 開發者模式。稍後開啟開發者模式會關閉封鎖模式。當封鎖模式開啟時,狀態訊息會顯示在撰寫器上方。若只要針對單一聊天將其關閉,請在該狀態訊息中選取 管理,然後選取 針對此聊天關閉。您也可以開啟更多選項選單 (•••) ,選取 封鎖模式,然後選取 已停用。若要為該對話重新開啟此功能,請選取 封鎖模式,然後選取 已啟用

受管理的工作區

工作區管理員可以建立自訂角色,將其指定為「封鎖模式」角色,然後將成員或群組指派至該角色。

常見問題

誰可以開啟封鎖模式?

符合資格的個人帳戶和自助式 ChatGPT Business 帳戶使用者,當帳戶可使用時,可在「設定 > 安全性」中啟用封鎖模式。工作區管理員可以使用角色為基礎的存取控制,為受管理的工作區成員啟用封鎖模式。

封鎖模式會關閉訓練嗎?

不會。封鎖模式不會改變你的對話是否可能會被用於改善模型。你可以在「資料控制」中另行管理此項。工作區資料控制項仍取決於工作區方案與設定。

我可以在封鎖模式中使用圖像生成嗎?

是的。封鎖模式會限制一般 ChatGPT 回覆中的圖片支援及網頁來源圖片,但不會關閉圖像生成。

我可以針對某個對話關閉封鎖模式嗎?

可以。開啟封鎖模式時,請在訊息撰寫器上方選取「封鎖」索引標籤,然後選擇「關閉此聊天」。您也可以開啟更多選項選單 (•••),選取「鎖定」,然後選取「已停用」。這項變更只會影響目前的聊天。

封鎖模式會影響 Codex 嗎?

不會。封鎖模式不會影響 Codex 中的網路存取。

封鎖模式能防止所有提示注入攻擊嗎?

封鎖模式旨在大幅降低 ChatGPT 及支援的 OpenAI 產品中因提示注入導致的資料外洩風險,但不保證資料外洩不會發生。風險可能仍會透過已啟用的應用程式、未預見的功能組合,或新發現的技術而存在。封鎖模式也無法防止提示注入攻擊造成的所有其他影響。舉例來說,隱藏在上傳檔案中的惡意指令仍可能影響 ChatGPT 的行為,並導致產生不正確的答案。

提示注入是重大風險嗎?

提示注入目前還不是重大風險,但隨著攻擊者發展出更精密的手法,其影響可能會擴大。

封鎖模式是否會變更合規 API 日誌平台中記錄的內容?

否。合規 API 日誌平台可詳細掌握應用程式使用情況、共享資料和連線來源。這些日誌不會因封鎖模式而變更。

這篇文章有幫助嗎?