OpenAI

封鎖模式

了解封鎖模式如何限制對網路和外部服務的存取,以協助降低提示注入攻擊造成的資料外洩風險。

更新日期:yesterday

概覽

封鎖模式可能適用於符合資格的個人帳戶、自助式 ChatGPT Business 帳戶,以及受支援的受管理工作區。可用與否取決於你的帳戶、工作區、目前的產品推出狀態和管理員設定。封鎖模式是一項可選的進階安全設定,會限制 OpenAI 產品中許多可連線至網路或外部服務的工具與功能。其設計目的是透過限制對外網路要求,降低因提示注入攻擊而導致資料外洩的風險,但代價是會停用或限制某些實用功能。封鎖模式並非為所有人設計。它專為處理敏感資料,且希望針對與提示注入相關的資料外洩風險獲得更嚴格防護的個人和組織而設計。

適用情況

封鎖模式需要已登入的帳戶,且僅在你的方案、工作區、產品介面和管理員設定均支援的情況下才能使用。

封鎖模式如何協助降低資料外洩風險

提示注入是一個具挑戰性的研究問題。我們持續致力強化多層安全與防護系統,以保護使用者免受此類攻擊。封鎖模式建立在模型、產品和系統等級的防護措施之上。包括沙箱隔離、防範 URL 型資料外洩、監控與強制執行,以及角色權限控管和稽核記錄等企業控制。封鎖模式旨在透過限制可能將敏感資料傳輸給攻擊者的對外網路要求,協助防止提示注入攻擊中資料外洩的最後階段。封鎖模式無法防止提示注入出現在 ChatGPT 處理的內容中。例如:提示注入可能出現在快取的網頁內容或上傳的檔案中,並且仍可能影響回應的行為或準確性。封鎖模式會停用或限制 OpenAI 產品的下列功能:

  • 即時網頁瀏覽:網頁瀏覽僅限於快取內容。搜尋結果可能受限、無法取得或已過時。

  • 圖片支援:ChatGPT 可能無法在一般回覆中顯示圖像,或從網路擷取圖像。使用者仍可上傳圖像檔案,且圖像生成功能於原本可用的範圍內仍維持可用。

  • 深度研究:深度研究已停用。

  • 自主代理模式:自主代理模式已停用。

  • 畫布網路功能:使用者無法核准畫布生成的程式碼存取網路。

  • 檔案下載:ChatGPT 無法下載檔案進行資料分析。ChatGPT 仍可處理你手動上傳的檔案。

封鎖模式不會變更記憶體、檔案上傳、分享對話功能,也不會變更對話是否可用於改進模型。其中許多設定可由工作區管理員個別設定。封鎖模式不會影響 Codex 中的網路存取。

應用程式

應用程式和連接器在封鎖模式中的運作方式,取決於你的帳戶類型和工作區設定。針對個人帳戶和自助式 ChatGPT Business 帳戶,當這些動作與封鎖模式的安全防護衝突時,封鎖模式會封鎖對外部服務的即時存取和連接器寫入動作。個人帳戶無法設定應用程式同步。在符合資格的受管理工作區中,對現有由管理員管理的來源的存取,也取決於工作區權限和目前的封鎖模式政策。部分連線體驗,包括 ChatGPT 中的財務功能和購物代理體驗,無法在封鎖模式中使用。針對受管理的工作區,應用程式、MCP 和連接器會受到工作區設定與角色型存取控制的管控。封鎖模式不會自動停用這些工作區中的每個應用程式。工作區管理員應僅啟用使用封鎖模式的成員所需的受信任應用程式和動作。若要疑難排解受管理的工作區,請一併檢閱成員的角色和應用程式設定。在下列情況下,成員可能無法使用應用程式、連接器、MCP 或動作:

  • 成員或群組已被指派封鎖模式角色,該角色會限制所需功能

  • 該應用程式未指派給成員、群組或角色

  • 未啟用必要的讀取或寫入動作

  • 成員沒有底層檔案、程式碼庫、頻道、記錄或來源系統的存取權限

  • 另一個角色授予所需能力,但封鎖模式角色仍會限制該能力。工作區擁有者必須將該成員或群組從封鎖模式角色中移除,才能恢復存取權限。

ChatGPT 中的應用程式存取權不會覆寫已連線來源系統中的權限。如需指派角色的詳細資訊,請參閱:RBAC。在為使用封鎖模式的成員設定應用程式時,管理員應考量每個應用程式和動作的資料外洩風險。

高風險

不建議封鎖模式使用者使用這些應用程式和動作:

  • 不建議對不受信任的應用程式執行讀取或寫入動作。僅啟用你信任的應用程式。

  • 不建議對具有廣泛或不確定可見性的受信任應用程式執行寫入動作。如果無法確認其副作用不會遭惡意行為者察覺,即使是受信任的應用程式,也應避免啟用寫入動作。

中度風險

封鎖模式使用者請謹慎使用:

  • 由管理員管理的索引來源可減少部分對外網路要求,因為內容是從現有索引擷取,而不是透過即時提供者的呼叫取得。它們仍可能暴露敏感資訊,而在封鎖模式下可用與否取決於工作區、來源和安全性原則。

  • 讀取可信任應用程式的動作作為資料外洩攻擊可能的「接收端」,其風險較低,因為它們不會產生寫入端副作用。它們仍可能成為敏感資料的來源,而惡意行為者可能會試圖竊取這些資料。

  • 可見度受限的受信任應用程式的寫入動作風險高於讀取動作,因為它們會產生副作用。只有在你確信任何附帶影響,只有你信任的人 (而非惡意行為者) 會看見,才加以啟用。

符合資格的 Enterprise 和 Edu 管理員可使用可用的合規平台記錄來審閱受支援的應用程式活動,但需視工作區設定與權限而定。如需詳細資訊,請參閱:適用於 Enterprise 和 Edu 客戶的 OpenAI 合規平台

開啟封鎖模式

個人和自助式 ChatGPT Business 帳戶

適用於符合資格的個人帳戶和自助式 ChatGPT Business 帳戶:

  1. Go設定

  2. 選取 安全性

  3. 進階安全性 下,開啟 封鎖模式

  4. 在確認對話方塊中,選取開啟

封鎖模式和開發者模式無法同時使用。開啟封鎖模式會關閉開發者模式。稍後開啟開發者模式會關閉封鎖模式。封鎖模式開啟時,你可以為單一聊天關閉該模式。在網頁版中,選取訊息撰寫器中的封鎖模式標籤,然後選取 關閉此對話。若要從聊天選單變更設定:

  1. 開啟更多選項選單 (•••)。

  2. 選取封鎖模式

  3. 選取已停用即可針對此聊天將其關閉,或選取已啟用重新開啟。

若要開啟帳戶的安全性設定,請在撰寫器對話方塊中選取 管理鎖定

受管理的工作區

工作區管理員可以建立自訂角色,將其指定為「封鎖模式」角色,然後將成員或群組指派至該角色。

常見問題

誰可以開啟封鎖模式?

符合資格的個人帳戶和自助式 ChatGPT Business 帳戶使用者,當帳戶可使用這項功能時,可在設定 > 安全性中啟用封鎖模式。工作區管理員可以使用角色型存取控制,為受管理的工作區成員啟用封鎖模式。

封鎖模式會關閉訓練嗎?

不會。封鎖模式不會改變你的對話是否可能會被用於改善模型。你可以在「資料控制」中另行管理此項。工作區資料控制項仍取決於工作區方案與設定。

我可以在封鎖模式中使用圖像生成嗎?

是的。封鎖模式會限制一般 ChatGPT 回覆中的圖片支援及網頁來源圖片,但不會關閉圖像生成。

我可以針對某個對話關閉封鎖模式嗎?

是。選取網頁訊息撰寫器中的封鎖模式標籤,然後選取關閉此聊天。你也可以如上所述,從聊天選單變更此設定。任一選項都只會影響目前的聊天。

封鎖模式會影響 Codex 嗎?

不會。封鎖模式不會影響 Codex 中的網路存取。

封鎖模式能防止所有提示注入攻擊嗎?

封鎖模式旨在大幅降低 ChatGPT 及支援的 OpenAI 產品中因提示注入導致的資料外洩風險,但無法保證資料外洩不會發生。風險可能仍存在於已啟用的應用程式、未預見的功能組合,或新發現的技術中。封鎖模式也無法防止提示注入攻擊造成的其他所有影響。舉例來說,隱藏在上傳檔案中的惡意指令仍可能影響 ChatGPT 的行為,並導致答錯問題。

提示注入是重大風險嗎?

當 AI 系統處理不受信任的內容時,提示注入是一項已知的安全風險。封鎖模式可以減少某些資料外洩途徑,但無法防止所有提示注入攻擊,也無法消除所有安全風險。

封鎖模式是否會變更合規 API 日誌平台中記錄的內容?

封鎖模式本身不會變更可供使用的法規遵循平台記錄。法規遵循存取與保留取決於符合資格的工作區、管理員權限,以及適用的產品設定。

這篇文章有幫助嗎?