Přehled

Režim uzamčení je volitelné pokročilé nastavení zabezpečení, které uzamkne mnoho nástrojů a funkcí produktů OpenAI a zabrání jim v přístupu k síti. Poskytuje silnou deterministickou ochranu proti útokům na exfiltraci dat založeným na injektáži promptů, za cenu vypnutí nebo omezení mnoha jinak užitečných funkcí.

Režim uzamčení není určen pro každého, ale je navržen pro organizace k ochraně citlivých dat členů pracujících v prostředí s nejvyšším rizikem útoků na exfiltraci dat založených na injektáži promptů.

Dostupnost

Režim uzamčení je dostupný pro ChatGPT Enterprise, Edu, ChatGPT for Healthcare a ChatGPT for Teachers.

V příštích měsících plánujeme zpřístupnit režim uzamčení pro spotřebitelské a týmové tarify ChatGPT.

Jak režim uzamčení chrání před útoky na exfiltraci založenými na injektáži promptů?

Injektáž promptů je špičkový a náročný výzkumný problém a my průběžně pracujeme na posilování našich vícevrstvých systémů zabezpečení a ochrany, abychom před takovými útoky chránili všechny uživatele.

Těm, kteří jsou těmito útoky ohroženi nejvíce, poskytuje režim uzamčení deterministické bezpečnostní ochrany tím, že vypíná mnoho síťově připojených nástrojů a funkcí produktů OpenAI.

Režim uzamčení staví na našich stávajících ochranách na úrovni modelu, produktu a systému. Patří sem sandboxing, ochrana proti exfiltraci dat založené na URL, monitorování a vynucování a podnikové prvky řízení, jako je přístup na základě rolí a auditní záznamy.

Konkrétně jsou pro osoby v režimu uzamčení vypnuty následující možnosti produktů OpenAI:

• Procházení webu s přístupem na živý web: procházení webu je omezeno pouze na přístup k obsahu v mezipaměti. To znamená, že tuto funkci nelze použít k přenosu citlivých dat útočníkovi, zároveň to ale znamená, že výsledky vyhledávání mohou být poněkud omezené nebo zastaralé.

• Podpora obrázků: odpovědi ChatGPT nemohou obsahovat obrázky. Uživatelé mohou stále nahrávat vlastní obrazové soubory a mohou i nadále používat funkci generování obrázků.

• Hloubkový výzkum: Hloubkový výzkum je vypnutý.

• Režim agenta: Režim agenta je vypnutý.

• Síťování v Canvas: uživatelé nemohou schválit kódu generovanému v Canvas přístup k síti.

• Stahování souborů: ChatGPT nemůže stahovat soubory pro analýzu dat. Upozorňujeme, že ChatGPT může stále pracovat s vámi ručně nahranými soubory.

Taková konfigurace těchto funkcí je navržena tak, aby zabránila jejich využití v závěrečné fázi útoků na exfiltraci dat řízených injektáží promptů tím, že deterministicky zabrání odchozím síťovým požadavkům, které by mohly být odeslány útočníkovi k přenosu těchto dat. Upozorňujeme, že režim uzamčení nedokáže deterministicky zabránit tomu, aby se injektáž promptů vůbec dostala do kontextu (např. injektáž promptů může být v obsahu v mezipaměti zpřístupněném přes procházení webu); je navržen tak, aby zabránil síťovým požadavkům, které by mohly být použity k přenosu citlivých dat útočníkovi.

Upozorňujeme, že režim uzamčení neovlivňuje paměť, nahrávání souborů ani možnost sdílet konverzaci. Mnohé z nich mohou administrátoři pracovního prostoru konfigurovat nezávisle.

Upozorňujeme, že režim uzamčení neovlivňuje přístup k síti v Codex.

Jak režim uzamčení funguje s aplikacemi?

Aplikace (včetně MCP a konektorů) mohou komunikovat s internetem, takže nesou potenciální riziko zneužití útočníky k útokům na exfiltraci dat řízeným injektáží promptů, navzdory našim různým vícevrstvým bezpečnostním ochranným opatřením.

Protože mnoho důležitých pracovních postupů spoléhá na konkrétní důvěryhodné aplikace, režim uzamčení aplikace nevypíná. Administrátorům organizace však doporučujeme pečlivě nastavit, které aplikace a které akce v nich budou povoleny, a to jen v naprosto minimálním potřebném rozsahu.

Při konfiguraci aplikací pro členy se zapnutým režimem uzamčení doporučujeme administrátorům zvážit následující přehled popisující riziko exfiltrace dat u každé z nich:

• Střední riziko – používejte s opatrností pro uživatele v režimu uzamčení:

  • Synchronizační konektory: synchronizační konektory představují nízké riziko jako možný „cíl“ útoků na exfiltraci dat, protože přistupovaná data se synchronizují do OpenAI, takže dotazy nevedou k síťovým požadavkům opouštějícím síť OpenAI. Přesto mohou stále fungovat jako zdroje citlivých dat, která se mohou škodliví aktéři pokusit exfiltrovat z nich.

  • Akce čtení v důvěryhodných aplikacích: akce čtení v rámci důvěryhodných aplikací představují nízké riziko jako možný „cíl“ útoků na exfiltraci dat. Přesto mohou stále fungovat jako zdroje citlivých dat, která se mohou škodliví aktéři pokusit exfiltrovat.

  • Akce zápisu v důvěryhodných aplikacích, kde je zaručeno, že akce zápisu bude přístupná pouze těm, kterým důvěřujete: akce zápisu jsou ze své podstaty rizikovější než akce čtení, protože vedou k pozorovatelnému vedlejšímu účinku. Důrazně doporučujeme nepovolovat žádné akce zápisu, pokud si nejste vysoce jisti, že vedlejší účinek nemůže pozorovat žádný možný škodlivý aktér.

• Vysoké riziko – nedoporučuje se pro uživatele v režimu uzamčení:

  • Akce čtení nebo zápisu do nedůvěryhodných aplikací: důrazně doporučujeme nepovolovat aplikace, kterým nedůvěřujete

  • Akce zápisu v důvěryhodných aplikacích, kde není zaručeno, že akce zápisu bude přístupná pouze těm, kterým důvěřujete: důrazně doporučujeme nepovolovat akce zápisu, a to ani do aplikací, kterým důvěřujete, pokud nemáte úplnou jistotu, že vedlejší účinek takové akce zápisu rozhodně nemůže pozorovat žádný možný škodlivý aktér.

Kromě toho, a nezávisle na režimu uzamčení, poskytuje **platforma Compliance API Logs** podrobný přehled o používání aplikací, sdílených datech a připojených zdrojích, aby administrátorům pomáhala udržet si dohled s rozšiřováním možností AI.

Zapnutí režimu uzamčení pro členy vašeho pracovního prostoru

Administrátoři pracovního prostoru mohou vytvořit novou vlastní roli a označit ji jako roli „režim uzamčení“ a poté k této vlastní roli přiřadit skupinu uživatelů.

Časté dotazy

Kdo může zapnout režim uzamčení?

Administrátoři pracovního prostoru ho mohou povolit v Nastavení pracovního prostoru pomocí řízení přístupu na základě rolí.

Zabraňuje režim uzamčení všem útokům založeným na injektáži promptů?

Režim uzamčení je navržen tak, aby výrazně snížil riziko exfiltrace dat založené na injektáži promptů v ChatGPT a Atlasu, ale nezaručuje, že k ní nemůže dojít, například prostřednictvím povolených aplikací nebo nepředvídaných a nově objevených kombinací jiných funkcí. Režim uzamčení navíc neovlivňuje naše produkty Codex.

Režim uzamčení navíc nezabraňuje všem dalším účinkům útoků založených na injektáži promptů; například škodlivý útok skrytý v nahraném souboru může stále ovlivnit chování ChatGPT, například tím, že způsobí nesprávnou odpověď na vaši otázku.

Je režim uzamčení dostupný pro tarify Plus, Pro, Free nebo Teams?

Zatím ne. Je dostupný pro Enterprise, Edu, Healthcare a Teachers. V příštích měsících plánujeme jeho dostupnost rozšířit.

Mění režim uzamčení to, co se zaznamenává v platformě Compliance API Logs?

Platforma Compliance API Logs poskytuje podrobný přehled o používání aplikací, sdílených datech a připojených zdrojích. Tyto záznamy nejsou režimem uzamčení ovlivněny.