Prehľad
Bezpečný režim môže byť dostupný pre oprávnené osobné účty, samoobslužné účty ChatGPT Business a podporované spravované pracovné priestory. Dostupnosť závisí od vášho účtu, pracovného priestoru, aktuálnej fázy zavádzania produktu a nastavení správcu.
Bezpečný režim je voliteľné rozšírené nastavenie zabezpečenia, ktoré obmedzuje mnohé nástroje a funkcie produktov OpenAI, ktoré sa môžu pripájať na web alebo k externým službám. Je navrhnutý tak, aby obmedzením odchádzajúcich sieťových požiadaviek znižoval riziko odcudzenia údajov pri útokoch využívajúcich vkladanie falošných príkazov. Niektoré užitočné funkcie sa tým však vypnú alebo obmedzia.
Bezpečný režim nie je určený pre každého. Je určený ľuďom a organizáciám, ktoré pracujú s citlivými údajmi a chcú prísnejšiu ochranu pred rizikom odcudzenia údajov súvisiacim s vkladaním falošných príkazov.
Dostupnosť
Bezpečný režim vyžaduje prihlásený účet a je dostupný iba tam, kde ho podporuje váš plán, pracovný priestor, rozhranie produktu a konfigurácia správcu.
Ako Bezpečný režim pomáha znižovať riziko odcudzenia údajov
Vkladanie falošných príkazov je náročný výskumný problém. Naše viacvrstvové systémy zabezpečenia a bezpečnosti neustále posilňujeme, aby sme používateľov chránili pred takýmito útokmi.
Bezpečný režim stavia na ochranných opatreniach na úrovni modelu, produktu aj systému. Patrí sem izolované spúšťanie, ochrana pred odcudzením údajov prostredníctvom adries URL, monitorovanie a presadzovanie pravidiel aj podnikové prvky, ako sú prístup na základe rolí a denníky auditu.
Bezpečný režim má pomáhať zabrániť záverečnej fáze odcudzenia údajov pri útoku využívajúcom vkladanie falošných príkazov tým, že obmedzuje odchádzajúce sieťové požiadavky, ktoré by mohli preniesť citlivé údaje útočníkovi. Bezpečný režim nezabráni tomu, aby sa v obsahu spracúvanom službou ChatGPT objavili falošné príkazy. Falošný príkaz sa môže objaviť napríklad vo webovom obsahu uloženom vo vyrovnávacej pamäti alebo v nahranom súbore a stále môže ovplyvniť správanie či presnosť odpovede.
Bezpečný režim vypína alebo obmedzuje nasledujúce funkcie produktov OpenAI:
Živé prehliadanie webu: Prehliadanie webu je obmedzené na obsah uložený vo vyrovnávacej pamäti. Výsledky vyhľadávania môžu byť obmedzené, nedostupné alebo neaktuálne.
Podpora obrázkov: ChatGPT nemusí v bežných odpovediach zobrazovať obrázky ani ich načítavať z webu. Používatelia môžu naďalej nahrávať obrazové súbory a generovanie obrázkov zostáva dostupné tam, kde je podporované.
Hlboký výskum: Hlboký výskum je vypnutý.
Režim agenta: Režim agenta je vypnutý.
Sieťové pripojenie canvasu: Používatelia nemôžu schváliť prístup kódu vygenerovaného v canvase k sieti.
Sťahovanie súborov: ChatGPT nemôže sťahovať súbory na analýzu údajov. ChatGPT môže naďalej pracovať so súbormi, ktoré nahráte manuálne.
Bezpečný režim nemení pamäť, nahrávanie súborov, možnosť zdieľať konverzáciu ani to, či sa vaše konverzácie môžu použiť na zlepšovanie modelov. Mnohé z týchto nastavení môžu správcovia pracovného priestoru konfigurovať samostatne.
Bezpečný režim neovplyvňuje prístup k sieti v Codex.
Aplikácie
Fungovanie aplikácií a konektorov v Bezpečnom režime závisí od typu účtu a nastavení pracovného priestoru.
V osobných účtoch a samoobslužných účtoch ChatGPT Business Bezpečný režim blokuje živý prístup k externým službám a akcie zápisu konektorov, ak sú v rozpore s jeho bezpečnostnými opatreniami. V individuálnych účtoch nemožno nakonfigurovať synchronizáciu aplikácií. V oprávnenom spravovanom pracovnom priestore závisí prístup k existujúcemu zdroju spravovanému správcom aj od povolení pracovného priestoru a aktuálnych pravidiel Bezpečného režimu. Niektoré prepojené funkcie vrátane financií v ChatGPT a nakupovania s agentom nie sú v Bezpečnom režime dostupné.
V spravovaných pracovných priestoroch sa aplikácie, servery MCP a konektory riadia nastaveniami pracovného priestoru a riadením prístupu na základe rolí. Bezpečný režim v týchto pracovných priestoroch automaticky nevypne každú aplikáciu. Správcovia pracovného priestoru by mali povoliť iba dôveryhodné aplikácie a akcie, ktoré potrebujú členovia používajúci Bezpečný režim.
Pri riešení problémov v spravovanom pracovnom priestore skontrolujte súčasne rolu člena aj nastavenia aplikácií. Člen nemusí mať možnosť použiť aplikáciu, konektor, server MCP alebo akciu, ak:
je člen alebo skupina priradená k role Bezpečného režimu, ktorá obmedzuje požadovanú funkciu
aplikácia nie je priradená členovi, skupine ani role
požadovaná akcia čítania alebo zápisu nie je povolená
člen nemá prístup k príslušnému súboru, repozitáru, kanálu, záznamu alebo zdrojovému systému
požadovanú funkciu udeľuje iná rola, no rola Bezpečného režimu ju naďalej obmedzuje. Ak chce vlastník pracovného priestoru obnoviť prístup, musí člena alebo skupinu odobrať z roly Bezpečného režimu.
Prístup k aplikácii v ChatGPT nemá prednosť pred povoleniami v pripojenom zdrojovom systéme. Ďalšie informácie o priraďovaní rolí nájdete v článku Riadenie prístupu na základe rolí (RBAC).
Pri konfigurácii aplikácií pre členov používajúcich Bezpečný režim by správcovia mali zvážiť riziko odcudzenia údajov pri každej aplikácii a akcii.
Vysoké riziko
Tieto aplikácie a akcie sa používateľom Bezpečného režimu neodporúčajú:
Akcie čítania alebo zápisu v nedôveryhodných aplikáciách sa neodporúčajú. Povoľte iba aplikácie, ktorým dôverujete.
Akcie zápisu v dôveryhodných aplikáciách so širokou alebo nejasnou viditeľnosťou sa neodporúčajú. Ak nemôžete potvrdiť, že vedľajší účinok nebude viditeľný pre útočníka, nepovoľujte akcie zápisu ani v dôveryhodných aplikáciách.
Stredné riziko
Pri používateľoch Bezpečného režimu používajte nasledujúce možnosti opatrne:
Indexované zdroje spravované správcom môžu obmedziť niektoré odchádzajúce sieťové požiadavky, pretože obsah sa načítava z existujúceho indexu, a nie živým volaním poskytovateľa. Stále však môžu sprístupniť citlivé informácie a ich dostupnosť v Bezpečnom režime závisí od pracovného priestoru, zdroja a bezpečnostných pravidiel.
Akcie čítania v dôveryhodných aplikáciách predstavujú menšie riziko ako možný cieľ odcudzenia údajov, pretože nevytvárajú vedľajšie účinky zápisu. Stále však môžu slúžiť ako zdroje citlivých údajov, ktoré sa útočník môže pokúsiť odcudziť.
Akcie zápisu v dôveryhodných aplikáciách s obmedzenou viditeľnosťou predstavujú vyššie riziko než akcie čítania, pretože vytvárajú vedľajšie účinky. Povoľte ich iba vtedy, keď ste si istí, že každý vedľajší účinok uvidia len ľudia, ktorým dôverujete, a nie útočník.
Oprávnení správcovia plánov Enterprise a Edu môžu pomocou dostupných záznamov Platformy pre súlad s predpismi kontrolovať podporovanú aktivitu aplikácií v závislosti od konfigurácie a povolení pracovného priestoru. Podrobnosti nájdete v článku Platforma OpenAI pre súlad s predpismi pre zákazníkov Enterprise a Edu.
Zapnúť Bezpečný režim
Osobné účty a samoobslužné účty ChatGPT Business
Pre oprávnené osobné účty a samoobslužné účty ChatGPT Business:
Prejdite do Nastavení.
Vyberte Zabezpečenie.
V časti Rozšírené zabezpečenie zapnite Bezpečný režim.
V potvrdzovacom okne vyberte Zapnúť.
Bezpečný režim a režim pre vývojárov nemožno používať súčasne. Zapnutím Bezpečného režimu sa vypne režim pre vývojárov. Ak neskôr zapnete režim pre vývojárov, Bezpečný režim sa vypne.
Keď je Bezpečný režim zapnutý, môžete ho vypnúť pre konkrétny čet. Vo webovej verzii vyberte v poli na písanie štítok BEZPEČNÝ REŽIM a potom možnosť Vypnúť pre tento čet.
Ak chcete zmeniť nastavenie v ponuke četu:
Otvorte ponuku ďalších možností (•••).
Vyberte Bezpečný režim.
Výberom možnosti Vypnuté ho pre tento čet vypnete a výberom možnosti Zapnuté ho znova zapnete.
Ak chcete otvoriť nastavenia Zabezpečenia svojho účtu, v dialógovom okne poľa na písanie vyberte Spravovať Bezpečný režim.
Spravované pracovné priestory
Správcovia pracovného priestoru môžu vytvoriť vlastnú rolu a označiť ju ako rolu „Bezpečný režim“ a potom k nej priradiť členov alebo skupiny.
Časté otázky
Kto môže zapnúť Bezpečný režim?
Používatelia oprávnených osobných účtov a samoobslužných účtov ChatGPT Business môžu Bezpečný režim zapnúť v časti Nastavenia > Zabezpečenie, keď je pre ich účet dostupný. Správcovia pracovného priestoru môžu Bezpečný režim povoliť členom spravovaného pracovného priestoru pomocou riadenia prístupu na základe rolí.
Vypína Bezpečný režim tréning?
Nie. Bezpečný režim nemení to, či sa vaše konverzácie môžu použiť na zlepšovanie modelov. Toto môžete spravovať samostatne v ovládacích prvkoch údajov. Ovládacie prvky údajov pracovného priestoru naďalej závisia od plánu a nastavení pracovného priestoru.
Môžem používať generovanie obrázkov v Bezpečnom režime?
Áno. Bezpečný režim obmedzuje podporu obrázkov v bežných odpovediach ChatGPT a obrázky odvodené z webu, ale nevypína generovanie obrázkov.
Môžem Bezpečný režim vypnúť pre jeden čet?
Áno. Vo webovom poli na písanie vyberte štítok BEZPEČNÝ REŽIM a potom možnosť Vypnúť pre tento čet. Nastavenie môžete zmeniť aj v ponuke četu podľa vyššie uvedeného postupu. Obe možnosti zmenia iba aktuálny čet.
Ovplyvňuje Bezpečný režim Codex?
Nie. Bezpečný režim neovplyvňuje prístup k sieti v Codex.
Zabráni Bezpečný režim všetkým útokom využívajúcim vkladanie falošných príkazov?
Bezpečný režim je navrhnutý tak, aby v ChatGPT a podporovaných produktoch OpenAI výrazne znižoval riziko odcudzenia údajov prostredníctvom vkladania falošných príkazov, nezaručuje však, že k odcudzeniu údajov nemôže dôjsť. Riziko môže pretrvávať v dôsledku povolených aplikácií, nepredvídaných kombinácií funkcií alebo novoobjavených techník.
Bezpečný režim nezabráni ani všetkým ostatným dôsledkom útokov využívajúcich vkladanie falošných príkazov. Škodlivý príkaz skrytý v nahranom súbore môže napríklad naďalej ovplyvniť správanie služby ChatGPT a spôsobiť nesprávnu odpoveď.
Predstavuje vkladanie falošných príkazov veľké riziko?
Vkladanie falošných príkazov je známe bezpečnostné riziko, keď systém umelej inteligencie spracúva nedôveryhodný obsah. Bezpečný režim môže obmedziť niektoré spôsoby odcudzenia údajov, nezabráni však každému útoku využívajúcemu vkladanie falošných príkazov ani neodstráni všetky bezpečnostné riziká.
Mení Bezpečný režim údaje zaznamenávané v platforme denníkov Rozhrania API na dodržiavanie súladu?
Bezpečný režim sám osebe nemení, ktoré záznamy Platformy pre súlad s predpismi sú k dispozícii. Prístup k údajom o súlade a dĺžka ich uchovávania závisia od oprávneného pracovného priestoru, povolení správcu a príslušných nastavení produktu.