Pregled
Način zaklepa je lahko na voljo za upravičene osebne račune, samopostrežne račune ChatGPT Business in podprte upravljane delovne prostore. Razpoložljivost je odvisna od računa, delovnega prostora, trenutnega uvajanja izdelka in skrbniških nastavitev.
Način zaklepa je izbirna napredna varnostna nastavitev, ki omejuje številna orodja in zmožnosti v izdelkih OpenAI, ki se lahko povežejo s spletom ali zunanjimi storitvami. Z omejevanjem odhodnih omrežnih zahtev zmanjšuje tveganje odtujitve podatkov zaradi napadov z vstavljanjem zavajajočega poziva, vendar zato onemogoči ali omeji nekatere uporabne funkcije.
Način zaklepa ni namenjen vsem. Namenjen je ljudem in organizacijam, ki ravnajo z občutljivimi podatki in želijo strožjo zaščito pred tveganji odtujitve podatkov zaradi vstavljanja zavajajočega poziva.
Razpoložljivost
Za način zaklepa morate biti prijavljeni v račun, na voljo pa je le, če ga podpirajo vaš paket, delovni prostor, del izdelka in skrbniška konfiguracija.
Kako način zaklepa pomaga zmanjšati tveganje odtujitve podatkov
Vstavljanje zavajajočega poziva je zahteven raziskovalni problem. Nenehno izboljšujemo odpornost svojih večplastnih varnostnih sistemov, da bi uporabnike zaščitili pred takšnimi napadi.
Način zaklepa nadgrajuje zaščite na ravni modela, izdelka in sistema. To vključuje izvajanje v izoliranem okolju, zaščito pred odtujitvijo podatkov prek URL-jev, spremljanje in uveljavljanje pravil ter poslovne nadzorne mehanizme, kot sta dostop na podlagi vlog in dnevniki nadzora.
Način zaklepa z omejevanjem odhodnih omrežnih zahtev, prek katerih bi se občutljivi podatki lahko prenesli napadalcu, pomaga preprečiti zadnjo fazo odtujitve podatkov pri napadu z vstavljanjem zavajajočega poziva. Način zaklepa ne prepreči, da bi se vstavljeni zavajajoči pozivi pojavili v vsebini, ki jo obdeluje ChatGPT. Vstavljeni zavajajoči poziv bi se lahko na primer pojavil v predpomnjeni spletni vsebini ali naloženi datoteki in še vedno vplival na vedenje ali točnost odgovora.
Način zaklepa onemogoči ali omeji naslednje zmožnosti izdelkov OpenAI:
Brskanje po spletu v živo: brskanje je omejeno na predpomnjeno vsebino. Rezultati iskanja so lahko omejeni, nerazpoložljivi ali zastareli.
Podpora za slike: ChatGPT morda ne bo prikazal slik v običajnih odgovorih ali jih pridobil iz spleta. Uporabniki lahko še vedno nalagajo slikovne datoteke, generiranje slik pa ostane na voljo tam, kjer bi bilo na voljo sicer.
Poglobljeno raziskovanje: poglobljeno raziskovanje je onemogočeno.
Način agenta: način agenta je onemogočen.
Omrežni dostop v canvasu: uporabniki kodi, ustvarjeni v canvasu, ne morejo odobriti dostopa do omrežja.
Prenosi datotek: ChatGPT ne more prenesti datotek za analizo podatkov. ChatGPT lahko še vedno obdeluje datoteke, ki jih ročno naložite.
Način zaklepa ne vpliva na pomnilnik, nalaganje datotek, možnost deljenja pogovora ali na to, ali se vaši pogovori lahko uporabijo za izboljšanje modelov. Skrbniki delovnega prostora lahko številne od teh nastavitev nastavljajo ločeno.
Način zaklepa ne vpliva na omrežni dostop v Codex.
Aplikacije
Delovanje aplikacij in povezovalnikov v načinu zaklepa je odvisno od vrste računa in nastavitev delovnega prostora.
Pri osebnih računih in samopostrežnih računih ChatGPT Business način zaklepa prepreči neposreden dostop do zunanjih storitev in dejanja zapisovanja prek povezovalnikov, kadar so ta v nasprotju z njegovimi varnostnimi zaščitami. Za posamezne račune sinhronizacije aplikacij ni mogoče nastaviti. V upravičenem upravljanem delovnem prostoru je dostop do obstoječega vira, ki ga upravlja skrbnik, odvisen tudi od dovoljenj delovnega prostora in trenutnega pravilnika načina zaklepa. Nekatere povezane funkcije, vključno s Financami v ChatGPT in nakupovalnimi agenti, v načinu zaklepa niso na voljo.
V upravljanih delovnih prostorih aplikacije, protokole MCP in povezovalnike nadzirajo nastavitve delovnega prostora ter nadzor dostopa na podlagi vlog. Način zaklepa v teh delovnih prostorih ne onemogoči samodejno vseh aplikacij. Skrbniki delovnega prostora naj omogočijo samo zaupanja vredne aplikacije in dejanja, ki jih potrebujejo člani z načinom zaklepa.
Pri odpravljanju težav v upravljanem delovnem prostoru skupaj preverite članovo vlogo in nastavitve aplikacij. Član morda ne more uporabljati aplikacije, povezovalnika, protokola MCP ali dejanja, če:
je član ali skupina dodeljena vlogi načina zaklepa, ki omejuje zahtevano zmožnost
aplikacija ni dodeljena članu, skupini ali vlogi
zahtevano dejanje branja ali zapisovanja ni omogočeno
član nima dostopa do izvorne datoteke, repozitorija, kanala, zapisa ali izvornega sistema
druga vloga omogoča zahtevano zmožnost, vendar jo vloga načina zaklepa še vedno omejuje. Za obnovitev dostopa mora lastnik delovnega prostora člana ali skupino odstraniti iz vloge načina zaklepa.
Dostop do aplikacije v ChatGPT ne razveljavi dovoljenj v povezanem izvornem sistemu. Več informacij o dodeljevanju vlog najdete tukaj: RBAC.
Pri nastavljanju aplikacij za člane, ki uporabljajo način zaklepa, naj skrbniki upoštevajo tveganje odtujitve podatkov pri vsaki aplikaciji in dejanju.
Visoko tveganje
Te aplikacije in dejanja niso priporočljivi za uporabnike načina zaklepa:
Dejanja branja ali zapisovanja pri aplikacijah, ki niso vredne zaupanja, niso priporočljiva. Omogočite samo aplikacije, ki jim zaupate.
Dejanja zapisovanja pri zaupanja vrednih aplikacijah s široko ali nejasno vidljivostjo niso priporočljiva. Ne omogočajte dejanj zapisovanja niti pri zaupanja vrednih aplikacijah, če ne morete potrditi, da je stranski učinek skrit pred zlonamernim akterjem.
Srednje tveganje
Za uporabnike načina zaklepa jih uporabljajte previdno:
Indeksirani viri, ki jih upravljajo skrbniki, lahko zmanjšajo število odhodnih omrežnih zahtev, saj se vsebina pridobi iz obstoječega indeksa in ne z neposrednim klicem ponudnika. Še vedno lahko razkrijejo občutljive podatke, njihova razpoložljivost v načinu zaklepa pa je odvisna od delovnega prostora, vira in varnostnega pravilnika.
Dejanja branja pri zaupanja vrednih aplikacijah pomenijo manjše tveganje kot možna pot za odtujitev podatkov, saj nimajo stranskih učinkov zapisovanja. Še vedno so lahko vir občutljivih podatkov, ki jih utegne zlonamerni akter poskusiti odtujiti.
Dejanja zapisovanja pri zaupanja vrednih aplikacijah z omejeno vidljivostjo pomenijo večje tveganje kot dejanja branja, saj povzročijo stranske učinke. Omogočite jih le, če ste prepričani, da je vsak stranski učinek viden samo ljudem, ki jim zaupate, in ne zlonamernemu akterju.
Upravičeni skrbniki paketov Enterprise in Edu lahko z razpoložljivimi zapisi platforme za skladnost pregledajo podprto dejavnost aplikacij, odvisno od konfiguracije in dovoljenj delovnega prostora. Podrobnosti najdete tukaj: Platforma OpenAI za skladnost za stranke Enterprise in Edu.
Vklop načina zaklepa
Osebni računi in samopostrežni računi ChatGPT Business
Za upravičene osebne račune in samopostrežne račune ChatGPT Business:
Odprite Nastavitve.
Izberite Varnost.
V razdelku Napredna varnost vklopite Način zaklepa.
V potrditvenem oknu izberite Vklopi.
Načina zaklepa in načina za razvijalce ni mogoče uporabljati hkrati. Ko vklopite način zaklepa, se način za razvijalce izklopi. Če pozneje vklopite način za razvijalce, se način zaklepa izklopi.
Ko je način zaklepa vklopljen, ga lahko izklopite za posamezen klepet. V spletu izberite oznako NAČIN ZAKLEPA v polju za vnos, nato pa Izklopi za ta klepet.
Če želite nastavitev spremeniti v meniju klepeta:
Odprite meni z več možnostmi (•••).
Izberite Zaklep.
Izberite Onemogočeno, da ga izklopite za ta klepet, ali Omogočeno, da ga znova vklopite.
Če želite odpreti nastavitve Varnost za svoj račun, v pogovornem oknu polja za vnos izberite Upravljanje zaklepa.
Upravljani delovni prostori
Skrbniki delovnega prostora lahko ustvarijo vlogo po meri in jo označijo kot vlogo »načina zaklepa«, nato pa ji dodelijo člane ali skupine.
Pogosta vprašanja
Kdo lahko vklopi način zaklepa?
Uporabniki upravičenih osebnih računov in samopostrežnih računov ChatGPT Business lahko način zaklepa vklopijo v razdelku Nastavitve > Varnost, ko je na voljo za njihov račun. Skrbniki delovnega prostora lahko članom upravljanega delovnega prostora omogočijo način zaklepa z nadzorom dostopa na podlagi vlog.
Ali način zaklepa izklopi usposabljanje?
Ne. Način zaklepa ne spremeni tega, ali se vaši pogovori lahko uporabljajo za izboljšanje modelov. To lahko upravljate ločeno v kontrolnikih podatkov. Kontrolniki podatkov delovnega prostora so še naprej odvisni od paketa in nastavitev delovnega prostora.
Ali lahko v načinu zaklepa uporabljam generiranje slik?
Da. Način zaklepa omejuje podporo za slike v običajnih odgovorih ChatGPT in slike, pridobljene s spleta, vendar ne izklopi generiranja slik.
Ali lahko način zaklepa izklopim za posamezen klepet?
Da. V spletnem polju za vnos izberite oznako NAČIN ZAKLEPA, nato pa Izklopi za ta klepet. Nastavitev lahko spremenite tudi v meniju klepeta, kot je opisano zgoraj. Obe možnosti spremenita samo trenutni klepet.
Ali način zaklepa vpliva na Codex?
Ne. Način zaklepa ne vpliva na omrežni dostop v Codexu.
Ali način zaklepa prepreči vse napade z vstavljanjem zavajajočega poziva?
Način zaklepa je zasnovan tako, da v ChatGPT in podprtih izdelkih OpenAI občutno zmanjša tveganje odtujitve podatkov zaradi vstavljanja zavajajočega poziva, vendar ne zagotavlja, da do odtujitve podatkov ne more priti. Tveganje lahko ostane zaradi omogočenih aplikacij, nepredvidenih kombinacij zmožnosti ali na novo odkritih tehnik.
Način zaklepa prav tako ne prepreči vseh drugih posledic napadov z vstavljanjem zavajajočega poziva. Zlonamerno navodilo, skrito v naloženi datoteki, bi na primer še vedno lahko vplivalo na vedenje ChatGPT in povzročilo napačen odgovor.
Ali vstavljanje zavajajočega poziva pomeni veliko tveganje?
Vstavljanje zavajajočega poziva je znano varnostno tveganje, kadar sistem umetne inteligence obdeluje vsebino, ki ni vredna zaupanja. Način zaklepa lahko zmanjša nekatere možnosti za odtujitev podatkov, vendar ne prepreči vseh napadov z vstavljanjem zavajajočega poziva in ne odpravi vseh varnostnih tveganj.
Ali način zaklepa spremeni, kaj se beleži v platformi dnevnikov Skladnost API?
Način zaklepa sam po sebi ne spremeni, kateri zapisi platforme za skladnost so na voljo. Dostop do podatkov o skladnosti in njihovo hranjenje sta odvisna od upravičenega delovnega prostora, skrbniških dovoljenj in ustreznih nastavitev izdelka.