Pregled
Lockdown režim može biti dostupan za lične i samouslužne ChatGPT Business račune koji ispunjavaju uslove te za podržane upravljane radne prostore. Dostupnost zavisi od vašeg računa, radnog prostora, trenutne faze uvođenja proizvoda i administratorskih postavki.
Lockdown režim je opcionalna napredna sigurnosna postavka koja ograničava brojne alate i mogućnosti u proizvodima OpenAI koji se mogu povezati s webom ili vanjskim uslugama. Osmišljen je da smanji rizik od izvlačenja podataka putem napada ubrizgavanjem upita ograničavanjem odlaznih mrežnih zahtjeva, uz onemogućavanje ili ograničavanje nekih korisnih funkcija.
Lockdown režim nije namijenjen svima. Namijenjen je osobama i organizacijama koje rade s osjetljivim podacima i žele strožu zaštitu od rizika izvlačenja podataka povezanih s ubrizgavanjem upita.
Dostupnost
Lockdown režim zahtijeva prijavljen račun i dostupan je samo ako je podržan za vaš paket, radni prostor, dio proizvoda i administratorsku konfiguraciju.
Kako Lockdown režim pomaže smanjiti rizik od izvlačenja podataka
Ubrizgavanje upita predstavlja složen istraživački problem. Stalno radimo na jačanju naših višeslojnih sistema sigurnosti i zaštite kako bismo korisnike zaštitili od takvih napada.
Lockdown režim nadograđuje zaštitu na nivou modela, proizvoda i sistema. To obuhvata izolirano izvršavanje, zaštitu od izvlačenja podataka putem URL-ova, nadzor i provedbu pravila te kontrole za poslovne korisnike, poput pristupa zasnovanog na ulogama i evidencija revizije.
Lockdown režim osmišljen je da pomogne spriječiti završnu fazu izvlačenja podataka pri napadu ubrizgavanjem upita ograničavanjem odlaznih mrežnih zahtjeva koji bi mogli prenijeti osjetljive podatke napadaču. Lockdown režim ne sprečava pojavljivanje ubrizganih upita u sadržaju koji ChatGPT obrađuje. Naprimjer, ubrizgani upit mogao bi se pojaviti u keširanom web-sadržaju ili prenesenoj datoteci i i dalje utjecati na ponašanje ili tačnost odgovora.
Lockdown režim onemogućava ili ograničava sljedeće mogućnosti proizvoda OpenAI:
Pregledavanje weba uživo: pregledavanje weba ograničeno je na keširani sadržaj. Rezultati pretraživanja mogu biti ograničeni, nedostupni ili zastarjeli.
Podrška za slike: ChatGPT možda neće prikazivati slike u uobičajenim odgovorima niti ih dohvaćati s weba. Korisnici i dalje mogu prenositi slikovne datoteke, a generiranje slike ostaje dostupno tamo gdje je inače dostupno.
Duboko istraživanje: duboko istraživanje je onemogućeno.
Režim agenta: režim agenta je onemogućen.
Mrežni pristup canvasa: korisnici ne mogu odobriti pristup mreži kodu generiranom u canvasu.
Preuzimanje datoteka: ChatGPT ne može preuzimati datoteke radi analize podataka. ChatGPT i dalje može raditi s datotekama koje ručno prenesete.
Lockdown režim ne mijenja memoriju, prijenos datoteka, mogućnost dijeljenja razgovora ni to mogu li se vaši razgovori koristiti za poboljšanje modela. Administratori radnog prostora mogu zasebno konfigurirati mnoge od ovih postavki.
Lockdown režim ne utječe na mrežni pristup u Codexu.
Aplikacije
Način rada aplikacija i konektora u Lockdown režimu zavisi od vrste računa i postavki radnog prostora.
Za lične i samouslužne ChatGPT Business račune Lockdown režim blokira pristup vanjskim uslugama uživo i radnje pisanja konektora kada su te radnje u sukobu s njegovim sigurnosnim mjerama. Na pojedinačnim računima nije moguće konfigurirati sinhronizaciju aplikacija. U podržanom upravljanom radnom prostoru pristup postojećem izvoru kojim upravlja administrator zavisi i od dozvola radnog prostora te trenutnih pravila Lockdown režima. Neke povezane funkcije, uključujući Finansije u ChatGPT-u i funkcije agenata za kupovinu, nisu dostupne u Lockdown režimu.
U upravljanim radnim prostorima aplikacije, MCP-ovi i konektori kontroliraju se postavkama radnog prostora i kontrolama pristupa zasnovanim na ulogama. Lockdown režim ne onemogućava automatski sve aplikacije u tim radnim prostorima. Administratori radnog prostora trebaju omogućiti samo pouzdane aplikacije i radnje koje su potrebne članovima koji koriste Lockdown režim.
Pri rješavanju problema u upravljanom radnom prostoru zajedno provjerite ulogu člana i postavke aplikacije. Član možda neće moći koristiti aplikaciju, konektor, MCP ili radnju ako:
je član ili grupa dodijeljena ulozi Lockdown režima koja ograničava potrebnu mogućnost
aplikacija nije dodijeljena članu, grupi ili ulozi
potrebna radnja čitanja ili pisanja nije omogućena
član nema pristup osnovnoj datoteci, repozitoriju, kanalu, zapisu ili izvornom sistemu
druga uloga omogućava potrebnu mogućnost, ali je uloga Lockdown režima i dalje ograničava. Da bi se pristup vratio, vlasnik radnog prostora mora ukloniti člana ili grupu iz uloge Lockdown režima.
Pristup aplikaciji u ChatGPT-u ne poništava dozvole u povezanom izvornom sistemu. Više informacija o dodjeljivanju uloga potražite ovdje: RBAC.
Pri konfiguriranju aplikacija za članove koji koriste Lockdown režim administratori trebaju uzeti u obzir rizik od izvlačenja podataka za svaku aplikaciju i radnju.
Visok rizik
Ove aplikacije i radnje ne preporučuju se korisnicima Lockdown režima:
Ne preporučuju se radnje čitanja ili pisanja za nepouzdane aplikacije. Omogućite samo aplikacije kojima vjerujete.
Ne preporučuju se radnje pisanja za pouzdane aplikacije sa širokom ili nejasnom vidljivošću. Nemojte omogućavati radnje pisanja, čak ni za pouzdane aplikacije, ako ne možete potvrditi da je njihova posljedica skrivena od zlonamjernog aktera.
Srednji rizik
Za korisnike Lockdown režima koristite ih oprezno:
Indeksirani izvori kojima upravlja administrator mogu smanjiti broj odlaznih mrežnih zahtjeva jer se sadržaj dohvaća iz postojećeg indeksa umjesto pozivom pružatelju usluge uživo. I dalje mogu izložiti osjetljive informacije, a njihova dostupnost u Lockdown režimu zavisi od radnog prostora, izvora i sigurnosnih pravila.
Radnje čitanja u pouzdanim aplikacijama predstavljaju manji rizik kao moguće odredište za izvlačenje podataka jer ne stvaraju posljedice pisanja. I dalje mogu biti izvori osjetljivih podataka koje zlonamjerni akter može pokušati izvući.
Radnje pisanja u pouzdanim aplikacijama s ograničenom vidljivošću rizičnije su od radnji čitanja jer stvaraju dodatne posljedice. Omogućite ih samo ako ste sigurni da su sve posljedice vidljive isključivo osobama kojima vjerujete, a ne zlonamjernom akteru.
Administratori Enterprise i Edu računa koji ispunjavaju uslove mogu koristiti dostupne zapise platforme za usklađenost radi pregleda podržanih aktivnosti aplikacija, u skladu s konfiguracijom i dozvolama radnog prostora. Više detalja potražite ovdje: OpenAI platforma za usklađenost za Enterprise i Edu korisnike.
Uključi Lockdown režim
Lični i samouslužni ChatGPT Business računi
Za lične račune i samouslužne ChatGPT Business račune koji ispunjavaju uslove:
Idite na Postavke.
Odaberite Sigurnost.
U odjeljku Napredna sigurnost uključite Lockdown režim.
U prozoru za potvrdu odaberite Uključi.
Lockdown režim i razvojni režim ne mogu se koristiti istovremeno. Uključivanjem Lockdown režima isključuje se razvojni režim. Ako kasnije uključite razvojni režim, Lockdown režim će se isključiti.
Kada je Lockdown režim uključen, možete ga isključiti za jedan razgovor. Na webu odaberite oznaku LOCKDOWN REŽIM u polju za unos, a zatim Isključi za ovaj razgovor.
Da biste promijenili postavku iz menija razgovora:
Otvorite meni s dodatnim opcijama (•••).
Odaberite Lockdown.
Odaberite Onemogućeno da ga isključite za ovaj razgovor ili Omogućeno da ga ponovo uključite.
Da biste otvorili postavke Sigurnosti svog računa, u dijaloškom okviru polja za unos odaberite Upravljaj Lockdown režimom.
Upravljani radni prostori
Administratori radnog prostora mogu kreirati prilagođenu ulogu i označiti je kao ulogu „Lockdown režima“, a zatim joj dodijeliti članove ili grupe.
Česta pitanja
Ko može uključiti Lockdown režim?
Korisnici ličnih i samouslužnih ChatGPT Business računa koji ispunjavaju uslove mogu uključiti Lockdown režim u odjeljku Postavke > Sigurnost kada je dostupan za njihov račun. Administratori radnog prostora mogu omogućiti Lockdown režim članovima upravljanog radnog prostora pomoću kontrola pristupa zasnovanih na ulogama.
Isključuje li Lockdown režim obuku?
Ne. Lockdown režim ne mijenja to da li se vaši razgovori mogu koristiti za poboljšanje modela. Ovim možete zasebno upravljati u kontrolama podataka. Kontrole podataka radnog prostora i dalje zavise od plana i postavki radnog prostora.
Mogu li koristiti generiranje slike u Lockdown režimu?
Da. Lockdown režim ograničava podršku za slike u uobičajenim ChatGPT odgovorima i slikama izvedenim s weba, ali ne isključuje generiranje slike.
Mogu li isključiti Lockdown režim za jedan razgovor?
Da. Odaberite oznaku LOCKDOWN REŽIM u web-polju za unos, a zatim odaberite Isključi za ovaj razgovor. Postavku možete promijeniti i iz menija razgovora, kao što je prethodno opisano. Obje opcije mijenjaju samo trenutni razgovor.
Utječe li Lockdown režim na Codex?
Ne. Lockdown režim ne utječe na mrežni pristup u Codexu.
Sprečava li Lockdown režim sve napade ubrizgavanjem upita?
Lockdown režim osmišljen je da znatno smanji rizik od izvlačenja podataka zasnovanog na ubrizgavanju upita u ChatGPT-u i podržanim proizvodima OpenAI, ali ne garantira da do izvlačenja podataka ne može doći. Rizik može ostati zbog omogućenih aplikacija, nepredviđenih kombinacija mogućnosti ili novootkrivenih tehnika.
Lockdown režim također ne sprečava sve druge posljedice napada ubrizgavanjem upita. Naprimjer, zlonamjerna uputa skrivena u prenesenoj datoteci i dalje bi mogla utjecati na ponašanje ChatGPT-a i dovesti do netačnog odgovora.
Predstavlja li ubrizgavanje upita veliki rizik?
Ubrizgavanje upita poznat je sigurnosni rizik kada AI sistem obrađuje nepouzdan sadržaj. Lockdown režim može smanjiti neke načine izvlačenja podataka, ali ne sprečava svaki napad ubrizgavanjem upita niti uklanja sve sigurnosne rizike.
Mijenja li Lockdown režim podatke koji se bilježe na platformi evidencije Compliance API-ja?
Lockdown režim sam po sebi ne mijenja dostupne zapise platforme za usklađenost. Pristup podacima o usklađenosti i njihovo zadržavanje zavise od radnog prostora koji ispunjava uslove, administratorskih dozvola i primjenjivih postavki proizvoda.