Prezentare generală
Modul de blocare poate fi disponibil pentru conturile personale eligibile, conturile ChatGPT Business cu autoservire și spațiile de lucru gestionate acceptate. Disponibilitatea depinde de contul și spațiul dvs. de lucru, de etapa actuală a lansării produsului și de setările administratorului.
Modul de blocare este o setare opțională de securitate avansată care limitează numeroase instrumente și capacități din produsele OpenAI ce se pot conecta la web sau la servicii externe. Este conceput pentru a reduce riscul exfiltrării datelor în urma atacurilor de tip injectare solicitare, limitând solicitările de rețea către exterior, cu prețul dezactivării sau limitării unor funcții utile.
Modul de blocare nu este destinat tuturor. Este conceput pentru persoanele și organizațiile care gestionează date sensibile și doresc o protecție mai strictă împotriva riscurilor de exfiltrare a datelor asociate cu injectare solicitare.
Disponibilitate
Modul de blocare necesită un cont autentificat și este disponibil numai dacă este acceptat pentru abonamentul, spațiul de lucru, interfața produsului și configurația administratorului dvs.
Cum contribuie Modul de blocare la reducerea riscului de exfiltrare a datelor
Injectarea solicitării este o problemă dificilă de cercetare. Lucrăm constant la consolidarea sistemelor noastre multistrat de securitate și siguranță pentru a proteja utilizatorii împotriva acestor atacuri.
Modul de blocare se bazează pe protecții la nivel de model, produs și sistem. Printre acestea se numără izolarea în medii sandbox, protecțiile împotriva exfiltrării datelor prin URL-uri, monitorizarea și aplicarea regulilor, precum și controale pentru organizații, cum ar fi accesul bazat pe roluri și jurnalele de audit.
Modul de blocare este conceput pentru a preveni etapa finală a exfiltrării datelor în urma unui atac de tip injectare solicitare, limitând solicitările de rețea către exterior care ar putea transfera date sensibile unui atacator. Modul de blocare nu împiedică apariția injectărilor de solicitări în conținutul procesat de ChatGPT. De exemplu, o injectare a solicitării ar putea apărea în conținut web memorat în cache sau într-un fișier încărcat și ar putea afecta în continuare comportamentul ori acuratețea unui răspuns.
Modul de blocare dezactivează sau limitează următoarele capacități ale produselor OpenAI:
Navigare web în timp real: navigarea web este limitată la conținutul memorat în cache. Rezultatele căutării pot fi limitate, indisponibile sau neactualizate.
Compatibilitate cu imaginile: este posibil ca ChatGPT să nu afișeze imagini în răspunsurile obișnuite sau să nu poată prelua imagini de pe web. Utilizatorii pot încărca în continuare fișiere imagine, iar generarea de imagini rămâne disponibilă acolo unde este disponibilă în mod normal.
Cercetare aprofundată: cercetarea aprofundată este dezactivată.
Mod agent: Modul agent este dezactivat.
Accesul Canvas la rețea: utilizatorii nu pot aproba accesul la rețea pentru codul generat de Canvas.
Descărcări de fișiere: ChatGPT nu poate descărca fișiere pentru analiza datelor. ChatGPT poate prelucra în continuare fișierele încărcate manual de dvs.
Modul de blocare nu modifică memoria, încărcarea fișierelor, posibilitatea de a distribui o conversație sau folosirea eventuală a conversațiilor dvs. pentru îmbunătățirea modelelor. Multe dintre aceste setări pot fi configurate separat de administratorii spațiului de lucru.
Modul de blocare nu afectează accesul la rețea în Codex.
Aplicații
Modul în care funcționează aplicațiile și conectorii în Modul de blocare depinde de tipul contului și de setările spațiului de lucru.
Pentru conturile personale și conturile ChatGPT Business cu autoservire, Modul de blocare împiedică accesul în timp real la servicii externe și acțiunile de scriere ale conectorilor atunci când acestea contravin protecțiilor sale de securitate. Conturile individuale nu pot configura sincronizarea aplicațiilor. Într-un spațiu de lucru gestionat eligibil, accesul la o sursă existentă gestionată de administrator depinde și de permisiunile spațiului de lucru și de politica actuală privind Modul de blocare. Unele experiențe conectate, inclusiv Finanțe în ChatGPT și experiențele cu agenți de cumpărături, nu sunt disponibile în Modul de blocare.
Pentru spațiile de lucru gestionate, aplicațiile, MCP-urile și conectorii sunt controlați prin setările spațiului de lucru și controalele accesului bazat pe roluri. Modul de blocare nu dezactivează automat toate aplicațiile din aceste spații de lucru. Administratorii spațiului de lucru trebuie să activeze numai aplicațiile și acțiunile de încredere de care au nevoie membrii care utilizează Modul de blocare.
Pentru depanarea unui spațiu de lucru gestionat, verificați împreună rolul membrului și setările aplicației. Este posibil ca un membru să nu poată utiliza o aplicație, un conector, un MCP sau o acțiune dacă:
membrului sau grupului i-a fost atribuit un rol pentru Modul de blocare care limitează capacitatea necesară
aplicația nu este atribuită membrului, grupului sau rolului
acțiunea necesară de citire sau scriere nu este activată
membrul nu are acces la fișierul, depozitul, canalul, înregistrarea sau sistemul-sursă aferent
un alt rol acordă capacitatea necesară, dar un rol pentru Modul de blocare continuă să o restricționeze. Pentru a restabili accesul, un proprietar al spațiului de lucru trebuie să elimine membrul sau grupul din rolul pentru Modul de blocare.
Accesul la aplicații în ChatGPT nu înlocuiește permisiunile din sistemul-sursă conectat. Pentru mai multe informații despre atribuirea rolurilor, consultați: RBAC.
Când configurează aplicații pentru membrii care utilizează Modul de blocare, administratorii trebuie să evalueze riscul de exfiltrare a datelor pentru fiecare aplicație și acțiune.
Risc ridicat
Aceste aplicații și acțiuni nu sunt recomandate utilizatorilor aflați în Modul de blocare:
Acțiunile de citire sau scriere pentru aplicațiile care nu sunt de încredere nu sunt recomandate. Activați numai aplicațiile în care aveți încredere.
Acțiunile de scriere pentru aplicațiile de încredere cu vizibilitate extinsă sau incertă nu sunt recomandate. Evitați să activați acțiunile de scriere, chiar și pentru aplicațiile de încredere, dacă nu puteți confirma că efectul secundar nu este vizibil pentru un actor rău-intenționat.
Risc mediu
Folosiți-le cu prudență pentru utilizatorii aflați în Modul de blocare:
Sursele indexate gestionate de administrator pot reduce unele solicitări de rețea către exterior, deoarece conținutul este preluat dintr-un index existent, nu printr-un apel în timp real către furnizor. Acestea pot expune totuși informații sensibile, iar disponibilitatea lor în Modul de blocare depinde de spațiul de lucru, de sursă și de politica de securitate.
Acțiunile de citire pentru aplicațiile de încredere prezintă un risc mai redus ca posibilă destinație a exfiltrării datelor, deoarece nu produc efecte secundare de scriere. Totuși, acestea pot fi surse de date sensibile pe care un actor rău-intenționat ar putea încerca să le exfiltreze.
Acțiunile de scriere pentru aplicațiile de încredere cu vizibilitate limitată prezintă un risc mai mare decât acțiunile de citire, deoarece produc efecte secundare. Activați-le numai dacă sunteți sigur că orice efect secundar este vizibil doar persoanelor în care aveți încredere, nu și unui actor rău-intenționat.
Administratorii Enterprise și Edu eligibili pot utiliza înregistrările disponibile din Platforma de conformitate pentru a examina activitatea acceptată a aplicațiilor, în funcție de configurația și permisiunile spațiului de lucru. Pentru detalii, consultați: Platforma de conformitate OpenAI pentru clienții Enterprise și Edu.
Activează Mod de blocare
Conturi personale și conturi ChatGPT Business cu autoservire
Pentru conturile personale eligibile și conturile ChatGPT Business cu autoservire:
Accesați Setări.
Selectați Securitate.
În secțiunea Securitate avansată, activați Mod de blocare.
În fereastra de confirmare, selectați Activați.
Modul de blocare și Modul pentru dezvoltatori nu pot fi utilizate simultan. Activarea Modului de blocare dezactivează Modul pentru dezvoltatori. Activarea ulterioară a Modului pentru dezvoltatori dezactivează Modul de blocare.
Când Modul de blocare este activat, îl puteți dezactiva pentru un singur chat. Pe web, selectați eticheta MOD DE BLOCARE din caseta de compunere, apoi selectați Dezactivați pentru acest chat.
Pentru a modifica setarea din meniul chatului:
Deschideți meniul cu mai multe opțiuni (•••).
Selectați Blocare.
Selectați Dezactivat pentru a-l dezactiva în acest chat sau Activat pentru a-l reactiva.
Pentru a deschide setările de Securitate ale contului, selectați Gestionați blocarea în fereastra casetei de compunere.
Spații de lucru gestionate
Administratorii spațiilor de lucru pot crea un rol personalizat și îl pot desemna drept rol „Mod de blocare”, apoi pot aloca membri sau grupuri acestuia.
Întrebări frecvente
Cine poate activa Modul de blocare?
Utilizatorii conturilor personale eligibile și ai conturilor ChatGPT Business cu autoservire pot activa Modul de blocare din Setări > Securitate, atunci când acesta este disponibil pentru contul lor. Administratorii spațiului de lucru pot activa Modul de blocare pentru membrii spațiilor de lucru gestionate folosind controale ale accesului bazat pe roluri.
Mod de blocare dezactivează instruirea?
Nu. Mod de blocare nu schimbă dacă conversațiile tale pot fi folosite pentru a îmbunătăți modelele. Poți gestiona acest lucru separat în controalele de date. Controalele de date ale spațiului de lucru continuă să depindă de planul și setările spațiului de lucru.
Pot folosi generare de imagini în Mod de blocare?
Da. Mod de blocare limitează suportul pentru imagini în răspunsurile obișnuite ChatGPT și imaginile derivate de pe web, dar nu dezactivează generare de imagini.
Pot dezactiva Modul de blocare pentru un singur chat?
Da. Selectați eticheta MOD DE BLOCARE din caseta de compunere web, apoi selectați Dezactivați pentru acest chat. De asemenea, puteți modifica setarea din meniul chatului, așa cum este descris mai sus. Ambele opțiuni modifică numai chatul curent.
Mod de blocare afectează Codex?
Nu. Mod de blocare nu afectează accesul la rețea în Codex.
Modul de blocare previne toate atacurile de injectare a solicitării?
Modul de blocare este conceput pentru a reduce semnificativ riscul exfiltrării datelor bazate pe injectare solicitare în ChatGPT și în produsele OpenAI acceptate, dar nu garantează că exfiltrarea datelor nu poate avea loc. Riscul poate persista din cauza aplicațiilor activate, a unor combinații neprevăzute de capacități sau a tehnicilor nou-descoperite.
De asemenea, Modul de blocare nu previne toate celelalte efecte ale atacurilor de tip injectare solicitare. De exemplu, o instrucțiune rău-intenționată ascunsă într-un fișier încărcat ar putea afecta în continuare comportamentul ChatGPT și ar putea genera un răspuns incorect.
Injectarea solicitării reprezintă un risc major?
Injectarea solicitării este un risc de securitate cunoscut atunci când un sistem de IA procesează conținut care nu este de încredere. Modul de blocare poate reduce unele căi de exfiltrare a datelor, dar nu previne toate atacurile de injectare a solicitării și nici nu elimină toate riscurile de securitate.
Modul de blocare schimbă informațiile înregistrate în Platforma de jurnale API de conformitate?
Modul de blocare nu modifică, în sine, înregistrările disponibile în Platforma de conformitate. Accesul la datele de conformitate și păstrarea acestora depind de spațiul de lucru eligibil, de permisiunile administratorului și de setările aplicabile ale produsului.