Prezentare generală

Modul de blocare este o setare avansată de securitate opțională care blochează multe instrumente și capabilități ale produselor OpenAI, împiedicându-le să acceseze rețeaua. Oferă protecție puternică, deterministă, împotriva atacurilor de exfiltrare a datelor bazate pe injectare solicitare, cu prețul dezactivării sau limitării multor funcții altfel utile.

Modul de blocare nu este destinat tuturor, ci este conceput pentru organizații, pentru a proteja datele sensibile ale membrilor care operează cu cel mai mare risc de atacuri de exfiltrare a datelor bazate pe injectare solicitare.

Disponibilitate

Modul de blocare este disponibil pentru ChatGPT Enterprise, Edu, ChatGPT for Healthcare și ChatGPT for Teachers.

Plănuim să facem Modul de blocare disponibil pentru planurile ChatGPT pentru consumatori și echipe în lunile următoare.

Cum protejează Modul de blocare împotriva atacurilor de exfiltrare bazate pe injectare solicitare?

Injectarea solicitare este o problemă de cercetare avansată și dificilă, iar noi lucrăm continuu pentru a consolida sistemele noastre de securitate și siguranță pe mai multe niveluri, pentru a proteja toți utilizatorii împotriva unor astfel de atacuri.

Pentru cei cu cel mai mare risc de astfel de atacuri, Modul de blocare oferă protecții de securitate deterministe prin dezactivarea multor instrumente și capabilități ale produselor OpenAI care folosesc rețeaua.

Modul de blocare se bazează pe protecțiile noastre existente la nivel de model, produs și sistem. Aceasta include sandboxing, protecții împotriva exfiltrării datelor bazate pe URL, monitorizare și aplicare, precum și controale enterprise precum accesul bazat pe roluri și jurnalele de audit.

Mai exact, pentru cei aflați în Modul de blocare, următoarele capabilități ale produselor OpenAI sunt dezactivate:

• Navigare pe web cu acces la webul live: navigarea pe web este limitată la accesarea exclusivă a conținutului din cache. Aceasta înseamnă că această capabilitate nu poate fi folosită pentru a transmite date sensibile unui atacator, deși înseamnă și că rezultatele căutării pot fi oarecum limitate sau neactualizate.

• Suport pentru imagini: răspunsurile ChatGPT nu pot include imagini. Utilizatorii își pot încărca în continuare propriile fișiere imagine și pot folosi în continuare capabilitatea de generare de imagini.

• Cercetare aprofundată: Cercetarea aprofundată este dezactivată.

• Modul agent: Modul agent este dezactivat.

• Rețea în Canvas: utilizatorii nu pot aproba codul generat în Canvas să acceseze rețeaua.

• Descărcări de fișiere: ChatGPT nu poate descărca fișiere pentru analiza datelor. Rețineți că ChatGPT poate opera în continuare asupra fișierelor încărcate manual de dvs.

Configurarea acestor funcții în acest mod este concepută pentru a împiedica folosirea lor în etapa finală a atacurilor de exfiltrare a datelor bazate pe injectare solicitare, prin prevenirea deterministă a solicitărilor de rețea de ieșire care ar putea fi trimise atacatorului pentru a transfera astfel de date. Rețineți că Modul de blocare nu împiedică în mod determinist injectările de solicitare să ajungă în context încă de la început (de ex., o injectare de solicitare ar putea exista în conținutul din cache accesat prin navigare pe web); în schimb, este conceput pentru a preveni solicitările de rețea care ar putea fi folosite pentru a transfera date sensibile către un atacator.

Rețineți că Modul de blocare nu afectează memoria, încărcările de fișiere și capacitatea de a partaja conversația. Multe dintre acestea pot fi configurate independent de administratorii spațiului de lucru.

Rețineți că Modul de blocare nu afectează accesul la rețea în Codex.

Cum funcționează Modul de blocare cu aplicațiile?

Aplicațiile (inclusiv MCP-urile și conectorii) pot interacționa cu internetul, așa că prezintă un risc potențial de a fi folosite de atacatori pentru atacuri de exfiltrare a datelor bazate pe injectare solicitare, în ciuda diverselor noastre protecții de securitate și siguranță pe mai multe niveluri.

Deoarece multe fluxuri de lucru importante se bazează pe anumite aplicații de încredere, Modul de blocare nu dezactivează aplicațiile, dar recomandăm administratorilor organizației să configureze cu atenție ce aplicații și ce acțiuni din ele sunt activate, la setul minim strict necesar.

Când configurează aplicațiile pentru membrii care au Modul de blocare activat, recomandăm administratorilor să ia în considerare următorul ghid, care descrie riscul de exfiltrare a datelor pentru fiecare:

• Risc mediu – utilizați cu prudență pentru utilizatorii din Modul de blocare:

  • Conectori de sincronizare: conectorii de sincronizare prezintă un risc scăzut ca posibil „destinatar” al atacurilor de exfiltrare a datelor, deoarece datele accesate sunt sincronizate cu OpenAI, astfel încât interogările nu duc la solicitări de rețea care ies din rețeaua OpenAI. Totuși, ei pot acționa în continuare ca surse de date sensibile din care actorii rău intenționați pot încerca să exfiltreze date.

  • Acțiuni de citire ale aplicațiilor de încredere: acțiunile de citire din aplicațiile de încredere prezintă un risc scăzut ca posibil „destinatar” al atacurilor de exfiltrare a datelor. Totuși, ele pot acționa în continuare ca surse de date sensibile din care actorii rău intenționați pot încerca să exfiltreze date.

  • Acțiuni de scriere ale aplicațiilor de încredere, unde se garantează că acțiunea de scriere este accesibilă numai celor în care aveți încredere: acțiunile de scriere sunt în mod inerent mai riscante decât acțiunile de citire, deoarece produc un efect secundar observabil. Recomandăm cu tărie să nu activați nicio acțiune de scriere decât dacă sunteți foarte sigur că efectul secundar nu este observabil de niciun actor rău intenționat posibil.

• Risc ridicat – nerecomandat pentru utilizatorii din Modul de blocare:

  • Acțiuni de citire sau scriere către aplicații care nu sunt de încredere: recomandăm cu tărie să nu activați aplicații în care nu aveți încredere

  • Acțiuni de scriere ale aplicațiilor de încredere, unde nu se garantează că acțiunea de scriere este accesibilă numai celor în care aveți încredere: recomandăm cu tărie să nu activați acțiuni de scriere, nici măcar către aplicații în care aveți încredere, dacă nu aveți deplină încredere că efectul secundar al unei astfel de acțiuni de scriere nu este cu siguranță observabil de niciun actor rău intenționat posibil.

În plus, și separat de Modul de blocare, **Compliance API Logs Platform** oferă vizibilitate detaliată asupra utilizării aplicațiilor, datelor partajate și surselor conectate pentru a-i ajuta pe administratori să mențină supravegherea pe măsură ce capabilitățile AI se extind.

Activarea Modului de blocare pentru membrii spațiului dvs. de lucru

Administratorii spațiului de lucru pot crea un nou rol personalizat și îl pot desemna ca rol „Mod de blocare”, apoi pot atribui un grup de utilizatori acelui rol personalizat.

Întrebări frecvente

Cine poate activa Modul de blocare?

Administratorii spațiului de lucru îl pot activa în Setările spațiului de lucru folosind controale de acces bazate pe roluri.

Modul de blocare previne toate atacurile de injectare solicitare?

Modul de blocare este conceput pentru a reduce substanțial riscul exfiltrării datelor bazate pe injectare solicitare în ChatGPT și Atlas, dar nu garantează că acest lucru nu se poate întâmpla, de exemplu prin Aplicații activate sau prin combinații neprevăzute și nou descoperite ale altor capabilități. În plus, Modul de blocare nu afectează produsele noastre Codex.

În plus, Modul de blocare nu previne toate celelalte efecte ale atacurilor de injectare solicitare; de exemplu, un atac malițios ascuns într-un fișier încărcat ar putea afecta în continuare comportamentul ChatGPT, de pildă făcând ChatGPT să răspundă incorect la întrebarea dvs.

Este Modul de blocare disponibil pe Plus, Pro, Free sau Teams?

Nu încă. Este disponibil pentru Enterprise, Edu, Healthcare și Teachers. Plănuim să îi extindem disponibilitatea în lunile următoare.

Modul de blocare schimbă ce este înregistrat în Compliance API Logs Platform?

Compliance API Logs Platform oferă vizibilitate detaliată asupra utilizării aplicațiilor, datelor partajate și surselor conectate. Astfel de jurnale nu sunt afectate de Modul de blocare.