Produsele AI pot fi mai utile atunci când sunt conectate la aplicațiile dvs. și la web, iar noi am investit masiv în menținerea securității datelor conectate împotriva riscurilor precum atacurile de injectare solicitare. Produsele noastre au numeroase protecții existente la nivel de model, produs și sistem. Acestea includ izolarea în sandbox, protecții împotriva exfiltrării datelor prin URL-uri, monitorizare și aplicare, precum și controale pentru întreprinderi, cum ar fi accesul bazat pe roluri și jurnalele de audit.
În același timp, unele funcționalități legate de rețea introduc riscuri noi, în special injectări solicitare, care nu sunt încă pe deplin abordate de măsurile de siguranță și securitate din industrie. Unii utilizatori pot fi confortabili să își asume aceste riscuri, iar noi credem că este important ca utilizatorii să aibă capacitatea de a decide dacă și cum să le folosească, mai ales atunci când lucrează cu datele lor private.
Pentru ca astfel de riscuri să fie mai ușor de înțeles, ne propunem să comunicăm acest risc folosind o etichetă, o terminologie și o pictogramă consecvente pentru „Risc ridicat” (semnul exclamării în interiorul unui scut), într-un mod care are sens pentru fiecare funcție și produs. Această etichetare oferă utilizatorilor vizibilitate și control suplimentare peste protecțiile existente.
Notă: funcțiile etichetate „Risc ridicat” sunt oferite opțional și cu acces timpuriu, în afara declarațiilor și garanțiilor standard pe care le oferim pentru serviciile noastre disponibile în general. Utilizatorii ar trebui să activeze aceste funcții numai dacă înțeleg și acceptă riscurile suplimentare.
Ce înseamnă „Risc ridicat”?
Când o funcționalitate poartă eticheta „Risc ridicat”, aceasta indică faptul că utilizarea ei implică anumite riscuri care nu sunt încă pe deplin contracarate de măsurile de siguranță și securitate din industrie. De fiecare dată când vedeți această etichetă, veți găsi de obicei informații despre riscurile pe care le implică utilizarea funcționalității și aspectele la care trebuie să fiți atenți, adesea printr-un link „Aflați mai multe”.
De exemplu, în Codex, asistentul nostru de programare, dezvoltatorii îi pot acorda lui Codex acces la rețea, astfel încât să poată efectua acțiuni pe web, cum ar fi căutarea documentației. Această funcționalitate implică și un risc ridicat de atacuri de tip injectare solicitare. Prin urmare, ecranul cu setările relevante include eticheta „Risc ridicat”, alături de o explicație clară privind schimbările produse, riscurile care pot apărea și situațiile în care acest acces este adecvat.
Cel mai frecvent risc ridicat asociat funcționalităților cu această etichetă îl reprezintă atacurile de tip injectare solicitare.
Pe măsură ce măsurile de protecție se îmbunătățesc, este posibil să eliminăm eticheta „Risc ridicat” atunci când stabilim că riscurile pentru utilizatori au fost reduse în mod rezonabil.