Modelele de bază ale OpenAI, inclusiv cele pe care se bazează ChatGPT, sunt dezvoltate folosind trei surse principale de informații: (1) informații disponibile public pe internet, (2) informații la care avem acces prin parteneriate cu terți și (3) informații furnizate sau generate de utilizatorii noștri, de instructori umani și de cercetători.
Dezvoltarea modelelor de bază, precum cele folosite în ChatGPT, presupune mai multe etape, inclusiv pregătirea datelor de instruire, pre-instruirea și post-instruirea, precum și evaluarea și îmbunătățirea continuă după implementare. În aceste etape pot fi folosite diferite tipuri de informații în diverse scopuri, inclusiv pentru îmbunătățirea performanței, fiabilității și siguranței modelelor.
Acest articol prezintă pe scurt informațiile pe care le folosim pentru a contribui la dezvoltarea acestor modele, modul în care le colectăm și le folosim în conformitate cu legislația privind protecția datelor și măsurile de protecție pe care le aplicăm pe tot parcursul procesului de instruire. Pentru a înțelege cum colectăm și folosim informații de la utilizatorii serviciilor noastre, inclusiv cum poți refuza folosirea conversațiilor din ChatGPT pentru îmbunătățirea modelelor noastre, consultă politica noastră de confidențialitate și articolul despre modul în care sunt folosite datele tale pentru a îmbunătăți performanța modelelor.
Ce este ChatGPT și cum funcționează?
ChatGPT este un serviciu bazat pe inteligență artificială pe care îl poți accesa pe internet sau prin aplicație. Poți folosi ChatGPT pentru o gamă largă de sarcini: organizarea și rezumarea informațiilor, ajutor la traduceri, programare, cercetare și analiză, realizarea sarcinilor în mai mulți pași cu ajutorul mai multor instrumente, analiza sau generarea imaginilor, stimularea creativității și găsirea de idei, precum și alte activități de zi cu zi. ChatGPT este conceput să înțeleagă întrebările și instrucțiunile utilizatorilor și să răspundă la ele, învățând tipare din volume mari de informații, inclusiv text, imagini, conținut audio și video.
În timpul instruirii, modelul analizează relațiile din aceste date — de exemplu, felul în care cuvintele apar de obicei împreună într-un context — și folosește ceea ce a înțeles pentru a prezice următorul cuvânt cel mai probabil atunci când generează un răspuns, cuvânt cu cuvânt. Textul poate fi convertit în unități mai mici, numite uneori „tokenuri”, care pot reprezenta cuvinte întregi, părți de cuvinte sau semne de punctuație. Tokenurile sunt unitățile de bază ale textului pe care îl procesează modelul. În mod similar, modelele care generează alte forme de conținut, cum ar fi imagini, învață tipare ale relațiilor dintre pixeli și dintre aceștia și descrierile asociate din datele de instruire.
De exemplu, în timpul procesului de învățare (numit „instruire”), modelului i se poate cere să completeze o propoziție precum: „În loc să vireze la stânga, ea a virat ___.” La începutul instruirii, răspunsurile sale sunt în mare parte aleatorii. Însă, pe măsură ce modelul procesează un volum mare de text și învață din el, devine mai bun la recunoașterea tiparelor și la prezicerea următorului cuvânt cel mai probabil. Acest proces este repetat pe milioane de propoziții pentru a-i rafina înțelegerea și a-i îmbunătăți precizia.
Deoarece există mai multe moduri plauzibile de a completa o propoziție — precum „În loc să vireze la stânga, ea a virat la dreapta”, „în sens opus” sau „înapoi” — modul în care răspunde modelul are un element inerent de aleatoriu. Prin urmare, aceeași întrebare poate primi răspunsuri diferite atunci când este adresată de mai multe ori.
Modelele de învățare automată sunt alcătuite din seturi mari de numere, numite „ponderi” sau „parametri”, împreună cu codul care interpretează și folosește aceste numere. Aceste modele nu stochează și nu păstrează copii ale datelor pe care sunt instruite. În schimb, pe măsură ce un model învață, valorile parametrilor săi sunt ajustate ușor pentru a reflecta tiparele identificate. În exemplul anterior, modelul a trecut de la prezicerea unor cuvinte aleatorii la predicții mai exacte — nu prin stocarea propozițiilor de instruire, ci prin actualizarea parametrilor săi interni. Modelul nu păstrează copii ale propozițiilor, imaginilor sau conținutului audio pe care le procesează în timpul instruirii. ChatGPT nu „copiază și lipește” din datele sale de instruire — la fel cum un profesor, după un studiu aprofundat, poate explica concepte înțelegând relațiile dintre idei, fără să memoreze sau să reproducă întocmai materialele originale. Atunci când generează un răspuns la solicitarea unui utilizator, modelul folosește aceste ponderi învățate pentru a prezice și a crea conținut nou.
Ce tipuri de informații sunt folosite pentru instruirea ChatGPT?
În ceea ce privește conținutul disponibil public pe internet, folosim doar informații care pot fi accesate liber și gratuit. Acestea pot include pagini web, forumuri, bloguri, postări și alte tipuri de conținut online disponibile public. De exemplu, dacă participi la un forum de discuții online disponibil public sau publici un articol pe blog ori o altă postare accesibilă public, putem folosi acel conținut disponibil public pentru instruirea modelelor. Totuși, luăm măsuri pentru a reduce prelucrarea datelor personale în procesul de instruire. Când colectăm conținut disponibil public pe internet, nu adunăm în mod intenționat date din surse despre care se știe că necesită plată pentru acces sau de pe dark web. În plus, aplicăm filtre pentru a elimina materialele din care nu dorim ca modelele noastre să învețe, cum ar fi discursul instigator la ură, conținutul pentru adulți, site-urile care agregă date personale și spamul. Informațiile rămase sunt apoi folosite pentru instruirea modelelor noastre.
Proprietarii site-urilor pot controla dacă este permisă accesarea conținutului lor disponibil public în scopul instruirii, folosind mecanisme web standard, precum robots.txt, pentru a bloca GPTBot, care poate accesa automat conținut disponibil public pentru a contribui la instruirea modelelor noastre. Oferim îndrumări pentru a ajuta proprietarii site-urilor să gestioneze modul în care site-urile și conținutul lor interacționează cu sistemele noastre de IA.
Folosim și informații de la parteneri terți pentru a contribui la instruirea și îmbunătățirea modelelor noastre. Acestea pot include informații din seturi de date pe care le accesăm în baza unor acorduri cu terți, precum și informații furnizate sau generate de instructori umani și cercetători, în măsura permisă de politicile și acordurile noastre. Acest lucru contribuie la îmbunătățirea calității, siguranței și performanței modelelor noastre. Aceste surse pot include text, imagini, conținut audio, video sau alte tipuri de date, în funcție de setul de date.
De asemenea, folosim tot mai mult date sintetice în unele procese de instruire. De exemplu, putem folosi informații și modelele noastre pentru a genera prompturi sintetice, exemple multilingve sau alte materiale de instruire. Datele sintetice pot contribui la îmbunătățirea performanței modelelor, inclusiv prin completarea datelor de instruire în domenii în care acestea sunt puține sau dezechilibrate, și pot sprijini abordări care sporesc confidențialitatea în dezvoltarea modelelor.
Sunt folosite date personale pentru instruirea ChatGPT?
O parte semnificativă a conținutului online cuprinde informații despre oameni, astfel că datele noastre de instruire pot include întâmplător și date personale. Totuși, luăm măsuri pentru a reduce prelucrarea datelor personale în procesul de instruire.
Folosim datele de instruire pentru a dezvolta capacitățile modelului — precum predicția, raţionamentul și rezolvarea problemelor — nu pentru a crea profiluri ale persoanelor, a le contacta sau a le afișa reclame personalizate.
În unele cazuri, modelele pot învăța din date personale pentru a înțelege cum funcționează în limbaj elemente precum numele și adresele sau pentru a recunoaște persoane publice și entități bine-cunoscute. Acest lucru ajută modelul să genereze răspunsuri mai exacte și mai potrivite contextului.
Cum sunt protejate datele personale în timpul instruirii?
Luăm măsuri active pentru a limita prelucrarea datelor personale în timpul instruirii. De exemplu, excludem sursele despre care știm că agregă volume mari de date personale, aplicăm filtre pentru a reduce cantitatea de date personale din procesul de instruire și luăm măsuri pentru a identifica și elimina conținutul duplicat, astfel încât să reducem riscul reproducerii datelor de instruire. În plus, ne instruim modelele să evite să răspundă solicitărilor de informații private sau sensibile despre persoane.
Cât timp păstrăm informațiile
Păstrăm informațiile din datele de instruire doar atât timp cât este necesar în mod rezonabil pentru scopurile descrise în acest articol și în politica noastră de confidențialitate, inclusiv pentru dezvoltarea și îmbunătățirea modelelor noastre și pentru cercetarea științifică aferentă. Reevaluăm periodic păstrarea informațiilor pentru a ne asigura că este în continuare necesară, iar durata acesteia variază în funcție de tipul informațiilor și de modul în care sunt folosite. Când stabilim perioada de păstrare, luăm în considerare factori precum scopul prelucrării informațiilor, volumul, natura și caracterul sensibil al acestora, riscul potențial de prejudicii cauzate de folosirea sau divulgarea neautorizată și obligațiile legale care ne revin.
Cum este respectată legislația privind protecția datelor în dezvoltarea ChatGPT?
Folosim informațiile pentru instruire în mod legal. Modelele noastre de bază susțin o gamă largă de aplicații benefice — inclusiv instrumente de accesibilitate, asistență pentru clienți, dezvoltare software, educație personalizată și cercetare științifică. Aceste capacități depind de volume mari de date pentru instruire, inclusiv informații disponibile public și informații de la parteneri terți. Aplicăm măsuri de protecție pe tot parcursul procesului de instruire, inclusiv măsuri menite să reducă prelucrarea datelor personale în acest proces și să atenueze riscurile, conform celor descrise în acest articol. Colectarea și folosirea datelor personale incluse în informațiile pentru instruire se întemeiază pe interese legitime, în conformitate cu legislația privind protecția datelor, precum RGPD. Aceste interese includ instruirea și îmbunătățirea modelelor noastre în beneficiul utilizatorilor și al societății în ansamblu, în acord cu misiunea noastră de a ne asigura că inteligența generală artificială aduce beneficii tuturor, așa cum explicăm mai detaliat în politica noastră de confidențialitate. Am realizat o evaluare a impactului asupra protecției datelor pentru a ne ajuta să ne asigurăm că aceste informații sunt colectate și folosite în mod legal și responsabil.
Când pot fi partajate sau transferate informațiile
Nu „vindem” date personale și divulgăm datele personale din datele de instruire doar în situațiile limitate descrise în politica noastră de confidențialitate. De exemplu, putem partaja informații cu afiliați, furnizori și prestatori de servicii care sprijină dezvoltarea, testarea și îmbunătățirea modelelor noastre. De asemenea, putem divulga informații atunci când considerăm, cu bună-credință, că acest lucru este necesar pentru a respecta o obligație legală sau pentru a proteja drepturile, siguranța și securitatea noastră și pe cele ale utilizatorilor, angajaților sau publicului, conform celor descrise în politica noastră de confidențialitate.
Deoarece infrastructura noastră este globală, datele personale din datele de instruire pot fi prelucrate în țări din afara SEE, a Elveției sau a Regatului Unit (inclusiv în Statele Unite). În aceste situații, aplicăm garanții adecvate, precum decizii privind caracterul adecvat al nivelului de protecție sau clauze contractuale standard, conform celor descrise în politica noastră de confidențialitate.
Drepturile tale și cum le poți exercita
Răspundem cererilor de exercitare a dreptului la opoziție și a altor drepturi similare. Ca urmare a învățării limbajului, răspunsurile ChatGPT pot include uneori date personale despre persoane ale căror date apar de mai multe ori în conținutul disponibil public pe internet (de exemplu, persoane publice). Persoanele din anumite jurisdicții se pot opune prelucrării datelor lor personale de către modelele noastre sau pot depune alte cereri de exercitare a drepturilor persoanelor vizate prin Portalul de confidențialitate. De asemenea, îți poți exercita aceste drepturi scriindu-ne la dsar@openai.com.
Pentru a ne ajuta să evaluăm cererea ta și să răspundem la ea, te rugăm să ne oferi suficiente informații pentru a înțelege la ce date personale se referă, cum ar fi numele tău, adrese URL relevante, exemple concrete de conținut generat de model sau alte detalii care ne ajută să identificăm problema. În unele cazuri, înainte de a putea lua măsuri, îți putem cere să îți verifici identitatea sau să confirmi că informațiile se referă la tine. Mai multe informații despre depunerea acestor cereri, inclusiv bune practici și modul în care sunt analizate, sunt disponibile în articolul din Centrul de asistență despre eliminarea datelor personale din ChatGPT. Analizăm cererile în conformitate cu legislația aplicabilă privind protecția datelor și răspundem în termenele legale aplicabile.
Reține că, potrivit legislației privind protecția datelor, unele drepturi pot să nu fie absolute. De exemplu, este posibil să nu putem da curs unei cereri dacă nu putem verifica informațiile relevante, dacă cererea nu se referă la date personale prelucrate de OpenAI, dacă se aplică o excepție sau dacă avem un alt motiv legal pentru a nu-i da curs. Cererile sunt evaluate de la caz la caz și pot necesita punerea în balanță a dreptului la viață privată cu alte considerente importante, precum libertatea de exprimare și interesul public.
Totuși, ne străduim să acordăm prioritate protecției datelor personale și să respectăm întreaga legislație aplicabilă privind protecția datelor. Dacă consideri că nu am soluționat în mod adecvat o problemă, ai dreptul să depui o plângere la autoritatea de supraveghere locală.
Pentru mai multe informații despre practicile OpenAI referitoare la datele personale pe care le colectăm de la tine sau despre tine atunci când folosești site-ul, aplicațiile și serviciile noastre, consultă politica noastră de confidențialitate.