Els models de base d’OpenAI, inclosos els models que impulsen ChatGPT, es desenvolupen utilitzant tres fonts principals d’informació: (1) informació disponible públicament a internet, (2) informació a la qual accedim en col·laboració amb tercers, i (3) informació que proporcionen o generen els nostres usuaris, formadors humans i investigadors.
El desenvolupament de models de base com els que s’utilitzen a ChatGPT implica diverses etapes, com ara la preparació de dades d’entrenament, el preentrenament i el postentrenament, així com l’avaluació i la millora contínues després del desplegament. En aquestes etapes es poden utilitzar diferents tipus d’informació amb diverses finalitats, com ara millorar el rendiment, la fiabilitat i la seguretat del model.
Aquest article ofereix una visió general de la informació que utilitzem per ajudar a desenvolupar aquests models, de com recopilem i fem servir aquesta informació complint la legislació sobre privacitat, i de les mesures de protecció que apliquem durant tot el procés d’entrenament. Per entendre com recopilem i fem servir la informació dels usuaris dels nostres serveis, inclosa la manera d’oposar-vos que les converses de ChatGPT s’utilitzin per ajudar a millorar els nostres models, consulteu la nostra política de privacitat i aquest article del centre d’ajuda.
Què és ChatGPT i com funciona?
ChatGPT és un servei basat en intel·ligència artificial al qual podeu accedir per internet o mitjançant una aplicació. Podeu utilitzar ChatGPT per a una àmplia varietat de tasques, com ara organitzar i resumir informació, ajudar amb traduccions, donar suport en programació, recerca i anàlisi, completar tasques de diversos passos entre eines, analitzar o generar imatges, inspirar la creativitat i idees, i altres activitats quotidianes. ChatGPT està dissenyat per entendre i respondre a les preguntes i instruccions dels usuaris aprenent patrons a partir de grans quantitats d’informació, inclosos text, imatges, àudio i vídeo.
Durant l’entrenament, el model analitza les relacions dins d’aquestes dades —com ara de quina manera les paraules acostumen a aparèixer juntes en context— i utilitza aquesta comprensió per predir la paraula següent més probable en generar una resposta, paraula per paraula. El text es pot convertir en unitats més petites, de vegades anomenades «segments», que poden representar paraules senceres, parts de paraules o signes de puntuació. Els segments són els blocs bàsics del text que el model processa. De manera similar, els models que generen altres formes de contingut, com ara imatges, aprenen patrons sobre com es relacionen els píxels entre si i amb els peus o descripcions associats a les dades d’entrenament.
Per exemple, durant el procés d’aprenentatge del model (conegut com a «entrenament»), es podria demanar al model que completés una frase com ara: «En lloc de girar a l’esquerra, va girar a la ___». Al principi de l’entrenament, les seves respostes són en gran part aleatòries. Tanmateix, a mesura que el model processa i aprèn d’un gran volum de text, millora la seva capacitat per reconèixer patrons i predir la paraula següent més probable. Aquest procés es repeteix en milions de frases per perfeccionar-ne la comprensió i millorar-ne la precisió.
Com que hi ha diverses maneres plausibles de completar una frase —com ara «En lloc de girar a l’esquerra, va girar a la dreta», «al voltant» o «enrere»—, hi ha un element inherent d’aleatorietat en la manera com respon el model. Com a resultat, la mateixa pregunta pot donar lloc a respostes diferents en consultes diferents.
Els models d’aprenentatge automàtic consisteixen en grans conjunts de nombres, coneguts com a «pesos» o «paràmetres», juntament amb codi que interpreta i utilitza aquests nombres. Aquests models no emmagatzemen ni conserven còpies de les dades amb què s’entrenen. En canvi, a mesura que un model aprèn, els valors dels seus paràmetres s’ajusten lleugerament per reflectir els patrons que ha identificat. En l’exemple anterior, el model va passar de predir paraules aleatòries a fer prediccions més precises, no pas emmagatzemant les frases d’entrenament, sinó actualitzant els seus paràmetres interns. El model no conserva còpies de les frases, imatges o àudio que processa durant l’entrenament. ChatGPT no «copia i enganxa» de les seves dades d’entrenament; de manera semblant a com un professor, després d’estudiar molt, pot explicar conceptes entenent les relacions entre idees sense memoritzar ni reproduir literalment els materials originals. Quan genera una resposta a una sol·licitud d’un usuari, el model utilitza aquests pesos apresos per predir i crear contingut nou.
Quin tipus d’informació s’utilitza per ensenyar ChatGPT?
Pel que fa al contingut d’internet disponible públicament, només utilitzem informació que és accessible a internet de manera lliure i oberta. Això pot incloure pàgines web disponibles públicament, fòrums públics, blogs públics, publicacions públiques i altres continguts en línia disponibles públicament. Per exemple, si participeu en un fòrum de debat en línia disponible públicament o publiqueu un blog públic o una altra publicació pública, podem utilitzar aquest contingut accessible públicament amb finalitats d’entrenament del model. Tanmateix, prenem mesures per reduir el tractament d’informació personal en el nostre procés d’entrenament. Quan recopilem contingut d’internet disponible públicament, no recollim intencionadament dades de fonts que sabem que estan darrere de murs de pagament ni de la web fosca. A més, apliquem filtres per eliminar material del qual no volem que aprenguin els nostres models, com ara discurs d’odi, contingut per a adults, llocs que agreguen informació personal i correu brossa. La informació restant s’utilitza després per entrenar els nostres models.
Els propietaris de llocs web poden gestionar si el contingut disponible públicament dels seus llocs pot ser accessible per utilitzar-lo en l’entrenament mitjançant controls web estàndard, com ara robots.txt, per desautoritzar GPTBot, que pot rastrejar contingut disponible públicament per ajudar a entrenar els nostres models. Oferim orientació per ajudar els propietaris de llocs web a gestionar com interactuen els seus llocs i continguts amb els nostres sistemes d’IA.
També utilitzem informació de socis tercers per ajudar a entrenar i millorar els nostres models. Això pot incloure informació en conjunts de dades als quals accedim mitjançant acords amb tercers, així com informació proporcionada o generada per formadors humans i investigadors quan ho permeten les nostres polítiques i acords. Això ajuda a millorar la qualitat, la seguretat i el rendiment dels nostres models. Aquestes fonts poden incloure text, imatges, àudio, vídeo o altres tipus de dades, segons el conjunt de dades.
També fem servir cada vegada més dades sintètiques en alguns processos d’entrenament. Per exemple, podem utilitzar informació i els nostres models per generar indicacions sintètiques, exemples multilingües o altres materials d’entrenament. Les dades sintètiques poden ajudar a millorar el rendiment del model, també complementant les dades d’entrenament en àrees on les dades són escasses o desequilibrades, i també poden donar suport a enfocaments de desenvolupament de models que reforcen la privacitat.
S’utilitza informació personal per ensenyar ChatGPT?
Una part significativa del contingut en línia conté informació sobre persones, de manera que les nostres dades d’entrenament poden incloure incidentalment informació personal. Tanmateix, prenem mesures per reduir el tractament d’informació personal en el nostre procés d’entrenament.
Utilitzem dades d’entrenament per desenvolupar les capacitats del model —com ara la predicció, el raonament i la resolució de problemes—, no per crear perfils de persones, contactar-hi o personalitzar-los anuncis.
En alguns casos, els models poden aprendre a partir d’informació personal per entendre com funcionen en el llenguatge elements com ara noms i adreces, o per reconèixer figures públiques i entitats conegudes. Això ajuda el model a generar respostes més precises i adequades al context.
Com es protegeix la informació personal durant l’entrenament?
Prenem mesures actives per limitar el tractament d’informació personal durant l’entrenament. Per exemple, excloem fonts conegudes que agreguen grans quantitats de dades personals, apliquem filtres per reduir la informació personal en el procés d’entrenament i prenem mesures per identificar i eliminar contingut duplicat per reduir el risc de repetir dades d’entrenament. A més, entrenem els nostres models perquè evitin respondre a sol·licituds d’informació privada o sensible sobre persones.
Quant de temps conservem la informació
Conservem la informació de les dades d’entrenament només durant el temps que sigui raonablement necessari per a les finalitats descrites en aquest article i en la nostra política de privacitat, inclòs per desenvolupar i millorar els nostres models i amb finalitats de recerca científica relacionades. La conservació està subjecta a revisions periòdiques per garantir que continua sent necessària, i varia en funció del tipus d’informació i de com s’utilitza. A l’hora de determinar la conservació, considerem factors com ara la finalitat del tractament de la informació, la quantitat, la naturalesa i la sensibilitat de la informació, el risc potencial de perjudici derivat d’un ús o divulgació no autoritzats i qualsevol obligació legal a què estiguem subjectes.
Com compleix el desenvolupament de ChatGPT la legislació sobre privacitat?
Utilitzem la informació d’entrenament de manera lícita. Els nostres models de base impulsen una àmplia gamma d’aplicacions beneficioses, incloses eines d’accessibilitat, atenció al client, desenvolupament de programari, educació personalitzada i recerca científica. Aquestes capacitats depenen de dades d’entrenament a gran escala, inclosa informació disponible públicament i informació de socis tercers. Apliquem mesures de protecció durant tot el procés d’entrenament, incloses mesures dissenyades per reduir el tractament d’informació personal en el procés d’entrenament i per mitigar riscos, tal com es descriu en aquest article. Basem la recopilació i l’ús de la informació personal inclosa en la informació d’entrenament en interessos legítims d’acord amb les lleis de privacitat com el RGPD, inclòs per entrenar i millorar els nostres models per als usuaris i per a la societat en general, en línia amb la nostra missió de garantir que la intel·ligència artificial general beneficiï tothom, tal com s’explica amb més detall en la nostra política de privacitat. Hem completat una avaluació d’impacte relativa a la protecció de dades per ajudar a garantir que recopilem i utilitzem aquesta informació de manera legal i responsable.
Quan es pot compartir o transferir informació
No «venem» informació personal i només divulguem informació personal present en les dades d’entrenament en les circumstàncies limitades descrites a la nostra política de privacitat. Per exemple, podem compartir informació amb afiliades, proveïdors i prestadors de serveis que donen suport al desenvolupament, les proves i la millora dels nostres models. També podem divulgar informació si creiem de bona fe que aquesta acció és necessària per complir una obligació legal o per protegir els nostres drets, la nostra seguretat i la nostra protecció, així com els dels nostres usuaris, empleats o el públic, tal com es descriu en la nostra política de privacitat.
Com que la nostra infraestructura és global, la informació personal de les dades d’entrenament es pot tractar en països fora de l’EEE, Suïssa o el Regne Unit (incloent-hi els Estats Units). Quan això passa, apliquem garanties adequades, com ara decisions d’adequació o clàusules contractuals tipus, tal com es descriu en la nostra política de privacitat.
Els vostres drets i com exercir-los
Responem a les sol·licituds d’oposició i a sol·licituds similars d’exercici de drets. Com a resultat de l’aprenentatge del llenguatge, les respostes de ChatGPT de vegades poden incloure informació personal sobre persones la informació personal de les quals apareix diverses vegades a l’internet públic (per exemple, figures públiques). Les persones de determinades jurisdiccions poden oposar-se al tractament de la seva informació personal per part dels nostres models o presentar altres sol·licituds d’exercici de drets de l’interessat a través del nostre Portal de privacitat. També podeu exercir aquests drets posant-vos en contacte amb privacy@openai.com.
Per ajudar-nos a avaluar i respondre la vostra sol·licitud, proporcioneu prou informació perquè puguem entendre a quina informació personal fa referència, com ara el vostre nom, URL rellevants, exemples concrets de sortides del model o altres detalls que ajudin a identificar el problema. En alguns casos, és possible que us demanem que verifiqueu la vostra identitat o confirmeu que la informació fa referència a vosaltres abans que puguem actuar. Hi ha més informació sobre com presentar aquestes sol·licituds, incloses bones pràctiques i com es revisen les sol·licituds, al nostre article del Centre d'ajuda sobre l’eliminació de dades personals de ChatGPT. Revisem les sol·licituds d’acord amb les lleis de privacitat aplicables i responem dins dels terminis legals aplicables.
Tingueu en compte que, d’acord amb les lleis de privacitat, alguns drets poden no ser absoluts. Per exemple, és possible que no puguem satisfer una sol·licitud quan no puguem verificar la informació rellevant, quan la sol·licitud no faci referència a informació personal tractada per OpenAI, quan s’apliqui una exempció o quan tinguem un altre motiu lícit per fer-ho. Les sol·licituds s’avaluen cas per cas i poden comportar ponderar els drets de privacitat amb altres consideracions importants, com ara la llibertat d’expressió i l’interès públic.
Tanmateix, ens esforcem per prioritzar la protecció de la informació personal i complim totes les lleis de privacitat aplicables. Si considereu que no hem abordat adequadament una qüestió, teniu dret a presentar una reclamació davant la vostra autoritat de control local.
Per obtenir més informació sobre les pràctiques d’OpenAI pel que fa a la informació personal que recopilem de vosaltres o sobre vosaltres quan utilitzeu el nostre lloc web, aplicacions i serveis, consulteu la nostra política de privacitat.