Els models fundacionals d'OpenAI, inclosos els models en què es basa ChatGPT, es desenvolupen a partir de tres fonts principals d'informació: (1) informació disponible públicament a internet, (2) informació a la qual accedim en col·laboració amb tercers i (3) informació que els nostres usuaris, formadors humans i investigadors proporcionen o generen.
El desenvolupament de models fundacionals com els que utilitza ChatGPT consta de diverses etapes, com ara la preparació de les dades d'entrenament, el preentrenament i el postentrenament, així com l'avaluació i la millora contínues després del desplegament. En aquestes etapes es poden utilitzar diferents tipus d'informació amb diverses finalitats, com ara millorar el rendiment, la fiabilitat i la seguretat dels models.
Aquest article ofereix una visió general de la informació que utilitzem per ajudar a desenvolupar aquests models, de com la recopilem i la fem servir d'acord amb les lleis de privacitat i de les mesures de protecció que apliquem durant tot el procés d'entrenament. Per saber com recopilem i utilitzem la informació dels usuaris dels nostres serveis, inclosa la manera d'impedir que les converses de ChatGPT s'utilitzin per ajudar a millorar els nostres models, consulteu la nostra Política de privacitat i aquest article del Centre d'ajuda.
Què és ChatGPT i com funciona?
ChatGPT és un servei basat en intel·ligència artificial al qual podeu accedir per internet o mitjançant una aplicació. Podeu utilitzar ChatGPT per a moltes tasques, com ara organitzar i resumir informació, ajudar amb traduccions, facilitar la programació, la recerca i l'anàlisi, completar tasques de diversos passos en diferents eines, analitzar o generar imatges, estimular la creativitat i les idees i dur a terme altres activitats quotidianes. ChatGPT està dissenyat per entendre i respondre les preguntes i instruccions dels usuaris aprenent patrons a partir de grans quantitats d'informació, com ara text, imatges, àudio i vídeo.
Durant l'entrenament, el model analitza les relacions dins d'aquestes dades —com ara la manera en què les paraules solen aparèixer juntes en un context— i utilitza aquesta comprensió per predir, paraula per paraula, la següent paraula més probable en generar una resposta. El text es pot convertir en unitats més petites, de vegades anomenades "tòkens", que poden representar paraules senceres, parts de paraules o signes de puntuació. Els tòkens són els components bàsics del text que processa el model. De manera semblant, els models que generen altres tipus de contingut, com ara imatges, aprenen patrons sobre com es relacionen els píxels entre si i amb els peus d'imatge associats de les dades d'entrenament.
Per exemple, durant el procés d'aprenentatge del model (conegut com a "entrenament"), se li podria demanar que completés una frase com ara: "En lloc de girar a l'esquerra, va girar a la ___." Al principi de l'entrenament, les respostes són en gran part aleatòries. Tanmateix, a mesura que el model processa un gran volum de text i n'aprèn, millora la capacitat de reconèixer patrons i predir la següent paraula més probable. Aquest procés es repeteix amb milions de frases per perfeccionar-ne la comprensió i millorar-ne la precisió.
Com que hi ha diverses maneres plausibles de completar una frase —com ara "En lloc de girar a l'esquerra, va girar a la dreta", "en rodó" o "enrere"—, les respostes del model tenen un component aleatori inherent. Per tant, una mateixa pregunta pot generar respostes diferents en consultes diferents.
Els models d'aprenentatge automàtic consten de grans conjunts de nombres, coneguts com a "pesos" o "paràmetres", i de codi que interpreta i utilitza aquests nombres. Aquests models no emmagatzemen ni conserven còpies de les dades amb què s'entrenen. En canvi, a mesura que un model aprèn, els valors dels seus paràmetres s'ajusten lleugerament per reflectir els patrons que ha identificat. En l'exemple anterior, el model va passar de predir paraules aleatòries a fer prediccions més precises, no pas emmagatzemant les frases d'entrenament, sinó actualitzant els seus paràmetres interns. El model no conserva còpies de les frases, imatges o àudios que processa durant l'entrenament. ChatGPT no "copia i enganxa" les seves dades d'entrenament, de manera semblant a com un docent, després d'estudiar a fons, pot explicar conceptes perquè entén les relacions entre les idees, sense memoritzar ni reproduir literalment els materials originals. Quan genera una resposta a una sol·licitud d'un usuari, el model utilitza aquests pesos apresos per predir i crear contingut nou.
Quin tipus d'informació s'utilitza per ensenyar ChatGPT?
Pel que fa al contingut d'internet disponible públicament, només utilitzem informació accessible de manera lliure i oberta a internet. Això pot incloure pàgines web, fòrums, blogs, publicacions i altres continguts en línia disponibles públicament. Per exemple, si participeu en un fòrum de debat en línia disponible públicament o publiqueu un blog o una altra publicació de caràcter públic, podem utilitzar aquest contingut accessible públicament per entrenar models. Tanmateix, prenem mesures per reduir el tractament d'informació personal en el nostre procés d'entrenament. Quan recopilem contingut d'internet disponible públicament, no recollim intencionadament dades de fonts que sabem que es troben darrere d'un mur de pagament ni del web fosc. A més, apliquem filtres per eliminar el material del qual no volem que aprenguin els nostres models, com ara discursos d'odi, contingut per a adults, llocs que agreguen informació personal i contingut brossa. La informació restant s'utilitza després per entrenar els nostres models.
Els propietaris de llocs web poden gestionar si es pot accedir al contingut públic dels seus llocs per utilitzar-lo en l'entrenament mitjançant controls web estàndard, com ara robots.txt, per bloquejar GPTBot, que pot rastrejar contingut disponible públicament per ajudar a entrenar els nostres models. Oferim orientacions per ajudar els propietaris de llocs web a gestionar la interacció dels seus llocs i continguts amb els nostres sistemes d'IA.
També utilitzem informació de socis externs per ajudar a entrenar i millorar els nostres models. Això pot incloure informació de conjunts de dades als quals accedim mitjançant acords amb tercers, així com informació proporcionada o generada per formadors humans i investigadors quan ho permeten les nostres polítiques i els nostres acords. Això ajuda a millorar la qualitat, la seguretat i el rendiment dels nostres models. Aquestes fonts poden incloure text, imatges, àudio, vídeo o altres tipus de dades, segons el conjunt de dades.
També utilitzem cada vegada més dades sintètiques en alguns processos d'entrenament. Per exemple, podem utilitzar informació i els nostres models per generar instruccions sintètiques, exemples multilingües o altres materials d'entrenament. Les dades sintètiques poden ajudar a millorar el rendiment dels models, entre altres coses complementant les dades d'entrenament en àmbits on són escasses o estan desequilibrades, i també poden facilitar enfocaments de desenvolupament de models que reforcin la privacitat.
S'utilitza informació personal per ensenyar ChatGPT?
Una part important del contingut en línia conté informació sobre persones, de manera que les nostres dades d'entrenament poden incloure informació personal de manera incidental. Tanmateix, prenem mesures per reduir el tractament d'informació personal en el nostre procés d'entrenament.
Utilitzem les dades d'entrenament per desenvolupar les capacitats del model —com ara la predicció, el raonament i la resolució de problemes—, no per crear perfils de persones, contactar-hi ni personalitzar-los anuncis.
En alguns casos, els models poden aprendre a partir d'informació personal per entendre com funcionen en el llenguatge elements com els noms i les adreces, o per reconèixer personatges públics i entitats conegudes. Això ajuda el model a generar respostes més precises i adequades al context.
Com es protegeix la informació personal durant l'entrenament?
Prenem mesures actives per limitar el tractament d'informació personal durant l'entrenament. Per exemple, excloem fonts conegudes que agreguen grans quantitats de dades personals, apliquem filtres per reduir la informació personal en el procés d'entrenament i prenem mesures per identificar i eliminar contingut duplicat a fi de reduir el risc de repetir dades d'entrenament. A més, entrenem els nostres models perquè evitin respondre sol·licituds d'informació privada o sensible sobre persones.
Durant quant de temps conservem la informació
Només conservem la informació de les dades d'entrenament durant el temps raonablement necessari per a les finalitats descrites en aquest article i en la nostra Política de privacitat, inclosos el desenvolupament i la millora dels nostres models i les finalitats de recerca científica relacionades. La conservació es revisa periòdicament per garantir que continuï sent necessària i varia segons el tipus d'informació i l'ús que se'n fa. Per determinar el període de conservació, tenim en compte factors com ara la finalitat del tractament de la informació, la quantitat, la naturalesa i la sensibilitat de la informació, el risc potencial de dany derivat d'un ús o una divulgació no autoritzats i les obligacions legals que ens siguin aplicables.
Com compleix el desenvolupament de ChatGPT les lleis de privacitat?
Utilitzem la informació d'entrenament de manera lícita. Els nostres models fundacionals fan possible una gran varietat d'aplicacions beneficioses, com ara eines d'accessibilitat, atenció al client, desenvolupament de programari, educació personalitzada i recerca científica. Aquestes capacitats depenen de dades d'entrenament a gran escala, inclosa informació disponible públicament i informació de socis externs. Apliquem mesures de protecció durant tot el procés d'entrenament, incloses mesures concebudes per reduir-hi el tractament d'informació personal i mitigar riscos, tal com es descriu en aquest article. D'acord amb les lleis de privacitat, com ara el RGPD, basem la recopilació i l'ús de la informació personal inclosa en la informació d'entrenament en interessos legítims, entre els quals hi ha entrenar i millorar els nostres models en benefici dels usuaris i del conjunt de la societat, d'acord amb la nostra missió de garantir que la intel·ligència artificial general beneficiï tothom, tal com expliquem amb més detall a la nostra Política de privacitat. Hem dut a terme una avaluació d'impacte relativa a la protecció de dades per ajudar a garantir que recopilem i utilitzem aquesta informació de manera legal i responsable.
Quan es pot compartir o transferir informació
No "venem" informació personal i només divulguem informació personal de les dades d'entrenament en les circumstàncies limitades descrites a la nostra Política de privacitat. Per exemple, podem compartir informació amb empreses afiliades, proveïdors i prestadors de serveis que col·laboren en el desenvolupament, les proves i la millora dels nostres models. També podem divulgar informació si creiem de bona fe que és necessari per complir una obligació legal o protegir els nostres drets i la nostra integritat i seguretat, així com els dels nostres usuaris, empleats o el públic, tal com es descriu a la nostra Política de privacitat.
Com que la nostra infraestructura és global, la informació personal de les dades d'entrenament es pot tractar en països de fora de l'EEE, Suïssa o el Regne Unit (inclosos els Estats Units). Quan això passa, apliquem les garanties adequades, com ara decisions d'adequació o clàusules contractuals tipus, tal com es descriu a la nostra Política de privacitat.
Els vostres drets i com exercir-los
Responem les sol·licituds d'oposició i altres sol·licituds similars d'exercici de drets. Com a resultat de l'aprenentatge del llenguatge, les respostes de ChatGPT de vegades poden incloure informació personal sobre persones la informació personal de les quals apareix repetidament a l'internet públic (per exemple, personatges públics). Les persones de determinades jurisdiccions poden oposar-se al tractament de la seva informació personal per part dels nostres models o presentar altres sol·licituds d'exercici dels drets dels interessats mitjançant el nostre Portal de privacitat. També podeu exercir aquests drets escrivint a privacy@openai.com.
Per ajudar-nos a avaluar i respondre la vostra sol·licitud, proporcioneu prou informació perquè puguem entendre a quina informació personal es refereix, com ara el vostre nom, els URL pertinents, exemples concrets de resultats del model o altres dades que ajudin a identificar el problema. En alguns casos, és possible que us demanem que verifiqueu la vostra identitat o confirmeu que la informació està relacionada amb vós abans que puguem actuar. Trobareu més informació sobre com presentar aquestes sol·licituds, incloses les pràctiques recomanades i com es revisen, al nostre article del Centre d'ajuda sobre l'eliminació de dades personals de ChatGPT. Revisem les sol·licituds d'acord amb les lleis de privacitat aplicables i responem dins dels terminis legals corresponents.
Tingueu en compte que, d'acord amb les lleis de privacitat, és possible que alguns drets no siguin absoluts. Per exemple, és possible que no puguem atendre una sol·licitud si no podem verificar la informació pertinent, si la sol·licitud no es refereix a informació personal tractada per OpenAI, si s'hi aplica una excepció o si tenim un altre motiu legítim per no fer-ho. Les sol·licituds s'avaluen cas per cas i poden requerir ponderar els drets de privacitat amb altres consideracions importants, com ara la llibertat d'expressió i l'interès públic.
Tanmateix, ens esforcem per prioritzar la protecció de la informació personal i complir totes les lleis de privacitat aplicables. Si considereu que no hem tractat adequadament un problema, teniu dret a presentar una reclamació davant l'autoritat de control local.
Per obtenir més informació sobre les pràctiques d'OpenAI relatives a la informació personal que recopilem de vós o sobre vós quan utilitzeu el nostre lloc web, les aplicacions i els serveis, consulteu la nostra Política de privacitat.