Los modelos fundacionales de OpenAI, incluidos los modelos en los que se basa ChatGPT, se desarrollan utilizando tres fuentes principales de información: (1) información disponible públicamente en internet, (2) información a la que accedemos mediante acuerdos con terceros y (3) información que nuestros usuarios, instructores humanos e investigadores proporcionan o generan.
El desarrollo de modelos fundacionales como los utilizados en ChatGPT consta de varias etapas, entre ellas la preparación de los datos de entrenamiento, el preentrenamiento y el entrenamiento posterior, además de la evaluación y mejora continuas tras su implementación. En estas etapas pueden utilizarse distintos tipos de información con diversos fines, como mejorar el rendimiento, la fiabilidad y la seguridad de los modelos.
Este artículo ofrece una visión general de la información que utilizamos para ayudar a desarrollar estos modelos, de cómo la recopilamos y utilizamos conforme a la legislación sobre privacidad, y de las medidas de protección que aplicamos durante todo el proceso de entrenamiento. Para saber cómo recopilamos y utilizamos la información de los usuarios de nuestros servicios, incluido cómo impedir que las conversaciones de ChatGPT se utilicen para ayudar a mejorar nuestros modelos, consulta nuestra Política de privacidad y este artículo del Centro de ayuda.
¿Qué es ChatGPT y cómo funciona?
ChatGPT es un servicio basado en inteligencia artificial al que puedes acceder por internet o mediante una aplicación. Puedes utilizar ChatGPT para una gran variedad de tareas, como organizar y resumir información, ayudarte con traducciones, facilitar la programación, la investigación y el análisis, completar tareas de varios pasos con distintas herramientas, analizar o generar imágenes, fomentar la creatividad y las ideas, y realizar otras actividades cotidianas. ChatGPT está diseñado para comprender y responder a las preguntas e instrucciones de los usuarios mediante el aprendizaje de patrones a partir de grandes cantidades de información, como texto, imágenes, audio y vídeo.
Durante el entrenamiento, el modelo analiza las relaciones presentes en estos datos —por ejemplo, cómo suelen aparecer juntas las palabras en un contexto— y utiliza lo aprendido para predecir, palabra por palabra, cuál es la siguiente palabra más probable al generar una respuesta. El texto puede convertirse en unidades más pequeñas, denominadas en ocasiones «tokens», que pueden representar palabras completas, partes de palabras o signos de puntuación. Los tokens son las unidades básicas del texto que procesa el modelo. Del mismo modo, los modelos que generan otros tipos de contenido, como imágenes, aprenden patrones sobre la relación de los píxeles entre sí y con los pies de foto asociados en los datos de entrenamiento.
Por ejemplo, durante el proceso de aprendizaje del modelo (conocido como «entrenamiento»), se le puede pedir que complete una frase como esta: «En vez de girar a la izquierda, giró hacia ___». Al principio del entrenamiento, sus respuestas son en gran medida aleatorias. Sin embargo, a medida que el modelo procesa un gran volumen de texto y aprende de él, mejora su capacidad para reconocer patrones y predecir la siguiente palabra más probable. Este proceso se repite con millones de frases para perfeccionar su comprensión y mejorar su precisión.
Como hay varias formas plausibles de completar una frase —por ejemplo, «En vez de girar a la izquierda, giró a la derecha», «dio la vuelta» o «volvió atrás»—, las respuestas del modelo contienen un componente de aleatoriedad inherente. Por tanto, una misma pregunta puede recibir respuestas diferentes en distintas consultas.
Los modelos de aprendizaje automático están formados por grandes conjuntos de números, conocidos como «pesos» o «parámetros», junto con código que interpreta y utiliza esos números. Estos modelos no almacenan ni conservan copias de los datos con los que se entrenan. En su lugar, a medida que un modelo aprende, los valores de sus parámetros se ajustan ligeramente para reflejar los patrones que ha identificado. En el ejemplo anterior, el modelo pasó de predecir palabras al azar a realizar predicciones más precisas, no porque almacenara las frases de entrenamiento, sino porque actualizó sus parámetros internos. El modelo no conserva copias de las frases, imágenes ni audios que procesa durante el entrenamiento. ChatGPT no «copia y pega» de sus datos de entrenamiento. Es similar a un profesor que, después de estudiar a fondo, puede explicar conceptos porque comprende las relaciones entre las ideas, sin memorizar ni reproducir literalmente los materiales originales. Al generar una respuesta a la solicitud de un usuario, el modelo utiliza estos pesos aprendidos para predecir y crear contenido nuevo.
¿Qué tipo de información se utiliza para enseñar a ChatGPT?
En cuanto al contenido de internet disponible públicamente, solo utilizamos información a la que se puede acceder de forma libre y abierta en internet. Esto puede incluir páginas web, foros, blogs y publicaciones públicos, así como otro contenido en línea disponible públicamente. Por ejemplo, si participas en un foro de debate en línea disponible públicamente o publicas un blog u otro contenido público, podemos utilizar ese contenido accesible públicamente para entrenar modelos. No obstante, adoptamos medidas para reducir el tratamiento de información personal durante nuestro proceso de entrenamiento. Al recopilar contenido de internet disponible públicamente, no obtenemos de forma intencionada datos de fuentes que sabemos que están tras muros de pago ni de la web oscura. Además, aplicamos filtros para retirar materiales de los que no queremos que aprendan nuestros modelos, como discursos de odio, contenido para adultos, sitios que recopilan información personal y spam. La información restante se utiliza después para entrenar nuestros modelos.
Los propietarios de sitios web pueden controlar si es posible acceder al contenido público de sus sitios para utilizarlo en el entrenamiento mediante controles web estándar, como robots.txt, para bloquear GPTBot, que puede rastrear contenido disponible públicamente con el fin de ayudar a entrenar nuestros modelos. Ofrecemos orientaciones para ayudar a los propietarios de sitios web a gestionar cómo interactúan sus sitios y contenidos con nuestros sistemas de IA.
También utilizamos información de socios externos para ayudar a entrenar y mejorar nuestros modelos. Esto puede incluir información de conjuntos de datos a los que accedemos mediante acuerdos con terceros, así como información proporcionada o generada por instructores humanos e investigadores cuando nuestras políticas y acuerdos lo permiten. Esto contribuye a mejorar la calidad, la seguridad y el rendimiento de nuestros modelos. Estas fuentes pueden incluir texto, imágenes, audio, vídeo u otros tipos de datos, según el conjunto de datos.
Además, cada vez utilizamos más datos sintéticos en algunos procesos de entrenamiento. Por ejemplo, podemos utilizar información y nuestros modelos para generar instrucciones sintéticas, ejemplos multilingües u otros materiales de entrenamiento. Los datos sintéticos pueden ayudar a mejorar el rendimiento de los modelos, por ejemplo, al complementar los datos de entrenamiento en ámbitos donde son escasos o están desequilibrados. También pueden favorecer métodos de desarrollo de modelos que refuercen la privacidad.
¿Se utiliza información personal para enseñar a ChatGPT?
Una parte importante del contenido en línea contiene información sobre personas, por lo que nuestros datos de entrenamiento pueden incluir información personal de manera incidental. No obstante, adoptamos medidas para reducir el tratamiento de información personal durante nuestro proceso de entrenamiento.
Utilizamos datos de entrenamiento para desarrollar las capacidades del modelo —como la predicción, el razonamiento y la resolución de problemas—, no para crear perfiles de personas, ponerse en contacto con ellas ni personalizar los anuncios que ven.
En algunos casos, los modelos pueden aprender de información personal para comprender cómo funcionan en el lenguaje elementos como los nombres y las direcciones, o para reconocer a figuras públicas y entidades conocidas. Esto ayuda al modelo a generar respuestas más precisas y adecuadas al contexto.
¿Cómo se protege la información personal durante el entrenamiento?
Adoptamos medidas activas para limitar el tratamiento de información personal durante el entrenamiento. Por ejemplo, excluimos fuentes conocidas que recopilan grandes cantidades de datos personales, aplicamos filtros para reducir la información personal durante el proceso de entrenamiento y tomamos medidas para identificar y eliminar contenido duplicado a fin de reducir el riesgo de repetir datos de entrenamiento. Además, entrenamos nuestros modelos para que eviten responder a solicitudes de información privada o sensible sobre personas.
Durante cuánto tiempo conservamos la información
Solo conservamos la información de los datos de entrenamiento durante el tiempo razonablemente necesario para los fines descritos en este artículo y en nuestra Política de privacidad, entre ellos desarrollar y mejorar nuestros modelos y realizar investigaciones científicas relacionadas. La conservación se revisa periódicamente para garantizar que siga siendo necesaria y varía según el tipo de información y el uso que se haga de ella. Al determinar el periodo de conservación, tenemos en cuenta factores como la finalidad del tratamiento de la información; su cantidad, naturaleza y sensibilidad; el riesgo potencial de daños derivados de su uso o divulgación no autorizados; y las obligaciones legales a las que estamos sujetos.
¿Cómo cumple el desarrollo de ChatGPT la legislación sobre privacidad?
Utilizamos la información de entrenamiento de forma lícita. Nuestros modelos fundacionales hacen posible una gran variedad de aplicaciones beneficiosas, como herramientas de accesibilidad, atención al cliente, desarrollo de software, educación personalizada e investigación científica. Estas capacidades dependen de datos de entrenamiento a gran escala, incluida información disponible públicamente e información de socios externos. Aplicamos medidas de protección durante todo el proceso de entrenamiento, incluidas medidas destinadas a reducir el tratamiento de información personal durante dicho proceso y mitigar los riesgos, tal como se explica en este artículo. Basamos la recopilación y el uso de la información personal incluida en la información de entrenamiento en intereses legítimos conforme a leyes de privacidad como el RGPD. Entre estos intereses se encuentran entrenar y mejorar nuestros modelos en beneficio de los usuarios y de la sociedad en general, de acuerdo con nuestra misión de garantizar que la inteligencia artificial general beneficie a todo el mundo, como explicamos con más detalle en nuestra Política de privacidad. Hemos realizado una evaluación de impacto relativa a la protección de datos para ayudar a garantizar que recopilamos y utilizamos esta información de forma legal y responsable.
Cuándo puede compartirse o transferirse información
No «vendemos» información personal y solo divulgamos la que figura en los datos de entrenamiento en las circunstancias limitadas descritas en nuestra Política de privacidad. Por ejemplo, podemos compartir información con empresas afiliadas, proveedores y prestadores de servicios que colaboran en el desarrollo, las pruebas y la mejora de nuestros modelos. También podemos divulgar información si creemos de buena fe que es necesario para cumplir una obligación legal o proteger nuestros derechos, seguridad y protección, así como los de nuestros usuarios, empleados o el público, según se describe en nuestra Política de privacidad.
Dado que nuestra infraestructura es global, la información personal contenida en los datos de entrenamiento puede tratarse en países ajenos al EEE, Suiza o el Reino Unido, incluido Estados Unidos. Cuando esto ocurre, aplicamos las garantías adecuadas, como decisiones de adecuación o cláusulas contractuales tipo, según se describe en nuestra Política de privacidad.
Tus derechos y cómo ejercerlos
Respondemos a las solicitudes de oposición y a otras solicitudes similares para ejercer derechos. Como resultado de su aprendizaje del lenguaje, las respuestas de ChatGPT pueden incluir en ocasiones información personal sobre personas cuyos datos aparecen repetidamente en la parte pública de internet, como figuras públicas. En determinadas jurisdicciones, las personas pueden oponerse al tratamiento de su información personal por parte de nuestros modelos o presentar otras solicitudes para ejercer sus derechos como interesadas a través de nuestro Portal de privacidad. También puedes ejercer estos derechos escribiendo a privacy@openai.com.
Para ayudarnos a evaluar tu solicitud y responder a ella, proporciona suficiente información para que podamos entender a qué información personal se refiere, como tu nombre, las URL pertinentes, ejemplos concretos de resultados del modelo u otros datos que ayuden a identificar el problema. En algunos casos, es posible que te pidamos verificar tu identidad o confirmar que la información se refiere a ti antes de poder actuar. Encontrarás más información sobre cómo presentar estas solicitudes, incluidas las prácticas recomendadas y el proceso de revisión, en nuestro artículo del Centro de ayuda sobre la eliminación de datos personales de ChatGPT. Revisamos las solicitudes de acuerdo con la legislación sobre privacidad aplicable y respondemos dentro de los plazos legales correspondientes.
Ten en cuenta que, de acuerdo con la legislación sobre privacidad, algunos derechos pueden no ser absolutos. Por ejemplo, es posible que no podamos atender una solicitud si no podemos verificar la información pertinente, si la solicitud no se refiere a información personal tratada por OpenAI, si resulta aplicable alguna excepción o si existe otro motivo legal para no hacerlo. Las solicitudes se evalúan caso por caso y pueden exigir que se ponderen los derechos de privacidad frente a otras consideraciones importantes, como la libertad de expresión y el interés público.
No obstante, nos esforzamos por dar prioridad a la protección de la información personal y cumplir toda la legislación sobre privacidad aplicable. Si consideras que no hemos resuelto un problema de forma adecuada, tienes derecho a presentar una reclamación ante la autoridad de control de tu lugar de residencia.
Para obtener más información sobre las prácticas de OpenAI relativas a la información personal que recopilamos de ti o sobre ti cuando utilizas nuestro sitio web, aplicaciones y servicios, consulta nuestra Política de privacidad.