Los modelos fundacionales de OpenAI, incluidos los que sustentan ChatGPT, se desarrollan utilizando tres fuentes principales de información: (1) información disponible públicamente en internet, (2) información a la que accedemos mediante acuerdos con terceros y (3) información que proporcionan o generan nuestros usuarios, entrenadores humanos e investigadores.
El desarrollo de modelos fundacionales como los que se utilizan en ChatGPT consta de varias etapas, entre ellas la preparación de los datos de entrenamiento, el preentrenamiento y el postentrenamiento, así como la evaluación y mejora continuas tras su implementación. En estas etapas se pueden utilizar distintos tipos de información para diversos fines, como mejorar el rendimiento, la fiabilidad y la seguridad de los modelos.
Este artículo ofrece una visión general de la información que utilizamos para ayudar a desarrollar estos modelos, de cómo la recopilamos y utilizamos de conformidad con la legislación sobre privacidad y de las garantías que aplicamos a lo largo del proceso de entrenamiento. Para entender cómo recopilamos y utilizamos la información de los usuarios de nuestros servicios, incluido cómo impedir que tus conversaciones de ChatGPT se utilicen para ayudar a mejorar nuestros modelos, consulta nuestra Política de privacidad y el artículo sobre cómo se utilizan tus datos para mejorar el rendimiento de los modelos.
¿Qué es ChatGPT y cómo funciona?
ChatGPT es un servicio basado en inteligencia artificial al que puedes acceder a través de internet o de una aplicación. Puedes utilizar ChatGPT para una gran variedad de tareas, como organizar y resumir información, obtener ayuda con traducciones, programación, investigación y análisis, completar tareas de varios pasos con distintas herramientas, analizar o generar imágenes, estimular la creatividad y generar ideas, así como para otras actividades cotidianas. ChatGPT está diseñado para comprender y responder a las preguntas e instrucciones de los usuarios mediante el aprendizaje de patrones a partir de grandes cantidades de información, como texto, imágenes, audio y vídeo.
Durante el entrenamiento, el modelo analiza las relaciones entre estos datos —por ejemplo, cómo suelen aparecer juntas las palabras en un contexto— y utiliza lo aprendido para predecir cuál es la siguiente palabra más probable al generar una respuesta, palabra por palabra. El texto puede convertirse en unidades más pequeñas, a veces llamadas «tokens», que pueden representar palabras completas, partes de palabras o signos de puntuación. Los tokens son las unidades básicas del texto que procesa el modelo. Del mismo modo, los modelos que generan otros tipos de contenido, como imágenes, aprenden patrones sobre cómo se relacionan los píxeles entre sí y con las descripciones asociadas en los datos de entrenamiento.
Por ejemplo, durante el proceso de aprendizaje del modelo (conocido como «entrenamiento»), se le puede pedir que complete una frase como: «En lugar de girar a la izquierda, giró ___». Al principio del entrenamiento, sus respuestas son en gran medida aleatorias. Sin embargo, a medida que el modelo procesa un gran volumen de texto y aprende de él, mejora su capacidad para reconocer patrones y predecir la siguiente palabra más probable. Este proceso se repite con millones de frases para perfeccionar su comprensión y mejorar su precisión.
Como hay varias formas plausibles de completar una frase —por ejemplo, «En lugar de girar a la izquierda, giró a la derecha», «en sentido contrario» o «hacia atrás»—, la forma en que responde el modelo tiene un componente de aleatoriedad inherente. Por eso, una misma pregunta puede generar respuestas distintas en consultas diferentes.
Los modelos de aprendizaje automático constan de grandes conjuntos de números, conocidos como «pesos» o «parámetros», junto con código que interpreta y utiliza esos números. Estos modelos no almacenan ni conservan copias de los datos con los que se entrenan. En cambio, a medida que un modelo aprende, los valores de sus parámetros se ajustan ligeramente para reflejar los patrones que ha identificado. En el ejemplo anterior, el modelo pasó de predecir palabras al azar a hacer predicciones más precisas, no porque almacenara las frases de entrenamiento, sino porque actualizaba sus parámetros internos. El modelo no conserva copias de las frases, las imágenes ni el audio que procesa durante el entrenamiento. ChatGPT no «copia y pega» sus datos de entrenamiento. Es algo parecido a lo que hace un profesor que, tras estudiar en profundidad, puede explicar conceptos porque comprende las relaciones entre las ideas, sin memorizar ni reproducir literalmente los materiales originales. Al generar una respuesta a una solicitud de un usuario, el modelo utiliza estos pesos aprendidos para predecir y crear contenido nuevo.
¿Qué tipo de información se utiliza para enseñar a ChatGPT?
En cuanto al contenido de internet disponible públicamente, solo utilizamos información de acceso libre y abierto. Esto puede incluir páginas web, foros, blogs, publicaciones y otros contenidos en línea de acceso público. Por ejemplo, si participas en un foro de debate en línea de acceso público o publicas un blog u otro contenido público, podemos utilizar ese contenido para entrenar modelos. No obstante, tomamos medidas para reducir el tratamiento de datos personales durante nuestro proceso de entrenamiento. Al recopilar contenido de internet disponible públicamente, no obtenemos datos de forma intencionada de fuentes que sabemos que están sujetas a muros de pago ni de la web oscura. Además, aplicamos filtros para eliminar material del que no queremos que aprendan nuestros modelos, como discursos de odio, contenido para adultos, sitios que agregan datos personales y spam. La información restante se utiliza después para entrenar nuestros modelos.
Los propietarios de sitios web pueden controlar si se permite el acceso al contenido público de sus sitios para fines de entrenamiento mediante controles web estándar, como robots.txt, para bloquear GPTBot, que puede rastrear contenido de acceso público para ayudar a entrenar nuestros modelos. Ofrecemos orientación para ayudar a los propietarios de sitios web a gestionar cómo interactúan sus sitios y contenidos con nuestros sistemas de IA.
También utilizamos información de colaboradores externos para ayudar a entrenar y mejorar nuestros modelos. Esto puede incluir información de conjuntos de datos a los que accedemos mediante acuerdos con terceros, así como información proporcionada o generada por entrenadores humanos e investigadores cuando lo permiten nuestras políticas y acuerdos. Esto ayuda a mejorar la calidad, la seguridad y el rendimiento de nuestros modelos. Estas fuentes pueden incluir texto, imágenes, audio, vídeo u otros tipos de datos, según el conjunto de datos.
También utilizamos cada vez más datos sintéticos en algunos procesos de entrenamiento. Por ejemplo, podemos utilizar información y nuestros modelos para generar prompts sintéticos, ejemplos multilingües u otros materiales de entrenamiento. Los datos sintéticos pueden ayudar a mejorar el rendimiento de los modelos, por ejemplo, al complementar los datos de entrenamiento en ámbitos donde son escasos o están desequilibrados. También pueden favorecer métodos de desarrollo de modelos que refuercen la privacidad.
¿Se utilizan datos personales para enseñar a ChatGPT?
Una parte considerable del contenido en línea contiene información sobre personas, por lo que nuestros datos de entrenamiento pueden incluir datos personales de forma incidental. No obstante, tomamos medidas para reducir el tratamiento de datos personales durante nuestro proceso de entrenamiento.
Utilizamos los datos de entrenamiento para desarrollar las capacidades del modelo —como la predicción, el razonamiento y la resolución de problemas—, no para crear perfiles de personas, ponernos en contacto con ellas ni personalizar los anuncios que reciben.
En algunos casos, los modelos pueden aprender a partir de datos personales para comprender cómo funcionan en el lenguaje elementos como los nombres y las direcciones, o para reconocer a personajes públicos y entidades conocidas. Esto ayuda al modelo a generar respuestas más precisas y adecuadas al contexto.
¿Cómo se protegen los datos personales durante el entrenamiento?
Tomamos medidas activas para limitar el tratamiento de datos personales durante el entrenamiento. Por ejemplo, excluimos fuentes que sabemos que agregan grandes cantidades de datos personales, aplicamos filtros para reducir la presencia de datos personales en el proceso de entrenamiento y tomamos medidas para identificar y eliminar el contenido duplicado a fin de reducir el riesgo de que se repitan los datos de entrenamiento. Además, entrenamos nuestros modelos para que eviten responder a solicitudes de información privada o sensible sobre personas.
Durante cuánto tiempo conservamos la información
Conservamos la información incluida en los datos de entrenamiento solo durante el tiempo razonablemente necesario para los fines descritos en este artículo y en nuestra Política de privacidad, entre ellos desarrollar y mejorar nuestros modelos y realizar investigaciones científicas relacionadas. La conservación de la información se revisa periódicamente para comprobar que sigue siendo necesaria, y su duración varía según el tipo de información y el uso que se haga de ella. Al determinar los plazos de conservación, tenemos en cuenta factores como la finalidad del tratamiento de la información, su cantidad, naturaleza y sensibilidad, el posible riesgo de daños derivados de un uso o divulgación no autorizados y las obligaciones legales a las que estamos sujetos.
¿Cómo se cumple la legislación sobre privacidad en el desarrollo de ChatGPT?
Utilizamos la información de entrenamiento de forma lícita. Nuestros modelos fundacionales hacen posible una amplia variedad de aplicaciones beneficiosas, como herramientas de accesibilidad, atención al cliente, desarrollo de software, educación personalizada e investigación científica. Estas capacidades dependen de grandes volúmenes de datos de entrenamiento, que incluyen información de acceso público e información de colaboradores externos. Aplicamos garantías a lo largo de todo el proceso de entrenamiento, incluidas medidas destinadas a reducir el tratamiento de datos personales durante ese proceso y a mitigar los riesgos, tal como se describe en este artículo. La recopilación y el uso de los datos personales incluidos en la información de entrenamiento se basan en intereses legítimos previstos en leyes sobre privacidad como el RGPD. Entre ellos se encuentra el entrenamiento y la mejora de nuestros modelos en beneficio de los usuarios y de la sociedad en general, de acuerdo con nuestra misión de garantizar que la inteligencia artificial general beneficie a todo el mundo, como se explica con más detalle en nuestra Política de privacidad. Hemos realizado una evaluación de impacto relativa a la protección de datos para ayudar a garantizar que recopilamos y utilizamos esta información de forma legal y responsable.
Cuándo se puede compartir o transferir información
No «vendemos» datos personales y solo divulgamos los datos personales incluidos en los datos de entrenamiento en las circunstancias limitadas que se describen en nuestra Política de privacidad. Por ejemplo, podemos compartir información con empresas afiliadas, proveedores y prestadores de servicios que contribuyen al desarrollo, las pruebas y la mejora de nuestros modelos. También podemos divulgar información si creemos de buena fe que es necesario para cumplir una obligación legal o para proteger nuestros derechos y nuestra seguridad, así como los de nuestros usuarios, empleados o el público, según se describe en nuestra Política de privacidad.
Dado que nuestra infraestructura es global, los datos personales incluidos en los datos de entrenamiento pueden tratarse en países fuera del EEE, Suiza o el Reino Unido (incluido Estados Unidos). Cuando esto ocurre, aplicamos las garantías adecuadas, como decisiones de adecuación o cláusulas contractuales tipo, según se describe en nuestra Política de privacidad.
Tus derechos y cómo ejercerlos
Respondemos a las solicitudes de oposición y de ejercicio de derechos similares. Como resultado del aprendizaje del lenguaje, las respuestas de ChatGPT pueden incluir a veces datos personales de personas cuya información aparece en múltiples ocasiones en sitios de internet de acceso público (por ejemplo, personajes públicos). Las personas de determinadas jurisdicciones pueden oponerse al tratamiento de sus datos personales por parte de nuestros modelos o presentar otras solicitudes para ejercer sus derechos en materia de protección de datos a través de nuestro Portal de privacidad. También puedes ejercer estos derechos escribiendo a dsar@openai.com.
Para ayudarnos a evaluar tu solicitud y responder a ella, proporciona información suficiente para que podamos entender a qué datos personales se refiere, como tu nombre, las URL pertinentes, ejemplos concretos de respuestas del modelo u otros detalles que ayuden a identificar el problema. En algunos casos, podemos pedirte que verifiques tu identidad o confirmes que la información se refiere a ti antes de que podamos actuar. Encontrarás más información sobre cómo presentar estas solicitudes, incluidas las prácticas recomendadas y cómo se revisan, en nuestro artículo del Centro de ayuda sobre la eliminación de datos personales de ChatGPT. Revisamos las solicitudes de conformidad con la legislación aplicable sobre privacidad y respondemos dentro de los plazos legales correspondientes.
Ten en cuenta que, de acuerdo con la legislación sobre privacidad, algunos derechos pueden no ser absolutos. Por ejemplo, es posible que no podamos atender una solicitud si no podemos verificar la información pertinente, si la solicitud no se refiere a datos personales tratados por OpenAI, si se aplica una excepción o si tenemos otro motivo legal para no atenderla. Las solicitudes se evalúan caso por caso y pueden requerir que se ponderen los derechos de privacidad frente a otras consideraciones importantes, como la libertad de expresión y el interés público.
No obstante, nos esforzamos por dar prioridad a la protección de los datos personales y cumplir toda la legislación aplicable sobre privacidad. Si consideras que no hemos atendido adecuadamente un problema, tienes derecho a presentar una reclamación ante tu autoridad de control local.
Para obtener más información sobre las prácticas de OpenAI en relación con los datos personales que recopilamos de ti o sobre ti cuando utilizas nuestro sitio web, aplicaciones y servicios, consulta nuestra Política de privacidad.