Los modelos fundacionales de OpenAI, incluidos los modelos que impulsan ChatGPT, se desarrollan utilizando tres fuentes principales de información: (1) información disponible públicamente en internet, (2) información a la que accedemos en colaboración con terceros, y (3) información que nuestros usuarios, entrenadores humanos e investigadores proporcionan o generan.
El desarrollo de modelos fundacionales como los que se usan en ChatGPT implica varias etapas, incluida la preparación de datos de entrenamiento, el preentrenamiento y el postentrenamiento, así como la evaluación y mejora continuas después de la implementación. En estas etapas, se pueden usar diferentes tipos de información con diversos fines, incluido mejorar el rendimiento, la confiabilidad y la seguridad del modelo.
En este artículo, se proporciona una descripción general de la información que usamos para ayudar a desarrollar estos modelos, cómo recopilamos y usamos esa información en cumplimiento de las leyes de privacidad, y las medidas de protección que aplicamos durante todo el proceso de entrenamiento. Para comprender cómo recopilamos y usamos la información de los usuarios de nuestros servicios, incluida la forma de excluirte del uso de las conversaciones de ChatGPT para ayudar a mejorar nuestros modelos, consulta nuestra Política de privacidad y este artículo del Centro de ayuda.
¿Qué es ChatGPT y cómo funciona?
ChatGPT es un servicio basado en inteligencia artificial al que puedes acceder por internet o mediante la app. Puedes usar ChatGPT para una amplia gama de tareas, como organizar y resumir información, asistir con traducciones, apoyar en programación, investigación y análisis, completar tareas de varios pasos en distintas herramientas, analizar o generar imágenes, inspirar creatividad e ideas, y otras actividades cotidianas. ChatGPT está diseñado para comprender y responder preguntas e instrucciones de los usuarios mediante el aprendizaje de patrones a partir de grandes cantidades de información, incluidos texto, imágenes, audio y video.
Durante el entrenamiento, el modelo analiza las relaciones dentro de estos datos, como cómo las palabras suelen aparecer juntas en contexto, y utiliza esa comprensión para predecir la siguiente palabra más probable al generar una respuesta, una palabra a la vez. El texto puede convertirse en unidades más pequeñas, a veces llamadas “tokens”, que pueden representar palabras completas, partes de palabras o signos de puntuación. Los tokens son las unidades básicas del texto que procesa el modelo. De manera similar, los modelos que generan otras formas de contenido, como imágenes, aprenden patrones sobre cómo los píxeles se relacionan entre sí y con las descripciones asociadas en los datos de entrenamiento.
Por ejemplo, durante el proceso de aprendizaje del modelo (conocido como "entrenamiento"), el modelo podría tener la tarea de completar una oración como: "En lugar de girar a la izquierda, ella giró ___." Al inicio del entrenamiento, sus respuestas son mayormente aleatorias. Sin embargo, a medida que el modelo procesa y aprende de un gran volumen de texto, mejora en reconocer patrones y predecir la palabra siguiente más probable. Este proceso se repite en millones de oraciones para refinar su comprensión y mejorar su exactitud.
Debido a que hay múltiples formas plausibles de completar una oración, como "En lugar de girar a la izquierda, giró a la derecha", "alrededor" o "atrás", hay un elemento inherente de aleatoriedad en cómo responde el modelo. Como resultado, la misma pregunta puede dar respuestas diferentes en distintas consultas.
Los modelos de aprendizaje automático consisten en grandes conjuntos de números, conocidos como "pesos" o "parámetros", junto con el código que interpreta y utiliza esos números. Estos modelos no almacenan ni retienen copias de los datos con los que se entrenan. En lugar de eso, a medida que un modelo aprende, los valores de sus parámetros se ajustan ligeramente para reflejar los patrones que ha identificado. En el ejemplo anterior, el modelo mejoró de predecir palabras al azar a hacer predicciones más precisas, no al almacenar las oraciones de entrenamiento, sino al actualizar sus parámetros internos. El modelo no retiene copias de las oraciones, imágenes o audios que procesa durante el entrenamiento. ChatGPT no “copia y pega” de sus datos de entrenamiento, al igual que un profesor, después de estudiar mucho, puede explicar conceptos al comprender las relaciones entre las ideas sin memorizar ni reproducir los materiales originales de manera literal. Al generar una respuesta a una solicitud de usuario, el modelo utiliza estos pesos aprendidos para predecir y crear contenido nuevo.
¿Qué tipo de información se usa para entrenar a ChatGPT?
En el caso del contenido de Internet disponible al público, usamos únicamente información que es accesible de forma libre y abierta en Internet. Esto puede incluir páginas web disponibles públicamente, foros públicos, blogs públicos, publicaciones públicas y otro contenido en línea disponible públicamente. Por ejemplo, si participas en un foro de discusión en línea público o publicas un blog u otra publicación pública, podemos usar ese contenido público con fines de entrenamiento de modelos. Sin embargo, tomamos medidas para reducir el procesamiento de información personal en nuestro proceso de entrenamiento. Al recopilar contenido de internet disponible públicamente, no recopilamos intencionalmente datos de fuentes que se sabe que están detrás de muros de pago o de la web oscura. Además, aplicamos filtros para eliminar material del que no queremos que aprendan nuestros modelos, como discurso de odio, contenido para adultos, sitios que agregan información personal y spam. Luego, la información restante se utiliza para entrenar nuestros modelos.
Los propietarios de sitios web pueden gestionar si se puede acceder al contenido disponible públicamente de sus sitios para usarlo en el entrenamiento mediante controles web estándar, como robots.txt, para impedir el acceso de GPTBot, que puede rastrear contenido disponible públicamente para ayudar a entrenar nuestros modelos. Proporcionamos orientación para ayudar a los propietarios de sitios web a gestionar cómo sus sitios y su contenido interactúan con nuestros sistemas de IA.
También usamos información de socios externos para ayudar a entrenar y mejorar nuestros modelos. Esto puede incluir información en conjuntos de datos a los que accedemos mediante acuerdos con terceros, así como información proporcionada o generada por capacitadores humanos e investigadores cuando nuestras políticas y acuerdos lo permitan. Esto permite mejorar la calidad, la seguridad y el rendimiento de nuestros modelos. Estas fuentes pueden incluir texto, imágenes, audio, video u otros tipos de datos, según el conjunto de datos.
También utilizamos cada vez más datos sintéticos en algunos procesos de entrenamiento. Por ejemplo, podemos usar información y nuestros modelos para generar prompts sintéticos, ejemplos multilingües u otros materiales de entrenamiento. Los datos sintéticos pueden ayudar a mejorar el rendimiento del modelo, por ejemplo, al complementar los datos de entrenamiento en áreas donde los datos son escasos o están desequilibrados, y también pueden respaldar enfoques que mejoran la privacidad para el desarrollo de modelos.
¿Se usa información personal para entrenar a ChatGPT?
Una parte significativa del contenido en línea incluye información sobre personas, por lo que nuestros datos de entrenamiento podrían incluir información personal de manera incidental. Sin embargo, tomamos medidas para reducir el procesamiento de información personal en nuestro proceso de entrenamiento.
Usamos datos de entrenamiento para desarrollar las capacidades del modelo, como la predicción, el razonamiento y la resolución de problemas. No los usamos para crear perfiles de personas, contactarlas ni personalizar anuncios para ellas.
En algunos casos, los modelos pueden aprender de información personal para comprender cómo funcionan elementos como nombres y direcciones en el idioma, o para identificar figuras públicas y entidades conocidas. Esto ayuda al modelo a generar respuestas más precisas y adecuadas al contexto.
¿Cómo se protege la información personal durante el entrenamiento?
Tomamos medidas activas para limitar el procesamiento de información personal durante el entrenamiento. Por ejemplo, excluimos fuentes conocidas que recopilan grandes cantidades de datos personales, aplicamos filtros para reducir la información personal en el proceso de entrenamiento y tomamos medidas para identificar y eliminar contenido duplicado a fin de reducir el riesgo de reproducir datos de entrenamiento. Además, entrenamos nuestros modelos para evitar responder a solicitudes de información privada o confidencial sobre personas.
Cuánto tiempo conservamos la información
Conservamos la información en los datos de entrenamiento solo durante el tiempo que sea razonablemente necesario para los fines descritos en este artículo y en nuestra Política de privacidad, lo que incluye desarrollar y mejorar nuestros modelos y para fines de investigación científica relacionados. La retención está sujeta a revisiones periódicas para garantizar que siga siendo necesaria, y varía según el tipo de información y cómo se utilice. Al determinar el período de conservación, consideramos factores como nuestra finalidad para procesar la información, la cantidad, naturaleza y sensibilidad de la información, el riesgo potencial de daño por uso o divulgación no autorizados y cualquier obligación legal a la que estemos sujetos.
¿Cómo se asegura el desarrollo de ChatGPT de cumplir con las leyes de privacidad?
Usamos la información de entrenamiento de manera lícita. Nuestros modelos fundamentales impulsan una amplia gama de aplicaciones beneficiosas, incluidas herramientas de accesibilidad, atención al cliente, desarrollo de software, educación personalizada e investigación científica. Estas capacidades dependen de datos de entrenamiento a gran escala, incluida información disponible públicamente e información de socios externos. Aplicamos medidas de protección durante todo el proceso de entrenamiento, incluidos pasos diseñados para reducir el tratamiento de información personal en el proceso de entrenamiento y mitigar riesgos, como se describe en este artículo. Basamos nuestra recopilación y uso de la información personal incluida en los datos de entrenamiento en intereses legítimos conforme a leyes de privacidad como el RGPD, incluso para entrenar y mejorar nuestros modelos para los usuarios y la sociedad en general, en consonancia con nuestra misión de garantizar que la inteligencia artificial general beneficie a todo el mundo, como se explica con más detalle en nuestra Política de privacidad. Hemos completado una evaluación de impacto en la protección de datos para garantizar que recopilamos y usamos esta información de manera legal y responsable.
Cuándo se puede compartir o transferir la información
No "vendemos" información personal, y solo divulgamos información personal en datos de entrenamiento en las circunstancias limitadas descritas en nuestra política de privacidad. Por ejemplo, podemos compartir información con afiliados, proveedores y prestadores de servicios que apoyan el desarrollo, las pruebas y la mejora de nuestros modelos. También podemos divulgar información si creemos de buena fe que dicha acción es necesaria para cumplir con una obligación legal o para salvaguardar nuestros derechos, seguridad, y protección, así como los de nuestros usuarios, empleados o el público, como se describe en nuestra Política de Privacidad.
Dado que nuestra infraestructura es global, la información personal incluida en los datos de entrenamiento puede ser procesada en países fuera del EEE, Suiza o el Reino Unido (incluidos los Estados Unidos). Cuando esto ocurre, aplicamos salvaguardas adecuadas, como decisiones de adecuación o cláusulas contractuales tipo, según se describe en nuestra Política de privacidad.
Tus derechos y cómo ejercerlos
Respondemos a solicitudes de objeción y otros derechos similares. Como resultado del aprendizaje del lenguaje, las respuestas de ChatGPT pueden incluir ocasionalmente información personal sobre personas cuya información aparece repetidamente en internet pública (por ejemplo, figuras públicas). En ciertas jurisdicciones, las personas pueden oponerse al tratamiento de su información personal por parte de nuestros modelos o presentar otras solicitudes relacionadas con sus derechos como titulares de datos a través de nuestro Portal de privacidad. También puedes ejercer estos derechos comunicándote con privacy@openai.com.
Para ayudarnos a evaluar y responder a tu solicitud, proporciona suficiente información para que podamos comprender con qué información personal se relaciona tu solicitud, como tu nombre, las URL relevantes, ejemplos específicos de resultados del modelo u otros detalles que ayuden a identificar el problema. En algunos casos, es posible que te pidamos verificar tu identidad o confirmar que la información está relacionada contigo antes de que podamos tomar medidas. Para obtener más información sobre cómo enviar estas solicitudes, incluidas las prácticas recomendadas y cómo se revisan las solicitudes, consulta nuestro artículo del Centro de ayuda sobre la eliminación de datos personales de ChatGPT. Revisamos las solicitudes de conformidad con las leyes de privacidad aplicables y respondemos dentro de los plazos legales aplicables.
Ten en cuenta que, de conformidad con las leyes de privacidad, algunos derechos pueden no ser absolutos. Por ejemplo, es posible que no podamos atender una solicitud cuando no podamos verificar la información pertinente, cuando la solicitud no esté relacionada con información personal procesada por OpenAI, cuando se aplique una exención o cuando tengamos otro motivo legal para hacerlo. Las solicitudes se evalúan caso por caso y pueden implicar equilibrar los derechos de privacidad frente a otras consideraciones importantes, como la libertad de expresión y el interés público.
Sin embargo, nos esforzamos por priorizar la protección de la información personal y por cumplir con todas las leyes de privacidad aplicables. Si consideras que no hemos atendido adecuadamente un problema, tienes derecho a presentar una queja ante la autoridad supervisora local.
Para obtener más información sobre las prácticas de OpenAI con respecto a la información personal que recopilamos de ti o sobre ti cuando usas nuestro sitio web, aplicaciones y servicios, consulta nuestra Política de privacidad.