Como parte de su compromiso con un ecosistema de IA más seguro y transparente, OpenAI utiliza señales de procedencia para ayudar a las personas a saber si un contenido se ha generado con un modelo de OpenAI.

Las señales de procedencia pueden aportar información útil sobre el origen, pero no garantizan que el contenido sea correcto, que no se haya editado, que su titularidad sea legítima ni que se presente en el contexto adecuado.

Señales de procedencia de OpenAI

¿Qué señales de procedencia utiliza OpenAI?

OpenAI utiliza distintas señales de procedencia para cada tipo de contenido.

La cobertura puede variar según el producto, el modelo, el método de exportación, el tipo de archivo y el momento en que se creó el contenido. Se incluyen los resultados de la API, excepto los de los modelos cuya retirada es inminente, como gpt-image-1, gpt-image-1.5 y sora-2. 

¿Por qué algunos tipos de contenido usan varias señales?

Cuando es técnicamente viable, OpenAI combina metadatos y marcas de agua para que cada método pueda compensar las limitaciones del otro. Los metadatos pueden contener información detallada, pero las plataformas, las herramientas de edición y las conversiones de archivos pueden eliminarlos. Las marcas de agua aportan menos contexto, pero, al estar incorporadas en el propio contenido generado, pueden conservarse tras algunas transformaciones que eliminan los metadatos. 

¿Hasta qué punto resisten las señales de procedencia las modificaciones del contenido?

Las marcas de agua SynthID para imágenes y audio, y las marcas de agua textGrain para texto, están diseñadas para resistir los cambios habituales. Según el tipo de contenido, estos pueden incluir pequeñas ediciones, copiar y pegar, recortes o capturas de pantalla. Los cambios más profundos —como recortar mucho una imagen, comprimir archivos, reformular sustancialmente un texto o traducirlo— pueden hacer que una marca de agua deje de ser detectable. Tras cambios profundos, describir el resultado como «generado por OpenAI» también puede tener menos sentido.

Las credenciales de contenido, desarrolladas por la Coalición para la Procedencia y Autenticidad del Contenido, pueden perderse con acciones cotidianas, como hacer una captura de pantalla o convertir un archivo. Cuando se conservan, pueden aportar más detalles sobre el origen y el historial de un archivo que una marca de agua por sí sola.

Cuando es técnicamente posible, usamos ambos métodos para aumentar la probabilidad de que la información de procedencia se conserve tras los cambios en el contenido.

¿Qué son las credenciales de contenido y qué permiten hacer?

Las credenciales de contenido adjuntan información sobre el origen y el historial de un archivo, como la herramienta con la que se creó y cuándo. Utilizan un estándar abierto desarrollado por la Coalición para la Procedencia y Autenticidad del Contenido (C2PA), por lo que a veces se denominan «metadatos C2PA».

Las credenciales de contenido ayudan a verificar de dónde procede un contenido. No solo se utilizan para el contenido generado por IA: los fabricantes de cámaras, los medios de comunicación y otras entidades también usan este estándar para certificar el origen y el historial de su contenido multimedia. Más información sobre C2PA.

¿Qué es SynthID y qué permite hacer?

SynthID es una tecnología de marcas de agua invisibles desarrollada por Google DeepMind que incorpora una señal directamente en el contenido multimedia generado. A diferencia de los metadatos, la señal forma parte del propio contenido y puede conservarse tras algunas ediciones o transformaciones. SynthID aporta una señal de procedencia adicional que complementa los metadatos C2PA. Por ejemplo, si se eliminan los metadatos de un archivo, una marca de agua incorporada puede seguir indicando que el contenido se generó con herramientas de OpenAI compatibles. Más información sobre SynthID.

¿Por qué incorporáis marcas de agua a los textos generados?

Estamos implementando marcas de agua de texto para los usuarios de ChatGPT en la UE con el fin de cumplir el Reglamento de IA de la UE y de acuerdo con nuestros compromisos en virtud del Código de Buenas Prácticas de la UE sobre Transparencia del Contenido Generado por IA, que OpenAI ha firmado junto con otros importantes proveedores de IA. 

¿Qué es textGrain y qué permite hacer?

textGrain es la tecnología de OpenAI para incorporar marcas de agua al texto. Ajusta sutilmente la forma en que el modelo elige de manera aleatoria entre las posibles palabras o fragmentos de palabras mientras escribe. A lo largo de un fragmento de texto, estas elecciones crean un patrón que un detector puede buscar, incluso después de algunas modificaciones.

La marca de agua forma parte de la propia redacción y no es visible para quien lee el texto. No añade caracteres ocultos, espacios invisibles ni signos de puntuación inusuales. Las marcas de agua de texto ayudan a cumplir el requisito del Reglamento de IA de la UE de marcar el texto generado.

Herramientas de verificación de OpenAI

¿Cómo puedo comprobar si un contenido se ha generado con herramientas de OpenAI?

Puedes visitar openai.com/verify para comprobar si un archivo de imagen o audio compatible contiene señales de procedencia asociadas a contenido generado o exportado por herramientas de OpenAI. Tras subir un archivo compatible, la herramienta buscará señales de procedencia de OpenAI que admita, como una marca de agua SynthID o un archivo de manifiesto C2PA de confianza asociado a OpenAI. Si la herramienta encuentra una señal de procedencia de OpenAI que admita, esto indica que el contenido probablemente se generó con un modelo de OpenAI.

Los desarrolladores y las organizaciones también pueden usar la API de procedencia de contenido de OpenAI para buscar señales de procedencia de OpenAI en imágenes y audio e integrar la verificación en sus propias aplicaciones o flujos de trabajo. Las organizaciones cuyo caso de uso cumpla los requisitos pueden solicitar un aumento de los límites. 

En el caso del texto, de acuerdo con nuestras obligaciones en virtud del Reglamento de IA de la UE, las organizaciones cuyo caso de uso cumpla los requisitos pueden solicitar acceso al detector de texto. Esto incluye a organizaciones académicas y de investigación que estudien la procedencia del texto, la fiabilidad de la detección o cómo interpretan las personas los resultados de procedencia. Revisaremos las solicitudes de las organizaciones que cumplan los requisitos de forma individual y, cuando corresponda, nos pondremos en contacto con ellas para comunicarles novedades o solicitar información adicional. Nuestro enfoque de acceso puede evolucionar a medida que aprendamos más y mejoremos la tecnología.

Actualmente colaboramos con un grupo reducido de investigadores, entre ellos John Thickstun, profesor adjunto de Informática en la Universidad de Cornell; Martin Vechev, catedrático de Informática en la Escuela Politécnica Federal de Zúrich y director científico de INSAIT; e investigadores del Instituto Kempelen de Tecnologías Inteligentes (KInIT), para comprender mejor las capacidades y limitaciones de esta tecnología y orientar las mejoras de las marcas de agua de texto.

¿Quién puede optar a límites de verificación más altos y se cobra por las comprobaciones?

Actualmente, las comprobaciones de la API de procedencia de contenido son gratuitas y están sujetas a límites de uso. El programa de límites ampliados se centra en proyectos de procedencia de interés público y flujos de trabajo de integridad de la información que cumplan los requisitos, como la verificación en redacciones de medios, la comprobación de hechos, la investigación sobre la procedencia del contenido y la supervisión regulatoria.

Las aplicaciones empresariales generales quedan actualmente fuera del alcance del programa, como la prevención del fraude, la autenticación y la verificación con fines comerciales, o la reventa como parte de paquetes de servicios de procedencia y análisis de datos.

Las organizaciones cuyo caso de uso cumpla los requisitos pueden solicitar un aumento de los límites, pero presentar una solicitud no garantiza su aprobación. La API pública sigue disponible con sus límites predeterminados, también para evaluaciones de menor escala. Consulta la documentación de la API de procedencia de contenido para conocer los límites de uso actuales.

¿Quién puede acceder al detector de texto y se cobra por las comprobaciones?

Actualmente, las comprobaciones con el detector de texto son gratuitas. Entre los casos de uso que cumplen los requisitos se incluyen los de organizaciones académicas y de investigación que estudian la procedencia del texto, la fiabilidad de la detección o cómo interpretan las personas los resultados de procedencia.

Las aplicaciones empresariales generales quedan actualmente fuera del alcance del programa, como la prevención del fraude, la autenticación y la verificación con fines comerciales, o la reventa como parte de paquetes de servicios de procedencia y análisis de datos.

Las aplicaciones de integridad académica, como comprobar si los estudiantes han usado IA en sus trabajos (por ejemplo, al redactar ensayos o tesis), también quedan actualmente fuera del alcance del programa.

¿Qué significan los resultados de la verificación?

Si se detecta una señal mediante openai.com/verify o la API de procedencia de contenido de OpenAI, significa que el contenido subido contiene una señal de procedencia compatible asociada a OpenAI. La herramienta no confirma que el contenido sea correcto, que no se haya editado, que su titularidad sea legítima ni que se presente en el contexto adecuado. Tampoco identifica quién creó el contenido ni por qué se creó.

Si no se detecta ninguna señal, significa que la herramienta no ha encontrado señales de procedencia emitidas por OpenAI en el archivo subido. Aun así, el contenido podría haberse generado o exportado con OpenAI si:

• El contenido se creó antes de que las señales de procedencia estuvieran disponibles.

• El contenido procedía de un producto, modelo, método de exportación o tipo de archivo no compatible.

• Los metadatos se eliminaron al subir, descargar, editar, convertir o compartir el archivo.

• Una marca de agua se degradó debido a la compresión, el recorte, el ruido, la edición, la conversión de formato u otras transformaciones.

• Un clip de audio es demasiado corto o se ha modificado de forma significativa.

¿Cómo puedo obtener el resultado de verificación más fiable?

Sube un solo archivo compatible cada vez y, siempre que sea posible, utiliza el archivo original exportado. En el caso de las imágenes, evita recortar o convertir el archivo antes de comprobarlo. En el caso del audio, los clips de entre 10 y 60 segundos suelen dar los mejores resultados. Aunque no se detecte ninguna señal, ten en cuenta el origen y el contexto del archivo antes de sacar conclusiones.

¿Los resultados muestran mi prompt o información personal?

Las señales de procedencia no incluyen detalles sobre el usuario, la organización ni el prompt. 

¿Qué ocurre con el contenido que verifico mediante openai.com/verify o la API de procedencia de contenido?

El contenido que se sube a openai.com/verify o se envía a nuestra API de procedencia de contenido para su verificación solo se procesa para buscar señales de procedencia compatibles. El contenido no se almacena, salvo que lo exija la ley, ni se utiliza para entrenar modelos de OpenAI. 

¿Puede OpenAI detectar contenido generado con otras herramientas de IA?

Nuestras herramientas de procedencia de contenido están diseñadas para detectar las señales de procedencia compatibles asociadas a contenido generado por modelos de OpenAI o exportado por herramientas de OpenAI. No están diseñadas para detectar contenido generado por otros modelos de IA y es posible que tampoco detecten contenido generado por OpenAI si la señal correspondiente no está presente, no es compatible o se ha degradado.

Cómo funcionan las marcas de agua

¿Las marcas de agua determinan la autoría, la titularidad o la responsabilidad legal?

No. Una marca de agua es un indicio de que un modelo de OpenAI probablemente generó o procesó el contenido. Por sí sola, no determina quién es el autor o el titular del contenido, si era obligatorio informar del uso de IA ni quién es legalmente responsable. Tampoco te indica si el modelo estaba editando contenido que había subido un usuario.

¿Las marcas de agua indican en qué medida ha intervenido un modelo de OpenAI?

No. El detector informa de si ha encontrado una marca de agua. Encontrar una es un indicio de que un modelo de OpenAI probablemente generó o procesó el contenido, pero no muestra si el modelo lo generó en parte o en su totalidad, ni cuánto aportó una persona.

¿Cómo funcionan las marcas de agua de texto?

Las marcas de agua de texto crean un patrón secreto en la elección de palabras y fragmentos de palabras, llamados «tokens», que realiza el modelo mientras escribe.

En cada paso, el modelo asigna una probabilidad a cada posible token siguiente. El sistema de marcas de agua crea varios conjuntos ajustados de esas probabilidades, cada uno de los cuales favorece distintas opciones según una clave secreta. Los conjuntos se equilibran de modo que, al calcular su promedio, coincidan con las probabilidades originales del modelo. La clave selecciona qué conjunto usar y, a continuación, el modelo realiza una nueva elección aleatoria a partir de ese conjunto.

Un detector con la misma clave y la configuración correspondiente puede comprobar después si el texto sigue el patrón secreto con más frecuencia de la que cabría esperar por azar.

¿Se aplican las marcas de agua de texto a los textos basados en hechos y a los proporcionados por el usuario?

Las marcas de agua de texto dependen de que el modelo disponga de distintas formas de decir algo. Hay menos flexibilidad cuando una respuesta debe ceñirse estrictamente a los hechos o ser muy precisa, como la solución a un problema de matemáticas, o cuando se pide al modelo que reproduzca un texto proporcionado sin modificarlo. En estos casos, el modelo tiene menos margen para cambiar la redacción sin que se note la diferencia, por lo que es posible que no se detecte la marca de agua.

¿Se aplican las marcas de agua de texto a las respuestas breves y al código?

Los fragmentos breves no suelen contener suficiente texto para detectar marcas de agua de forma fiable. También es más difícil incorporar marcas de agua al código porque hay menos opciones plausibles para continuarlo que en la prosa habitual.

Para tener en cuenta estas limitaciones, el Código de Buenas Prácticas sobre Transparencia del Contenido Generado por IA, en el marco del Reglamento de IA de la UE, no exige marcas de agua en los resultados de menos de 200 tokens —unas 150 palabras en inglés— ni en los fragmentos de código.

¿Cómo varía la detección de marcas de agua de texto según el idioma?

Las tasas de detección varían según el idioma y, actualmente, es más fácil detectar las marcas en unos idiomas que en otros. Podemos ajustar la intensidad de la marca de agua para mejorar la detección en los idiomas en los que la señal es más débil.

Este gráfico evalúa la tasa de detección en los 24 idiomas oficiales de la UE. Primero generamos 500 prompts sintéticos en inglés sobre temas diversos y después los tradujimos a los otros 23 idiomas. Con una tasa de falsos positivos del 1 %, el español presenta la tasa de detección más alta (69,0 %), mientras que el rumano tiene la más baja (42,2 %). Nuestra marca de agua tiene un parámetro de intensidad ajustable: un «regulador» que refuerza o debilita la señal de la marca de agua para distintos ámbitos. Con este regulador, pudimos aumentar la intensidad en los idiomas con tasas de detección inferiores al 60 %; las partes de color azul claro de las barras muestran las mejoras obtenidas.

¿Las marcas de agua de texto reducen la calidad del modelo?

Según nuestras pruebas, no. En las pruebas de referencia que utilizamos para evaluar Astra, nuestro modelo de vanguardia más reciente, las diferencias de rendimiento con y sin marcas de agua se sitúan dentro del margen de variación que solemos observar entre evaluaciones. Las pruebas anteriores en ChatGPT tampoco mostraron cambios en las tasas de valoraciones negativas ni en otras métricas del producto al introducir las marcas de agua. 

¿Las marcas de agua de texto reducen la velocidad del modelo?

Las marcas de agua de texto tienen un impacto insignificante en la velocidad de nuestros modelos. 

¿En qué se diferencian las marcas de agua de texto de OpenAI de las herramientas de detección de IA de terceros?

Las herramientas de detección de terceros, como Pangram, suelen usar clasificadores para identificar texto generado por IA a partir de patrones como la elección de palabras. Ese método analiza el texto después de generarse, en lugar de detectar una señal incorporada. El Reglamento de IA de la UE exige específicamente que se incorpore una señal en el texto generado. 

¿Por qué usáis vuestras propias marcas de agua de texto en lugar de TextSeal o SynthID?

Desarrollamos nuestro propio método de marcas de agua de texto, llamado textGrain, para tener más control que con SynthID o TextSeal sobre el equilibrio entre la facilidad para detectar la marca de agua y la variedad de respuestas generadas a partir de un mismo prompt. En nuestras pruebas, nuestro método identificó correctamente una proporción similar o mayor de muestras de texto con marca de agua que SynthID para texto. Tenemos previsto publicar textGrain como tecnología de código abierto para que otros puedan desarrollar soluciones basadas en ella y ayudar a mejorar las marcas de agua de texto.

¿Las marcas de agua de texto añaden caracteres ocultos, tokens adicionales o cambios visibles?

No. Las marcas de agua de texto cambian el patrón estadístico de la elección de palabras; no insertan caracteres ocultos ni añaden tokens destinados exclusivamente a la marca de agua. La marca de agua no es visible para quien lee el texto, y copiarlo y pegarlo no introduce contenido oculto.

Orientación para clientes

Soy cliente de la API, ¿cómo activo las marcas de agua de texto?

Los clientes de la API de OpenAI pueden activar las marcas de agua de texto para un proyecto concreto desde Configuración, o para toda su organización desde Configuración de la organización. En cada caso, los clientes pueden seleccionar los modelos en cuyos textos se incluirá una marca de agua. Una vez activada para un modelo compatible, OpenAI añade la marca de agua durante la generación del texto. Los clientes no necesitan añadir una marca independiente a cada respuesta.

Activa Permitir marcas de agua de texto, selecciona tus modelos y, a continuación, selecciona Guardar.

Valor predeterminado de la organización: configuración de la organización → Controles de datos → Procedencia del texto.

Configuración específica del proyecto: configuración del proyecto → Procedencia del texto.

¿Para qué modelos puedo activar las marcas de agua?

En Configuración y Configuración de la organización, los clientes pueden consultar la lista de modelos que admiten actualmente las marcas de agua. En las próximas semanas, ampliaremos la compatibilidad a todos los modelos antiguos.

¿Activar las marcas de agua de texto también me da acceso al detector de texto?

No. Actualmente, el acceso al detector de texto está limitado a organizaciones académicas y de investigación autorizadas que trabajan para mejorar la fiabilidad de las marcas de agua de texto, su facilidad de uso y la claridad con la que pueden explicarse la tecnología y sus resultados. Esto se ajusta a nuestros compromisos en virtud del Código de Buenas Prácticas sobre Transparencia del Contenido Generado por IA, en el marco del Reglamento de IA de la UE.

¿Se conservarán las señales en el contenido después de transformarlo?

Es posible, pero depende de la señal y de los cambios que hagas.

En el caso de imágenes y audio compatibles, conserva una copia original y usa la API de procedencia de contenido para comprobar archivos representativos después de editarlos, convertirlos y publicarlos. En las imágenes, recortar, añadir ruido, convertir a JPEG y hacer capturas de pantalla puede dificultar la detección de las señales. Solo puedes comprobar texto de esta forma si tu organización tiene acceso autorizado al detector de texto.

Si el formato de archivo y el flujo de trabajo lo permiten, conserva los metadatos C2PA existentes e incluye credenciales de contenido en los archivos que produzcas. También puedes plantearte añadir tus propias marcas para que la información de procedencia sea más duradera o útil. Consulta la documentación técnica de C2PA para obtener detalles sobre la implementación.

En el texto, la marca de agua forma parte de la elección de palabras del modelo. Si conservas la redacción, se espera que la señal permanezca al reutilizar el texto, sin necesidad de realizar tareas de integración adicionales. Reescribir de forma sustancial, parafrasear o traducir el texto puede reducir la fiabilidad de la detección. Incluso si la redacción no cambia, no se garantiza que la marca de agua sea detectable, especialmente en fragmentos breves o textos con poco margen para elegir palabras distintas.

Accedo a los modelos de OpenAI a través de un servicio en la nube. ¿Esos resultados también contienen señales de procedencia?

Estamos trabajando con todos nuestros proveedores de servicios en la nube y de distribución para garantizar que se incorporen señales de procedencia, incluidas marcas de agua, en todos los resultados que lo permitan, ya sean imágenes, audio o texto. La disponibilidad puede variar según el resultado y el proveedor asociado. 

¿Las señales de procedencia sustituyen a las etiquetas visibles de IA u otros avisos?

No. Las marcas de agua y los metadatos C2PA proporcionan información que el software puede leer. No sustituyen a las etiquetas visibles, los banners u otros avisos que puedan ser obligatorios.

La necesidad de incluir un aviso adicional depende de cómo y dónde uses el contenido. OpenAI no puede asesorarte sobre tus obligaciones legales específicas; tu equipo jurídico debe evaluar los requisitos aplicables a tu uso.

Tengo más preguntas sobre el Reglamento de IA de la UE

Envía una consulta sobre el Reglamento de IA de la UE y te responderemos.