OpenAI utiliza señales de procedencia, como las marcas de agua SynthID y las Credenciales de contenido (C2PA), para ayudar a las personas a saber si un contenido se generó con herramientas de OpenAI. Las señales de procedencia pueden ser indicadores útiles del origen, pero no garantizan que el contenido sea exacto, no se haya editado, sea propiedad legal de quien lo presenta ni aparezca en el contexto correcto.
¿Qué es el estándar C2PA y qué permite hacer?
C2PA es un estándar técnico abierto que permite a editoriales, empresas y otras entidades incorporar metadatos en contenido multimedia para verificar su origen y la información relacionada. C2PA no se limita al contenido generado por IA. Los fabricantes de cámaras, las organizaciones de noticias y otras entidades también están adoptando este estándar para certificar la fuente y el historial, o procedencia, del contenido multimedia.
Los metadatos C2PA pueden incluir información como la herramienta o el servicio que creó un archivo, cuándo se creó y otros datos sobre su origen o historial.
Obtén más información sobre C2PA.
¿Qué es SynthID y qué permite hacer?
SynthID es una tecnología de marcas de agua invisibles que incorpora una señal directamente en el contenido multimedia generado. A diferencia de los metadatos, la señal forma parte del propio contenido y puede persistir tras algunas ediciones o transformaciones.
SynthID proporciona una señal de procedencia adicional junto con los metadatos C2PA. Por ejemplo, si se eliminan los metadatos de un archivo, una marca de agua incorporada aún puede indicar que el contenido se generó con herramientas compatibles de OpenAI.
¿Qué tipos de contenido generado por OpenAI incluyen señales de procedencia?
OpenAI utiliza distintas señales de procedencia para cada tipo de contenido.
| Tipo de contenido | Señales de procedencia | Notas |
|---|---|---|
| Imágenes | Metadatos C2PA y marcas de agua SynthID | Las imágenes compatibles generadas con ChatGPT, Codex y la API de OpenAI incluyen ambas señales. |
| Audio | Marcas de agua SynthID | El audio compatible generado por OpenAI incluye una marca de agua inaudible incorporada en el propio audio. |
La cobertura puede variar según el producto, el modelo, la vía de exportación, el tipo de archivo y la fecha de creación del contenido.
¿Por qué algunos tipos de contenido utilizan distintas señales de procedencia?
Los distintos formatos multimedia conservan la información de procedencia de diferentes maneras.
Los metadatos, como las Credenciales de contenido C2PA, pueden incluir información más detallada, pero a veces las plataformas, las herramientas de edición o las conversiones de archivos pueden eliminarlos.
Las marcas de agua, como SynthID, se incorporan al propio contenido multimedia generado y pueden resistir mejor algunas transformaciones. Sin embargo, las marcas de agua suelen aportar menos contexto que los metadatos.
Cuando sea técnicamente viable, utilizar ambos métodos cuando corresponda ayuda a proporcionar señales de procedencia más sólidas.
¿Cómo puedo añadir una marca de agua visible a una imagen generada con herramientas de OpenAI?
Puedes pedir que se incluya un aviso visible en las imágenes generadas con ChatGPT, Codex y la API de OpenAI indicándoselo al modelo. Por ejemplo, al generar una imagen, puedes decir: «Incluye una marca de agua visible de OpenAI en la imagen».
Las marcas de agua visibles son distintas de las señales de procedencia incorporadas, como los metadatos C2PA y las marcas de agua SynthID. Pueden ayudar a reconocer que una imagen se generó con herramientas de OpenAI, pero no equivalen a las señales de procedencia legibles por máquinas.
¿Cómo puedo comprobar si un contenido se generó con herramientas de OpenAI?
Puedes visitar openai.com/verify para comprobar si una imagen o un archivo de audio compatible contiene señales de procedencia asociadas al contenido generado o exportado por herramientas de OpenAI.
Cuando subas un archivo compatible, la herramienta buscará señales de procedencia compatibles de OpenAI, como una marca de agua SynthID o un archivo de manifiesto C2PA de confianza asociado a OpenAI.
Si la herramienta encuentra una señal de procedencia compatible de OpenAI, indica que el contenido se generó o exportó mediante herramientas de OpenAI.
¿Qué significa el resultado de una verificación?
Si se detecta una señal, la herramienta puede ayudar a confirmar que el contenido subido incluye una señal de procedencia compatible asociada a OpenAI.
La herramienta no confirma que el contenido sea exacto, no se haya editado, sea propiedad legal de quien lo presenta ni aparezca en el contexto correcto. Tampoco identifica quién creó el contenido ni por qué lo hizo.
¿Qué ocurre si no se encuentra ninguna señal?
Si no se detecta ninguna señal, significa que la herramienta no encontró en el archivo subido señales de procedencia emitidas por OpenAI.
Aun así, el contenido podría haberse generado o exportado mediante OpenAI si:
El contenido se creó antes de que estuvieran disponibles las señales de procedencia.
El contenido procedía de un producto, modelo, vía de exportación o tipo de archivo no compatible.
Los metadatos se eliminaron al subir, descargar, editar, convertir o compartir el archivo.
Una marca de agua se degradó por la compresión, el recorte, el ruido, las ediciones, la conversión de formato u otras transformaciones.
Un fragmento de audio es demasiado corto o se ha modificado de forma considerable.
¿Tenéis previsto admitir resultados de texto?
En consonancia con nuestros compromisos en virtud del Código de buenas prácticas de la Comisión Europea sobre la transparencia del contenido generado por IA, nuestro objetivo es ampliar las señales de procedencia a todas las modalidades, incluido el texto, para que clientes y desarrolladores dispongan de formas claras de cumplir sus propias obligaciones de transparencia a medida que sigan madurando los estándares y las herramientas.
¿Puede OpenAI Verify detectar contenido de otras herramientas de IA?
OpenAI Verify está diseñado para detectar señales de procedencia compatibles asociadas al contenido generado o exportado por herramientas de OpenAI.
No está diseñado para detectar contenido generado por otros servicios de IA y puede que tampoco detecte contenido generado por OpenAI si falta la señal correspondiente, no es compatible o se ha degradado.
¿Pueden los desarrolladores verificar contenido mediante una API?
Los desarrolladores y las organizaciones pueden utilizar la API de verificación de OpenAI para comprobar si el contenido compatible contiene señales de procedencia de OpenAI e integrar la verificación en sus propias aplicaciones o flujos de trabajo. Visita openai.com/verify para obtener información sobre el acceso a la API. Las organizaciones que necesiten límites de uso más altos pueden solicitar que se aumenten. Visita openai.com/verify para obtener más información.