OpenAI usa señales de procedencia, como las marcas de agua SynthID y las Credenciales de contenido (C2PA), para ayudar a las personas a saber si el contenido se generó con herramientas de OpenAI. Las señales de procedencia pueden ser indicadores útiles del origen, pero no garantizan que el contenido sea preciso, no se haya editado, sea propiedad legal de quien lo presenta ni aparezca en el contexto correcto.
¿Qué es el estándar C2PA y qué permite hacer?
C2PA es un estándar técnico abierto que permite a editoriales, empresas y otras entidades incorporar metadatos en contenido multimedia para verificar su origen y la información relacionada. C2PA no se limita al contenido generado por IA. Este estándar también está siendo adoptado por fabricantes de cámaras, organizaciones de noticias y otras entidades para certificar la fuente y el historial, o procedencia, del contenido multimedia.
Los metadatos C2PA pueden incluir información como la herramienta o el servicio que creó un archivo, cuándo se creó y otros detalles sobre su origen o historial.
Obtén más información sobre C2PA.
¿Qué es SynthID y qué permite hacer?
SynthID es una tecnología de marcas de agua invisibles que incorpora una señal directamente en el contenido multimedia generado. A diferencia de los metadatos, la señal forma parte del contenido y puede persistir tras algunas ediciones o transformaciones.
SynthID proporciona una señal de procedencia adicional junto con los metadatos C2PA. Por ejemplo, si se eliminan los metadatos de un archivo, una marca de agua incorporada aún puede indicar que el contenido se generó con herramientas compatibles de OpenAI.
¿Qué tipos de contenido generado por OpenAI incluyen señales de procedencia?
OpenAI usa distintas señales de procedencia para diferentes tipos de contenido.
| Tipo de contenido | Señales de procedencia | Notas |
|---|---|---|
| Imágenes | Metadatos C2PA y marcas de agua SynthID | Las imágenes compatibles generadas con ChatGPT, Codex y la API de OpenAI incluyen ambas señales. |
| Audio | Marcas de agua SynthID | El audio compatible generado por OpenAI incluye una marca de agua inaudible incorporada en el propio audio. |
La cobertura puede variar según el producto, el modelo, la ruta de exportación, el tipo de archivo y la fecha de creación del contenido.
¿Por qué algunos tipos de contenido usan señales de procedencia diferentes?
Los distintos formatos multimedia conservan la información de procedencia de diferentes maneras.
Los metadatos, como las Credenciales de contenido C2PA, pueden contener información más detallada, pero las plataformas, las herramientas de edición o las conversiones de archivos a veces pueden eliminarlos.
Las marcas de agua, como SynthID, se incorporan en el propio contenido multimedia generado y pueden resistir mejor algunas transformaciones. Sin embargo, las marcas de agua suelen proporcionar menos contexto que los metadatos.
Cuando es técnicamente viable, usar ambos métodos donde corresponda ayuda a proporcionar señales de procedencia más sólidas.
¿Cómo puedo agregar una marca de agua visible a una imagen generada con herramientas de OpenAI?
Puedes solicitar un aviso visible en las imágenes generadas con ChatGPT, Codex y la API de OpenAI mediante una instrucción al modelo para que lo incluya. Por ejemplo, al generar una imagen, puedes indicar: “Incluye una marca de agua visible de OpenAI en la imagen”.
Las marcas de agua visibles son independientes de las señales de procedencia incorporadas, como los metadatos C2PA y las marcas de agua SynthID. Pueden ayudar a los usuarios a reconocer que una imagen se generó con herramientas de OpenAI, pero no son lo mismo que las señales de procedencia legibles por máquinas.
¿Cómo puedo comprobar si un contenido se generó con herramientas de OpenAI?
Puedes visitar openai.com/verify para comprobar si una imagen o un archivo de audio compatible contiene señales de procedencia asociadas con contenido generado o exportado mediante herramientas de OpenAI.
Después de que cargues un archivo compatible, la herramienta buscará señales de procedencia compatibles de OpenAI, como una marca de agua SynthID o un archivo de manifiesto C2PA confiable asociado con OpenAI.
Si la herramienta encuentra una señal de procedencia compatible de OpenAI, esto indica que el contenido se generó o exportó mediante herramientas de OpenAI.
¿Qué significa un resultado de verificación?
Si se detecta una señal, la herramienta puede ayudar a confirmar que el contenido cargado contiene una señal de procedencia compatible asociada con OpenAI.
La herramienta no confirma que el contenido sea preciso, no se haya editado, sea propiedad legal de quien lo presenta ni aparezca en el contexto correcto. Tampoco identifica quién creó el contenido ni por qué lo hizo.
¿Qué sucede si no se encuentra ninguna señal?
Si no se detecta ninguna señal, significa que la herramienta no encontró en el archivo cargado señales de procedencia emitidas por OpenAI.
Aun así, OpenAI podría haber generado o exportado el contenido si:
El contenido se creó antes de que las señales de procedencia estuvieran disponibles.
El contenido provino de un producto, modelo, ruta de exportación o tipo de archivo no compatible.
Los metadatos se eliminaron durante la carga, descarga, edición, conversión o uso compartido.
Una marca de agua se degradó debido a la compresión, el recorte, el ruido, las ediciones, la conversión de formato u otras transformaciones.
Un clip de audio es demasiado corto o se modificó considerablemente.
¿Tienen previsto admitir resultados de texto?
En consonancia con nuestros compromisos en virtud del Código de Buenas Prácticas de la Comisión Europea sobre la transparencia del contenido generado por IA, nuestro objetivo es ampliar las señales de procedencia a todas las modalidades, incluido el texto, para que los clientes y desarrolladores dispongan de formas claras de cumplir sus propias obligaciones de transparencia a medida que los estándares y las herramientas sigan madurando.
¿OpenAI Verify puede detectar contenido de otras herramientas de IA?
OpenAI Verify está diseñado para detectar señales de procedencia compatibles asociadas con contenido generado o exportado mediante herramientas de OpenAI.
No está diseñado para detectar contenido generado por otros servicios de IA y también puede no detectar contenido generado por OpenAI si la señal correspondiente no está presente, no es compatible o se ha degradado.
¿Los desarrolladores pueden verificar contenido mediante una API?
Los desarrolladores y las organizaciones pueden usar la API de verificación de OpenAI para buscar señales de procedencia de OpenAI en contenido compatible e integrar la verificación en sus propias aplicaciones o flujos de trabajo. Visita openai.com/verify para obtener información sobre el acceso a la API. Las organizaciones que necesiten límites de uso más altos pueden solicitar un aumento. Visita openai.com/verify para obtener más información.