OpenAI usa señales de procedencia, como las marcas de agua SynthID y las Credenciales de contenido (C2PA), para ayudar a las personas a saber si el contenido se generó con herramientas de OpenAI. Las señales de procedencia pueden ser indicadores útiles del origen, pero no garantizan que el contenido sea preciso, no se haya editado, pertenezca legalmente a alguien o se presente en el contexto correcto.
¿Qué es el estándar C2PA y qué permite hacer?
C2PA es un estándar técnico abierto que permite a editoriales, empresas y otras entidades incorporar metadatos en contenido multimedia para verificar su origen y la información relacionada. C2PA no es solo para contenido generado por IA. Los fabricantes de cámaras, las organizaciones de noticias y otras entidades también están adoptando el mismo estándar para certificar la fuente y el historial, o procedencia, del contenido multimedia.
Los metadatos C2PA pueden incluir información como la herramienta o el servicio que creó un archivo, cuándo se creó y otros detalles sobre su origen o historial.
Obtén más información sobre C2PA.
¿Qué es SynthID y qué permite hacer?
SynthID es una tecnología de marcas de agua invisibles que incorpora una señal directamente en el contenido multimedia generado. A diferencia de los metadatos, la señal forma parte del contenido y puede conservarse tras ciertas ediciones o transformaciones.
SynthID proporciona una señal de procedencia adicional a los metadatos C2PA. Por ejemplo, si se eliminan los metadatos de un archivo, una marca de agua incorporada aún puede indicar que el contenido se generó con herramientas compatibles de OpenAI.
¿Qué tipos de contenido generado por OpenAI incluyen señales de procedencia?
OpenAI usa diferentes señales de procedencia para cada tipo de contenido.
| Tipo de contenido | Señales de procedencia | Notas |
|---|---|---|
| Imágenes | Metadatos C2PA y marcas de agua SynthID | Las imágenes compatibles generadas con ChatGPT, Codex y la API de OpenAI incluyen ambas señales. |
| Audio | Marcas de agua SynthID | El audio compatible generado por OpenAI incluye una marca de agua inaudible incorporada en el propio audio. |
La cobertura puede variar según el producto, el modelo, la ruta de exportación, el tipo de archivo y la fecha de creación del contenido.
¿Por qué algunos tipos de contenido usan diferentes señales de procedencia?
Los distintos formatos multimedia conservan la información de procedencia de diferentes maneras.
Los metadatos, como las Credenciales de contenido C2PA, pueden incluir información más detallada, pero a veces las plataformas, las herramientas de edición o las conversiones de archivos pueden eliminarlos.
Las marcas de agua, como SynthID, se incorporan en el propio contenido multimedia generado y pueden conservarse mejor tras ciertas transformaciones. Sin embargo, las marcas de agua suelen proporcionar menos contexto que los metadatos.
Cuando es técnicamente viable, usar ambos enfoques cuando corresponda ayuda a proporcionar señales de procedencia más sólidas.
¿Cómo puedo agregar una marca de agua visible a una imagen generada con herramientas de OpenAI?
Puedes pedir que se incluya un aviso visible en las imágenes generadas con ChatGPT, Codex y la API de OpenAI mediante una instrucción al modelo. Por ejemplo, al generar una imagen, puedes decir: “Incluye una marca de agua visible de OpenAI en la imagen”.
Las marcas de agua visibles son distintas de las señales de procedencia incorporadas, como los metadatos C2PA y las marcas de agua SynthID. Pueden ayudar a que quienes vean una imagen reconozcan que se generó con herramientas de OpenAI, pero no son lo mismo que las señales de procedencia legibles por máquinas.
¿Cómo puedo comprobar si el contenido se generó con herramientas de OpenAI?
Puedes visitar openai.com/verify para comprobar si una imagen o un archivo de audio compatible contiene señales de procedencia asociadas con contenido generado o exportado mediante herramientas de OpenAI.
Después de que subas un archivo compatible, la herramienta buscará señales de procedencia compatibles de OpenAI, como una marca de agua SynthID o un archivo de manifiesto C2PA de confianza asociado con OpenAI.
Si la herramienta encuentra una señal de procedencia compatible de OpenAI, esto indica que el contenido se generó o exportó mediante herramientas de OpenAI.
¿Qué significa el resultado de una verificación?
Si se detecta una señal, la herramienta puede ayudar a confirmar que el contenido subido incluye una señal de procedencia compatible asociada con OpenAI.
La herramienta no confirma que el contenido sea preciso, no se haya editado, pertenezca legalmente a alguien o se presente en el contexto correcto. Tampoco identifica quién creó el contenido ni por qué lo hizo.
¿Qué ocurre si no se encuentra ninguna señal?
Si no se detecta ninguna señal, significa que la herramienta no encontró en el archivo subido señales de procedencia emitidas por OpenAI.
Aun así, OpenAI podría haber generado o exportado el contenido si:
El contenido se creó antes de que estuvieran disponibles las señales de procedencia.
El contenido provino de un producto, modelo, ruta de exportación o tipo de archivo no compatible.
Los metadatos se eliminaron durante la carga, descarga, edición, conversión o el proceso de compartir el archivo.
Una marca de agua se degradó por compresión, recorte, ruido, ediciones, conversión de formato u otras transformaciones.
Un clip de audio es demasiado corto o se modificó considerablemente.
¿Tienen previsto admitir resultados de texto?
En consonancia con nuestros compromisos conforme al Código de buenas prácticas sobre la transparencia del contenido generado por IA de la Comisión Europea, nuestro objetivo es ampliar las señales de procedencia a todas las modalidades, incluido el texto, para que clientes y desarrolladores tengan formas claras de cumplir sus propias obligaciones de transparencia a medida que las normas y las herramientas siguen evolucionando.
¿OpenAI Verify puede detectar contenido de otras herramientas de IA?
OpenAI Verify está diseñado para detectar señales de procedencia compatibles asociadas con contenido generado o exportado mediante herramientas de OpenAI.
No está diseñado para detectar contenido generado por otros servicios de IA y es posible que tampoco detecte contenido generado por OpenAI si la señal pertinente no está presente, no es compatible o está degradada.
¿Los desarrolladores pueden verificar contenido mediante una API?
Los desarrolladores y las organizaciones pueden usar la API de verificación de OpenAI para comprobar si el contenido compatible incluye señales de procedencia de OpenAI e integrar la verificación en sus propias aplicaciones o flujos de trabajo. Visita openai.com/verify para obtener información sobre el acceso a la API. Las organizaciones que necesiten límites de uso más altos pueden solicitar un aumento. Visita openai.com/verify para obtener más información.