A OpenAI utiliza sinais de proveniência, como marcas de água SynthID e Credenciais de Conteúdo (C2PA), para ajudar as pessoas a perceber se um conteúdo foi gerado com ferramentas da OpenAI. Os sinais de proveniência podem ser indicadores úteis da origem, mas não garantem que o conteúdo seja exato, não tenha sido editado, seja detido legalmente ou seja apresentado no contexto correto.
O que é a norma C2PA e o que permite fazer?
A C2PA é uma norma técnica aberta que permite a editores, empresas e outras entidades incorporar metadados em conteúdos multimédia para verificar a respetiva origem e informações relacionadas. A C2PA não se destina apenas a conteúdos gerados por IA. A mesma norma está também a ser adotada por fabricantes de câmaras, organizações noticiosas e outras entidades para certificar a origem e o historial, ou proveniência, dos conteúdos multimédia.
Os metadados C2PA podem incluir informações como a ferramenta ou o serviço que criou um ficheiro, a data da sua criação e outros detalhes sobre a sua origem ou historial.
Saiba mais sobre a C2PA.
O que é o SynthID e o que permite fazer?
O SynthID é uma tecnologia de marca de água invisível que incorpora um sinal diretamente nos conteúdos multimédia gerados. Ao contrário dos metadados, o sinal faz parte do próprio conteúdo e pode persistir após algumas edições ou transformações.
O SynthID fornece um sinal de proveniência adicional, a par dos metadados C2PA. Por exemplo, se os metadados forem removidos de um ficheiro, uma marca de água incorporada poderá ainda indicar que o conteúdo foi gerado com ferramentas compatíveis da OpenAI.
Que tipos de conteúdos gerados pela OpenAI incluem sinais de proveniência?
A OpenAI utiliza diferentes sinais de proveniência para diferentes tipos de conteúdo.
| Tipo de conteúdo | Sinais de proveniência | Notas |
|---|---|---|
| Imagens | Metadados C2PA e marcas de água SynthID | As imagens compatíveis geradas com o ChatGPT, o Codex e a API da OpenAI incluem ambos os sinais. |
| Áudio | Marcas de água SynthID | O áudio compatível gerado pela OpenAI inclui uma marca de água inaudível incorporada no próprio áudio. |
A cobertura pode variar consoante o produto, o modelo, o método de exportação, o tipo de ficheiro e a data de criação do conteúdo.
Porque é que alguns tipos de conteúdo utilizam sinais de proveniência diferentes?
Diferentes formatos multimédia preservam as informações de proveniência de formas distintas.
Os metadados, como as Credenciais de Conteúdo C2PA, podem conter informações mais detalhadas, mas por vezes podem ser removidos por plataformas, ferramentas de edição ou conversões de ficheiros.
As marcas de água, como o SynthID, são incorporadas nos próprios conteúdos multimédia gerados e podem resistir melhor a algumas transformações. No entanto, as marcas de água geralmente fornecem menos contexto do que os metadados.
Quando for tecnicamente viável, utilizar ambas as abordagens nos casos adequados ajuda a fornecer sinais de proveniência mais robustos.
Como posso adicionar uma marca de água visível a uma imagem gerada com ferramentas da OpenAI?
Pode pedir que seja incluída uma indicação visível nas imagens geradas com o ChatGPT, o Codex e a API da OpenAI, dando essa instrução ao modelo. Por exemplo, ao gerar uma imagem, pode dizer: “Include a visible OpenAI watermark in the image.”
As marcas de água visíveis são distintas dos sinais de proveniência incorporados, como os metadados C2PA e as marcas de água SynthID. Podem ajudar os utilizadores a reconhecer que uma imagem foi gerada com ferramentas da OpenAI, mas não são equivalentes a sinais de proveniência legíveis por máquinas.
Como posso verificar se um conteúdo foi gerado com ferramentas da OpenAI?
Pode aceder a openai.com/verify para verificar se uma imagem ou um ficheiro de áudio compatível contém sinais de proveniência associados a conteúdos gerados ou exportados por ferramentas da OpenAI.
Depois de carregar um ficheiro compatível, a ferramenta procurará sinais de proveniência compatíveis da OpenAI, como uma marca de água SynthID ou um manifesto C2PA fidedigno associado à OpenAI.
Se a ferramenta encontrar um sinal de proveniência compatível da OpenAI, isso indica que o conteúdo foi gerado por ferramentas da OpenAI ou exportado a partir delas.
O que significa um resultado de verificação?
Se for detetado um sinal, a ferramenta pode ajudar a confirmar que o conteúdo carregado contém um sinal de proveniência compatível associado à OpenAI.
A ferramenta não confirma que o conteúdo seja exato, não tenha sido editado, seja detido legalmente ou seja apresentado no contexto correto. Também não identifica quem criou o conteúdo nem o motivo da sua criação.
O que acontece se não for encontrado nenhum sinal?
Se não for detetado nenhum sinal, significa que a ferramenta não encontrou no ficheiro carregado sinais de proveniência emitidos pela OpenAI.
Ainda assim, o conteúdo pode ter sido gerado ou exportado pela OpenAI se:
O conteúdo tiver sido criado antes de os sinais de proveniência estarem disponíveis.
O conteúdo for proveniente de um produto, modelo, método de exportação ou tipo de ficheiro não compatível.
Os metadados tiverem sido removidos durante o carregamento, a transferência, a edição, a conversão ou a partilha.
Uma marca de água se tiver degradado devido a compressão, recorte, ruído, edições, conversão de formato ou outras transformações.
Um excerto de áudio for demasiado curto ou tiver sido significativamente alterado.
Existem planos para incluir resultados em texto?
Em conformidade com os nossos compromissos ao abrigo do Código de Conduta da Comissão Europeia relativo à transparência dos conteúdos gerados por IA, pretendemos alargar os sinais de proveniência a todas as modalidades, incluindo texto, para que clientes e programadores disponham de formas claras de cumprir as suas próprias obrigações de transparência à medida que as normas e ferramentas continuam a evoluir.
O OpenAI Verify consegue detetar conteúdos de outras ferramentas de IA?
O OpenAI Verify foi concebido para detetar sinais de proveniência compatíveis associados a conteúdos gerados ou exportados por ferramentas da OpenAI.
Não foi concebido para detetar conteúdos gerados por outros serviços de IA e poderá também não detetar conteúdos gerados pela OpenAI se o sinal relevante estiver ausente, não for compatível ou se tiver degradado.
Os programadores podem verificar conteúdos através de uma API?
Os programadores e as organizações podem utilizar a API de verificação da OpenAI para procurar sinais de proveniência da OpenAI em conteúdos compatíveis e integrar a verificação nas suas próprias aplicações ou fluxos de trabalho. Consulte openai.com/verify para obter informações sobre o acesso à API. As organizações que necessitem de limites de utilização superiores podem solicitar um aumento dos limites. Para mais informações, consulte openai.com/verify.