A OpenAI usa sinais de procedência, como marcas-d'água do SynthID e Content Credentials (C2PA), para ajudar as pessoas a entender se um conteúdo foi gerado com ferramentas da OpenAI. Os sinais de procedência podem ser indicadores úteis da origem, mas não garantem que o conteúdo seja preciso, não tenha sido editado, tenha propriedade legal ou seja apresentado no contexto correto.
O que é o padrão C2PA e o que ele possibilita?
A C2PA é um padrão técnico aberto que permite a editoras, empresas e outras organizações incorporar metadados a mídias para verificar sua origem e informações relacionadas. A C2PA não se destina apenas a conteúdo gerado por IA. O mesmo padrão também está sendo adotado por fabricantes de câmeras, organizações de notícias e outras entidades para certificar a fonte e o histórico, ou seja, a procedência, do conteúdo de mídia.
Os metadados C2PA podem incluir informações como a ferramenta ou o serviço que criou um arquivo, quando ele foi criado e outros detalhes sobre sua origem ou seu histórico.
Saiba mais sobre a C2PA.
O que é o SynthID e o que ele possibilita?
O SynthID é uma tecnologia de marca-d'água invisível que incorpora um sinal diretamente à mídia gerada. Ao contrário dos metadados, o sinal faz parte do próprio conteúdo e pode permanecer após algumas edições ou transformações.
O SynthID fornece um sinal de procedência adicional aos metadados C2PA. Por exemplo, se os metadados forem removidos de um arquivo, uma marca-d'água incorporada ainda poderá indicar que o conteúdo foi gerado com ferramentas compatíveis da OpenAI.
Quais tipos de conteúdo gerado pela OpenAI incluem sinais de procedência?
A OpenAI usa diferentes sinais de procedência para diferentes tipos de conteúdo.
| Tipo de conteúdo | Sinais de procedência | Observações |
|---|---|---|
| Imagens | Metadados C2PA e marcas-d'água do SynthID | As imagens compatíveis geradas com o ChatGPT, o Codex e a API da OpenAI incluem os dois sinais. |
| Áudio | Marcas-d'água do SynthID | Os áudios compatíveis gerados pela OpenAI incluem uma marca-d'água inaudível incorporada ao próprio áudio. |
A cobertura pode variar conforme o produto, o modelo, o método de exportação, o tipo de arquivo e a data de criação do conteúdo.
Por que alguns tipos de conteúdo usam sinais de procedência diferentes?
Diferentes formatos de mídia preservam as informações de procedência de maneiras distintas.
Metadados, como as Content Credentials C2PA, podem conter informações mais detalhadas, mas às vezes são removidos por plataformas, ferramentas de edição ou conversões de arquivos.
Marcas-d'água, como o SynthID, são incorporadas à própria mídia gerada e podem resistir melhor a algumas transformações. No entanto, as marcas-d'água geralmente fornecem menos contexto do que os metadados.
Quando for tecnicamente viável, usar as duas abordagens nos casos adequados ajuda a fornecer sinais de procedência mais robustos.
Como posso adicionar uma marca-d'água visível a uma imagem gerada com ferramentas da OpenAI?
Você pode solicitar uma indicação visível nas imagens geradas com o ChatGPT, o Codex e a API da OpenAI, instruindo o modelo a incluí-la. Por exemplo, ao gerar uma imagem, você pode dizer: "Include a visible OpenAI watermark in the image."
As marcas-d'água visíveis são diferentes dos sinais de procedência incorporados, como metadados C2PA e marcas-d'água do SynthID. Elas podem ajudar as pessoas a reconhecer que uma imagem foi gerada com ferramentas da OpenAI, mas não são equivalentes a sinais de procedência legíveis por máquina.
Como posso verificar se um conteúdo foi gerado com ferramentas da OpenAI?
Você pode acessar openai.com/verify para verificar se uma imagem ou um arquivo de áudio compatível contém sinais de procedência associados a conteúdo gerado ou exportado por ferramentas da OpenAI.
Depois que você enviar um arquivo compatível, a ferramenta procurará sinais de procedência compatíveis da OpenAI, como uma marca-d'água do SynthID ou um manifesto C2PA confiável associado à OpenAI.
Se a ferramenta encontrar um sinal de procedência compatível da OpenAI, isso indicará que o conteúdo foi gerado ou exportado por ferramentas da OpenAI.
O que significa um resultado de verificação?
Se um sinal for detectado, a ferramenta poderá ajudar a confirmar que o conteúdo enviado contém um sinal de procedência compatível associado à OpenAI.
A ferramenta não confirma que o conteúdo seja preciso, não tenha sido editado, tenha propriedade legal ou seja apresentado no contexto correto. Ela também não identifica quem criou o conteúdo nem por que ele foi criado.
E se nenhum sinal for encontrado?
Se nenhum sinal for detectado, isso significa que a ferramenta não encontrou no arquivo enviado sinais de procedência emitidos pela OpenAI.
Ainda assim, o conteúdo pode ter sido gerado ou exportado pela OpenAI se:
O conteúdo tiver sido criado antes da disponibilização dos sinais de procedência.
O conteúdo vier de um produto, modelo, método de exportação ou tipo de arquivo incompatível.
Os metadados tiverem sido removidos durante o envio, download, edição, conversão ou compartilhamento.
Uma marca-d'água tiver sido degradada por compactação, recorte, ruído, edições, conversão de formato ou outras transformações.
Um clipe de áudio for muito curto ou tiver sido significativamente modificado.
Há planos para oferecer compatibilidade com saídas de texto?
Em conformidade com nossos compromissos previstos no Código de Práticas sobre Transparência de Conteúdo Gerado por IA da Comissão Europeia, nosso objetivo é ampliar os sinais de procedência para todas as modalidades, inclusive texto. Assim, clientes e desenvolvedores terão maneiras claras de cumprir suas próprias obrigações de transparência à medida que os padrões e as ferramentas continuarem evoluindo.
O OpenAI Verify detecta conteúdo de outras ferramentas de IA?
O OpenAI Verify foi desenvolvido para detectar sinais de procedência compatíveis associados a conteúdo gerado ou exportado por ferramentas da OpenAI.
Ele não foi desenvolvido para detectar conteúdo gerado por outros serviços de IA e também pode não detectar conteúdo gerado pela OpenAI se o sinal relevante estiver ausente, não for compatível ou tiver sido degradado.
Os desenvolvedores podem verificar conteúdo usando uma API?
Desenvolvedores e organizações podem usar a API de verificação da OpenAI para verificar sinais de procedência da OpenAI em conteúdos compatíveis e integrar a verificação aos próprios aplicativos ou fluxos de trabalho. Acesse openai.com/verify para saber mais sobre o acesso à API. As organizações que precisam de limites de uso maiores podem solicitar um aumento. Acesse openai.com/verify para saber mais.