OpenAI utilizza segnali di provenienza, come le filigrane SynthID e le Credenziali dei contenuti (C2PA), per aiutare le persone a capire se un contenuto è stato generato con strumenti OpenAI. I segnali di provenienza possono fornire indicazioni utili sull'origine, ma non garantiscono che un contenuto sia accurato, non modificato, posseduto legalmente o presentato nel contesto corretto.
Che cos'è lo standard C2PA e cosa consente di fare?
C2PA è uno standard tecnico aperto che consente a editori, aziende e altri soggetti di incorporare nei contenuti multimediali metadati utili a verificarne l'origine e le relative informazioni. C2PA non è riservato ai contenuti generati dall'IA. Lo stesso standard viene adottato anche da produttori di fotocamere, testate giornalistiche e altri soggetti per certificare la fonte e la storia, ossia la provenienza, dei contenuti multimediali.
I metadati C2PA possono includere informazioni quali lo strumento o il servizio con cui è stato creato un file, la data di creazione e altri dettagli sulla sua origine o storia.
Scopri di più su C2PA.
Che cos'è SynthID e cosa consente di fare?
SynthID è una tecnologia di filigrana invisibile che incorpora un segnale direttamente nei contenuti multimediali generati. A differenza dei metadati, il segnale fa parte del contenuto stesso e può persistere dopo alcune modifiche o trasformazioni.
SynthID fornisce un ulteriore segnale di provenienza insieme ai metadati C2PA. Ad esempio, se i metadati vengono rimossi da un file, una filigrana incorporata può comunque segnalare che il contenuto è stato generato con strumenti OpenAI supportati.
Quali tipi di contenuti generati da OpenAI includono segnali di provenienza?
OpenAI utilizza segnali di provenienza diversi a seconda del tipo di contenuto.
| Tipo di contenuto | Segnali di provenienza | Note |
|---|---|---|
| Immagini | Metadati C2PA e filigrane SynthID | Le immagini supportate generate con ChatGPT, Codex e l'API OpenAI includono entrambi i segnali. |
| Audio | Filigrane SynthID | I contenuti audio supportati generati da OpenAI includono una filigrana impercettibile incorporata nell'audio stesso. |
La copertura può variare in base al prodotto, al modello, al metodo di esportazione, al tipo di file e alla data di creazione del contenuto.
Perché alcuni tipi di contenuti utilizzano segnali di provenienza diversi?
I diversi formati multimediali conservano le informazioni sulla provenienza in modi diversi.
I metadati, come le Credenziali dei contenuti C2PA, possono contenere informazioni più dettagliate, ma talvolta vengono rimossi dalle piattaforme, dagli strumenti di modifica o durante la conversione dei file.
Le filigrane, come SynthID, vengono incorporate direttamente nei contenuti multimediali generati e possono resistere meglio ad alcune trasformazioni. Tuttavia, in genere le filigrane forniscono meno informazioni contestuali rispetto ai metadati.
Quando è tecnicamente possibile, l'uso combinato dei due approcci nei casi appropriati contribuisce a fornire segnali di provenienza più solidi.
Come posso aggiungere una filigrana visibile a un'immagine generata con strumenti OpenAI?
Puoi richiedere un'indicazione visibile sulle immagini generate con ChatGPT, Codex e l'API OpenAI chiedendo al modello di includerla. Ad esempio, quando generi un'immagine, puoi scrivere: «Include a visible OpenAI watermark in the image.»
Le filigrane visibili sono distinte dai segnali di provenienza incorporati, come i metadati C2PA e le filigrane SynthID. Possono aiutare chi guarda a riconoscere che un'immagine è stata generata con strumenti OpenAI, ma non equivalgono ai segnali di provenienza leggibili da una macchina.
Come posso verificare se un contenuto è stato generato con strumenti OpenAI?
Puoi visitare openai.com/verify per verificare se un'immagine o un file audio supportato contiene segnali di provenienza associati a contenuti generati o esportati da strumenti OpenAI.
Dopo aver caricato un file supportato, lo strumento cercherà segnali di provenienza OpenAI supportati, come una filigrana SynthID o un manifesto C2PA attendibile associato a OpenAI.
Se lo strumento trova un segnale di provenienza OpenAI supportato, significa che il contenuto è stato generato o esportato con strumenti OpenAI.
Che cosa significa un risultato di verifica?
Se viene rilevato un segnale, lo strumento può aiutare a confermare che il contenuto caricato include un segnale di provenienza supportato associato a OpenAI.
Lo strumento non conferma che il contenuto sia accurato, non modificato, posseduto legalmente o presentato nel contesto corretto. Inoltre, non identifica chi ha creato il contenuto né il motivo per cui è stato creato.
Che cosa succede se non viene trovato alcun segnale?
Se non viene rilevato alcun segnale, significa che lo strumento non ha trovato nel file caricato segnali di provenienza emessi da OpenAI.
Il contenuto potrebbe comunque essere stato generato o esportato da OpenAI se:
Il contenuto è stato creato prima che fossero disponibili i segnali di provenienza.
Il contenuto proviene da un prodotto, un modello, un metodo di esportazione o un tipo di file non supportato.
I metadati sono stati rimossi durante il caricamento, il download, la modifica, la conversione o la condivisione.
Una filigrana è stata degradata dalla compressione, dal ritaglio, dal rumore, da modifiche, dalla conversione del formato o da altre trasformazioni.
Una clip audio è troppo breve o è stata modificata in modo significativo.
È previsto il supporto degli output testuali?
In linea con i nostri impegni ai sensi del Codice di buone pratiche della Commissione europea sulla trasparenza dei contenuti generati dall'IA, puntiamo a estendere i segnali di provenienza a tutte le modalità, compreso il testo, affinché clienti e sviluppatori dispongano di strumenti chiari per adempiere ai propri obblighi di trasparenza mentre standard e tecnologie continuano a evolversi.
OpenAI Verify può rilevare contenuti provenienti da altri strumenti di IA?
OpenAI Verify è progettato per rilevare i segnali di provenienza supportati associati ai contenuti generati o esportati da strumenti OpenAI.
Non è progettato per rilevare contenuti generati da altri servizi di IA e potrebbe inoltre non rilevare contenuti generati da OpenAI se il relativo segnale è assente, non supportato o degradato.
Gli sviluppatori possono verificare i contenuti tramite un'API?
Gli sviluppatori e le organizzazioni possono utilizzare l'API di verifica di OpenAI per controllare se i contenuti supportati includono segnali di provenienza OpenAI e integrare la verifica nelle proprie applicazioni o nei propri flussi di lavoro. Visita openai.com/verify per informazioni sull'accesso all'API. Le organizzazioni che necessitano di limiti di utilizzo più elevati possono richiederne l'aumento. Per maggiori informazioni, visita openai.com/verify.