OpenAI bruker opphavssignaler som SynthID-vannmerker og innholdsopplysninger (C2PA) for å hjelpe folk med å forstå om innhold er generert med OpenAI-verktøy. Opphavssignaler kan gi nyttig informasjon om opprinnelsen, men garanterer ikke at innholdet er korrekt, uredigert, lovlig eid eller presentert i riktig sammenheng.
Hva er C2PA-standarden, og hva muliggjør den?
C2PA er en åpen teknisk standard som gjør det mulig for utgivere, selskaper og andre å bygge inn metadata i medieinnhold for å bekrefte dets opprinnelse og tilknyttede opplysninger. C2PA er ikke bare for KI-generert innhold. Den samme standarden tas også i bruk av kameraprodusenter, nyhetsorganisasjoner og andre for å dokumentere medieinnholdets kilde og historikk, altså dets opphav.
C2PA-metadata kan inneholde opplysninger som hvilket verktøy eller hvilken tjeneste som opprettet en fil, når den ble opprettet, og andre detaljer om dens opprinnelse eller historikk.
Les mer om C2PA.
Hva er SynthID, og hva muliggjør det?
SynthID er en teknologi for usynlig vannmerking som bygger inn et signal direkte i generert medieinnhold. I motsetning til metadata er signalet en del av selve innholdet og kan bestå gjennom enkelte redigeringer eller omforminger.
SynthID gir et ekstra opphavssignal i tillegg til C2PA-metadata. Hvis metadata for eksempel fjernes fra en fil, kan et innebygd vannmerke fortsatt signalisere at innholdet ble generert med støttede OpenAI-verktøy.
Hvilke typer OpenAI-generert innhold inneholder opphavssignaler?
OpenAI bruker ulike opphavssignaler for ulike innholdstyper.
| Innholdstype | Opphavssignaler | Merknader |
|---|---|---|
| Bilder | C2PA-metadata og SynthID-vannmerker | Støttede bilder generert med ChatGPT, Codex og OpenAI API inkluderer begge signalene. |
| Lyd | SynthID-vannmerker | Støttet OpenAI-generert lyd inneholder et vannmerke som ikke kan høres, og som er bygd inn i selve lydsporet. |
Dekningen kan variere etter produkt, modell, eksportmåte, filtype og når innholdet ble opprettet.
Hvorfor bruker enkelte innholdstyper forskjellige opphavssignaler?
Ulike medieformater bevarer opphavsinformasjon på forskjellige måter.
Metadata, som C2PA-innholdsopplysninger, kan inneholde mer detaljert informasjon, men kan noen ganger fjernes av plattformer, redigeringsverktøy eller filkonverteringer.
Vannmerker som SynthID bygges inn i selve det genererte medieinnholdet og kan være mer motstandsdyktige mot enkelte omforminger. Vannmerker gir imidlertid vanligvis mindre kontekst enn metadata.
Når det er teknisk mulig, gir bruk av begge metodene der det er hensiktsmessig, sterkere opphavssignaler.
Hvordan kan jeg legge til et synlig vannmerke på et bilde som er generert med OpenAI-verktøy?
Du kan be om en synlig merking på bilder som genereres med ChatGPT, Codex og OpenAI API, ved å instruere modellen om å inkludere en. Når du genererer et bilde, kan du for eksempel si: «Include a visible OpenAI watermark in the image.»
Synlige vannmerker er noe annet enn innebygde opphavssignaler som C2PA-metadata og SynthID-vannmerker. De kan hjelpe seere med å forstå at et bilde er generert med OpenAI-verktøy, men er ikke det samme som maskinlesbare opphavssignaler.
Hvordan kan jeg kontrollere om innhold er generert med OpenAI-verktøy?
Du kan gå til openai.com/verify for å kontrollere om et støttet bilde eller en støttet lydfil inneholder opphavssignaler knyttet til innhold som er generert eller eksportert av OpenAI-verktøy.
Når du har lastet opp en støttet fil, ser verktøyet etter støttede opphavssignaler fra OpenAI, for eksempel et SynthID-vannmerke eller et pålitelig C2PA-manifest knyttet til OpenAI.
Hvis verktøyet finner et støttet opphavssignal fra OpenAI, tyder det på at innholdet ble generert av eller eksportert fra OpenAI-verktøy.
Hva betyr et verifiseringsresultat?
Hvis et signal oppdages, kan verktøyet bidra til å bekrefte at det opplastede innholdet har et støttet opphavssignal knyttet til OpenAI.
Verktøyet bekrefter ikke at innholdet er korrekt, uredigert, lovlig eid eller presentert i riktig sammenheng. Det identifiserer heller ikke hvem som opprettet innholdet, eller hvorfor det ble opprettet.
Hva om det ikke blir funnet noe signal?
Hvis det ikke oppdages noe signal, betyr det at verktøyet ikke fant opphavssignaler utstedt av OpenAI i den opplastede filen.
Innholdet kan likevel ha blitt generert eller eksportert av OpenAI hvis:
Innholdet ble opprettet før opphavssignaler var tilgjengelige.
Innholdet kom fra et produkt, en modell, en eksportmåte eller en filtype som ikke støttes.
Metadata ble fjernet under opplasting, nedlasting, redigering, konvertering eller deling.
Et vannmerke ble svekket av komprimering, beskjæring, støy, redigering, formatkonvertering eller andre omforminger.
Et lydklipp er for kort eller har blitt vesentlig endret.
Har dere planer om å støtte tekstresultater?
I tråd med forpliktelsene våre etter Europakommisjonens regelverk for åpenhet om KI-generert innhold er målet vårt å utvide opphavssignaler til alle modaliteter, inkludert tekst. Da får kunder og utviklere tydelige måter å oppfylle sine egne åpenhetsforpliktelser på etter hvert som standarder og verktøy modnes.
Kan OpenAI Verify oppdage innhold fra andre KI-verktøy?
OpenAI Verify er utviklet for å oppdage støttede opphavssignaler knyttet til innhold som er generert eller eksportert av OpenAI-verktøy.
Det er ikke utviklet for å oppdage innhold som er generert av andre KI-tjenester. Det kan heller ikke alltid oppdage OpenAI-generert innhold hvis det relevante signalet mangler, ikke støttes eller er svekket.
Kan utviklere verifisere innhold ved hjelp av et API?
Utviklere og organisasjoner kan bruke OpenAIs verifiserings-API til å kontrollere støttet innhold for opphavssignaler fra OpenAI og integrere verifisering i egne apper eller arbeidsflyter. Gå til openai.com/verify for informasjon om API-tilgang. Organisasjoner som trenger høyere bruksgrenser, kan søke om å få grensene økt. Gå til openai.com/verify for mer informasjon.