OpenAI bruker opphavssignaler som SynthID-vannmerker og Content Credentials (C2PA) for å gjøre det enklere å forstå om innhold er generert med OpenAI-verktøy. Opphavssignaler kan være nyttige indikatorer på opprinnelse, men garanterer ikke at innholdet er korrekt, uredigert, lovlig eid eller presentert i riktig sammenheng.
Hva er C2PA-standarden, og hva gjør den mulig?
C2PA er en åpen teknisk standard som gjør det mulig for utgivere, selskaper og andre å bygge inn metadata i medier for å bekrefte opprinnelsen og tilknyttet informasjon. C2PA gjelder ikke bare KI-generert innhold. Den samme standarden tas også i bruk av kameraprodusenter, nyhetsorganisasjoner og andre for å dokumentere medieinnholdets kilde og historikk, altså dets opphav.
C2PA-metadata kan inneholde informasjon om blant annet verktøyet eller tjenesten som opprettet en fil, når den ble opprettet, og andre detaljer om opprinnelsen eller historikken.
Les mer om C2PA.
Hva er SynthID, og hva gjør teknologien mulig?
SynthID er en teknologi for usynlig vannmerking som bygger inn et signal direkte i genererte medier. I motsetning til metadata er signalet en del av selve innholdet og kan bestå gjennom enkelte redigeringer eller omforminger.
SynthID gir et ekstra opphavssignal i tillegg til C2PA-metadata. Hvis metadata for eksempel fjernes fra en fil, kan et innebygd vannmerke fortsatt signalisere at innholdet ble generert med støttede OpenAI-verktøy.
Hvilke typer OpenAI-generert innhold inneholder opphavssignaler?
OpenAI bruker ulike opphavssignaler for ulike innholdstyper.
| Innholdstype | Opphavssignaler | Merknader |
|---|---|---|
| Bilder | C2PA-metadata og SynthID-vannmerker | Støttede bilder generert med ChatGPT, Codex og OpenAI API inneholder begge signalene. |
| Lyd | SynthID-vannmerker | Støttet OpenAI-generert lyd inneholder et uhørbart vannmerke som er innebygd i selve lyden. |
Dekningen kan variere etter produkt, modell, eksportmetode, filtype og når innholdet ble opprettet.
Hvorfor bruker enkelte innholdstyper ulike opphavssignaler?
Ulike medieformater bevarer opphavsinformasjon på forskjellige måter.
Metadata, som C2PA Content Credentials, kan inneholde mer detaljert informasjon, men kan noen ganger fjernes av plattformer, redigeringsverktøy eller filkonverteringer.
Vannmerker som SynthID bygges inn i selve de genererte mediene og kan være mer motstandsdyktige mot enkelte omforminger. Vannmerker gir imidlertid vanligvis mindre kontekst enn metadata.
Når det er teknisk mulig, kan bruk av begge metodene der det er hensiktsmessig, gi sterkere opphavssignaler.
Hvordan kan jeg legge til et synlig vannmerke på et bilde som er generert med OpenAI-verktøy?
Du kan be modellen om å ta med en synlig merking på bilder generert med ChatGPT, Codex og OpenAI API. Når du genererer et bilde, kan du for eksempel skrive: «Include a visible OpenAI watermark in the image.»
Synlige vannmerker er noe annet enn innebygde opphavssignaler som C2PA-metadata og SynthID-vannmerker. De kan hjelpe seerne med å forstå at et bilde er generert med OpenAI-verktøy, men er ikke det samme som maskinlesbare opphavssignaler.
Hvordan kan jeg kontrollere om innhold er generert med OpenAI-verktøy?
Gå til openai.com/verify for å kontrollere om et støttet bilde eller en støttet lydfil inneholder opphavssignaler knyttet til innhold som er generert eller eksportert med OpenAI-verktøy.
Når du har lastet opp en støttet fil, ser verktøyet etter støttede OpenAI-opphavssignaler, for eksempel et SynthID-vannmerke eller et klarert C2PA-manifest knyttet til OpenAI.
Hvis verktøyet finner et støttet OpenAI-opphavssignal, betyr det at innholdet ble generert eller eksportert med OpenAI-verktøy.
Hva betyr et verifiseringsresultat?
Hvis et signal oppdages, kan verktøyet bidra til å bekrefte at det opplastede innholdet har et støttet opphavssignal knyttet til OpenAI.
Verktøyet bekrefter ikke at innholdet er korrekt, uredigert, lovlig eid eller presentert i riktig sammenheng. Det identifiserer heller ikke hvem som opprettet innholdet, eller hvorfor det ble opprettet.
Hva om det ikke blir funnet noe signal?
Hvis ingen signaler oppdages, betyr det at verktøyet ikke fant opphavssignaler utstedt av OpenAI i den opplastede filen.
Innholdet kan likevel ha blitt generert eller eksportert av OpenAI hvis:
Innholdet ble opprettet før opphavssignaler var tilgjengelige.
Innholdet kom fra et produkt, en modell, en eksportmetode eller en filtype som ikke støttes.
Metadata ble fjernet under opplasting, nedlasting, redigering, konvertering eller deling.
Et vannmerke ble svekket av komprimering, beskjæring, støy, redigering, formatkonvertering eller andre omforminger.
Et lydklipp er for kort eller har blitt betydelig endret.
Har dere planer om å støtte tekstresultater?
I tråd med forpliktelsene våre etter Europakommisjonens retningslinjer for åpenhet om KI-generert innhold er målet vårt å utvide opphavssignalene til alle modaliteter, inkludert tekst. Dermed får kunder og utviklere tydelige måter å oppfylle sine egne åpenhetskrav på etter hvert som standardene og verktøyene videreutvikles.
Kan OpenAI Verify oppdage innhold fra andre KI-verktøy?
OpenAI Verify er utviklet for å oppdage støttede opphavssignaler knyttet til innhold som er generert eller eksportert med OpenAI-verktøy.
Det er ikke utviklet for å oppdage innhold generert av andre KI-tjenester. Det kan heller ikke alltid oppdage innhold generert av OpenAI hvis det relevante signalet mangler, ikke støttes eller er svekket.
Kan utviklere verifisere innhold via et API?
Utviklere og organisasjoner kan bruke verifiserings-API-et til OpenAI for å se etter OpenAI-opphavssignaler i støttet innhold og integrere verifisering i egne apper eller arbeidsflyter. Gå til openai.com/verify for informasjon om API-tilgang. Organisasjoner som trenger høyere bruksgrenser, kan søke om å få grensene økt. Gå til openai.com/verify for mer informasjon.