OpenAI bruger oprindelsessignaler som SynthID-vandmærker og Content Credentials (C2PA) til at hjælpe folk med at forstå, om indhold er genereret med OpenAI-værktøjer. Oprindelsessignaler kan være nyttige indikatorer for, hvor indhold stammer fra, men de garanterer ikke, at indholdet er korrekt, uredigeret, lovligt ejet eller præsenteret i den rette sammenhæng.
Hvad er C2PA-standarden, og hvad gør den muligt?
C2PA er en åben teknisk standard, der gør det muligt for udgivere, virksomheder og andre at indlejre metadata i medier for at bekræfte deres oprindelse og relaterede oplysninger. C2PA er ikke kun beregnet til AI-genereret indhold. Den samme standard tages også i brug af kameraproducenter, nyhedsorganisationer og andre for at attestere medieindholds kilde og historik, også kaldet dets oprindelse.
C2PA-metadata kan indeholde oplysninger om blandt andet det værktøj eller den tjeneste, der oprettede en fil, hvornår den blev oprettet, og andre detaljer om dens oprindelse eller historik.
Få mere at vide om C2PA.
Hvad er SynthID, og hvad gør teknologien muligt?
SynthID er en teknologi til usynlig vandmærkning, der indlejrer et signal direkte i genererede medier. I modsætning til metadata er signalet en del af selve indholdet og kan bestå efter visse redigeringer eller ændringer.
SynthID leverer et ekstra oprindelsessignal ud over C2PA-metadata. Hvis metadata for eksempel fjernes fra en fil, kan et indlejret vandmærke stadig signalere, at indholdet er genereret med understøttede OpenAI-værktøjer.
Hvilke typer OpenAI-genereret indhold indeholder oprindelsessignaler?
OpenAI bruger forskellige oprindelsessignaler til forskellige typer indhold.
| Indholdstype | Oprindelsessignaler | Bemærkninger |
|---|---|---|
| Billeder | C2PA-metadata og SynthID-vandmærker | Understøttede billeder, der er genereret med ChatGPT, Codex og OpenAI API, indeholder begge signaler. |
| Lyd | SynthID-vandmærker | Understøttet OpenAI-genereret lyd indeholder et uhørligt vandmærke, som er indlejret i selve lyden. |
Dækningen kan variere afhængigt af produkt, model, eksportmetode, filtype og tidspunktet for indholdets oprettelse.
Hvorfor bruger nogle indholdstyper forskellige oprindelsessignaler?
Forskellige medieformater bevarer oplysninger om oprindelse på forskellige måder.
Metadata såsom C2PA Content Credentials kan indeholde mere detaljerede oplysninger, men kan nogle gange blive fjernet af platforme, redigeringsværktøjer eller filkonverteringer.
Vandmærker som SynthID indlejres i selve de genererede medier og kan bedre modstå visse ændringer. Vandmærker giver dog generelt mindre kontekst end metadata.
Når det er teknisk muligt, kan en passende kombination af begge metoder give stærkere oprindelsessignaler.
Hvordan kan jeg føje et synligt vandmærke til et billede, der er genereret med OpenAI-værktøjer?
Du kan bede om en synlig angivelse på billeder, der genereres med ChatGPT, Codex og OpenAI API, ved at instruere modellen om at tilføje en. Når du genererer et billede, kan du for eksempel skrive: “Include a visible OpenAI watermark in the image.”
Synlige vandmærker er adskilt fra indlejrede oprindelsessignaler som C2PA-metadata og SynthID-vandmærker. De kan hjælpe seerne med at se, at et billede er genereret med OpenAI-værktøjer, men de er ikke det samme som maskinlæsbare oprindelsessignaler.
Hvordan kan jeg kontrollere, om indhold er genereret med OpenAI-værktøjer?
Du kan besøge openai.com/verify for at kontrollere, om et understøttet billede eller en understøttet lydfil indeholder oprindelsessignaler, der er knyttet til indhold, som er genereret eller eksporteret af OpenAI-værktøjer.
Når du har uploadet en understøttet fil, søger værktøjet efter understøttede OpenAI-oprindelsessignaler såsom et SynthID-vandmærke eller et betroet C2PA-manifest, der er knyttet til OpenAI.
Hvis værktøjet finder et understøttet OpenAI-oprindelsessignal, angiver det, at indholdet er genereret af eller eksporteret fra OpenAI-værktøjer.
Hvad betyder et verificeringsresultat?
Hvis der registreres et signal, kan værktøjet hjælpe med at bekræfte, at det uploadede indhold indeholder et understøttet oprindelsessignal, som er knyttet til OpenAI.
Værktøjet bekræfter ikke, at indholdet er korrekt, uredigeret, lovligt ejet eller præsenteret i den rette sammenhæng. Det identificerer heller ikke, hvem der har oprettet indholdet, eller hvorfor det blev oprettet.
Hvad betyder det, hvis der ikke findes noget signal?
Hvis der ikke registreres et signal, betyder det, at værktøjet ikke fandt oprindelsessignaler udstedt af OpenAI i den uploadede fil.
Indholdet kan stadig være genereret eller eksporteret af OpenAI, hvis:
Indholdet blev oprettet, før oprindelsessignaler var tilgængelige.
Indholdet stammer fra et produkt, en model, en eksportmetode eller en filtype, der ikke understøttes.
Metadata blev fjernet under upload, download, redigering, konvertering eller deling.
Et vandmærke blev forringet af komprimering, beskæring, støj, redigering, formatkonvertering eller andre ændringer.
Et lydklip er for kort eller er blevet ændret væsentligt.
Har I planer om at understøtte tekstoutput?
I overensstemmelse med vores forpligtelser i henhold til Europa-Kommissionens adfærdskodeks om gennemsigtighed i AI-genereret indhold er vores mål at udvide oprindelsessignaler til alle modaliteter, herunder tekst, så kunder og udviklere har tydelige muligheder for at opfylde deres egne gennemsigtighedsforpligtelser, i takt med at standarderne og værktøjerne fortsat modnes.
Kan OpenAI Verify registrere indhold fra andre AI-værktøjer?
OpenAI Verify er udviklet til at registrere understøttede oprindelsessignaler, der er knyttet til indhold, som er genereret eller eksporteret af OpenAI-værktøjer.
Det er ikke udviklet til at registrere indhold, der er genereret af andre AI-tjenester, og det registrerer muligvis heller ikke OpenAI-genereret indhold, hvis det relevante signal mangler, ikke understøttes eller er forringet.
Kan udviklere verificere indhold via et API?
Udviklere og organisationer kan bruge OpenAI's API til verificering til at kontrollere understøttet indhold for OpenAI-oprindelsessignaler og integrere verificering i deres egne applikationer eller arbejdsgange. Besøg openai.com/verify for at få oplysninger om API-adgang. Organisationer, der har brug for højere brugsgrænser, kan ansøge om at få dem forhøjet. Besøg openai.com/verify for at få flere oplysninger.