OpenAI bruger oprindelsessignaler som SynthID-vandmærker og Content Credentials (C2PA) til at hjælpe folk med at afgøre, om indhold er genereret med OpenAI-værktøjer. Oprindelsessignaler kan være nyttige indikatorer for, hvor indhold stammer fra, men de garanterer ikke, at indholdet er korrekt, uredigeret, lovligt ejet eller præsenteret i den rette sammenhæng.
Hvad er C2PA-standarden, og hvad gør den muligt?
C2PA er en åben teknisk standard, som gør det muligt for udgivere, virksomheder og andre at integrere metadata i medier for at verificere deres oprindelse og relaterede oplysninger. C2PA er ikke kun beregnet til AI-genereret indhold. Den samme standard indføres også af kameraproducenter, nyhedsorganisationer og andre for at certificere medieindholds kilde og historik – dets oprindelse.
C2PA-metadata kan indeholde oplysninger såsom det værktøj eller den tjeneste, der oprettede en fil, hvornår den blev oprettet, og andre detaljer om dens oprindelse eller historik.
Få mere at vide om C2PA.
Hvad er SynthID, og hvad gør teknologien muligt?
SynthID er en teknologi til usynlig vandmærkning, der integrerer et signal direkte i genererede medier. I modsætning til metadata er signalet en del af selve indholdet og kan bevares gennem visse redigeringer eller omdannelser.
SynthID giver et ekstra oprindelsessignal ud over C2PA-metadata. Hvis metadata for eksempel fjernes fra en fil, kan et integreret vandmærke stadig signalere, at indholdet er genereret med understøttede OpenAI-værktøjer.
Hvilke typer OpenAI-genereret indhold indeholder oprindelsessignaler?
OpenAI bruger forskellige oprindelsessignaler til forskellige indholdstyper.
| Indholdstype | Oprindelsessignaler | Bemærkninger |
|---|---|---|
| Billeder | C2PA-metadata og SynthID-vandmærker | Understøttede billeder, der er genereret med ChatGPT, Codex og OpenAI API, indeholder begge signaler. |
| Lyd | SynthID-vandmærker | Understøttet lyd genereret af OpenAI indeholder et uhørligt vandmærke, der er integreret i selve lyden. |
Dækningen kan variere afhængigt af produkt, model, eksportmetode, filtype og tidspunktet for oprettelsen af indholdet.
Hvorfor bruger nogle indholdstyper forskellige oprindelsessignaler?
Forskellige medieformater bevarer oplysninger om oprindelse på forskellige måder.
Metadata som C2PA Content Credentials kan indeholde mere detaljerede oplysninger, men de kan nogle gange blive fjernet af platforme, redigeringsværktøjer eller filkonverteringer.
Vandmærker som SynthID integreres i selve de genererede medier og kan bedre modstå visse omdannelser. Vandmærker giver dog generelt mindre kontekst end metadata.
Når det er teknisk muligt, kan passende brug af begge metoder give stærkere oprindelsessignaler.
Hvordan kan jeg føje et synligt vandmærke til et billede, der er genereret med OpenAI-værktøjer?
Du kan anmode om en synlig oplysning på billeder, der er genereret med ChatGPT, Codex og OpenAI API, ved at bede modellen om at medtage en. Når du genererer et billede, kan du for eksempel skrive: “Include a visible OpenAI watermark in the image.”
Synlige vandmærker er adskilt fra integrerede oprindelsessignaler som C2PA-metadata og SynthID-vandmærker. De kan hjælpe brugere med at se, at et billede er genereret med OpenAI-værktøjer, men de er ikke det samme som maskinlæsbare oprindelsessignaler.
Hvordan kan jeg kontrollere, om indhold er genereret med OpenAI-værktøjer?
Du kan besøge openai.com/verify for at kontrollere, om et understøttet billede eller en understøttet lydfil indeholder oprindelsessignaler, der er knyttet til indhold genereret eller eksporteret med OpenAI-værktøjer.
Når du har uploadet en understøttet fil, søger værktøjet efter understøttede OpenAI-oprindelsessignaler såsom et SynthID-vandmærke eller et betroet C2PA-manifest, der er knyttet til OpenAI.
Hvis værktøjet finder et understøttet OpenAI-oprindelsessignal, angiver det, at indholdet er genereret af eller eksporteret fra OpenAI-værktøjer.
Hvad betyder et verificeringsresultat?
Hvis der registreres et signal, kan værktøjet hjælpe med at bekræfte, at det uploadede indhold indeholder et understøttet oprindelsessignal, der er knyttet til OpenAI.
Værktøjet bekræfter ikke, at indholdet er korrekt, uredigeret, lovligt ejet eller præsenteret i den rette sammenhæng. Det identificerer heller ikke, hvem der har oprettet indholdet, eller hvorfor det blev oprettet.
Hvad betyder det, hvis der ikke findes noget signal?
Hvis der ikke registreres noget signal, betyder det, at værktøjet ikke fandt oprindelsessignaler udstedt af OpenAI i den uploadede fil.
Indholdet kan stadig være genereret eller eksporteret af OpenAI, hvis:
Indholdet blev oprettet, før oprindelsessignaler blev tilgængelige.
Indholdet kom fra et produkt, en model, en eksportmetode eller en filtype, der ikke understøttes.
Metadata blev fjernet under upload, download, redigering, konvertering eller deling.
Et vandmærke blev forringet af komprimering, beskæring, støj, redigeringer, formatkonvertering eller andre omdannelser.
Et lydklip er for kort eller er blevet ændret væsentligt.
Har I planer om at understøtte tekstoutput?
I overensstemmelse med vores forpligtelser i henhold til Europa-Kommissionens adfærdskodeks for gennemsigtighed i AI-genereret indhold er vores mål at udvide oprindelsessignaler til alle modaliteter, herunder tekst, så kunder og udviklere har klare muligheder for at opfylde deres egne gennemsigtighedsforpligtelser, efterhånden som standarder og værktøjer modnes.
Kan OpenAI Verify registrere indhold fra andre AI-værktøjer?
OpenAI Verify er udviklet til at registrere understøttede oprindelsessignaler, der er knyttet til indhold, som er genereret eller eksporteret med OpenAI-værktøjer.
Det er ikke udviklet til at registrere indhold, der er genereret af andre AI-tjenester, og det registrerer muligvis heller ikke indhold genereret af OpenAI, hvis det relevante signal mangler, ikke understøttes eller er forringet.
Kan udviklere verificere indhold via en API?
Udviklere og organisationer kan bruge OpenAI's verificerings-API til at kontrollere understøttet indhold for OpenAI-oprindelsessignaler og integrere verificering i deres egne apps eller arbejdsgange. Besøg openai.com/verify for at få oplysninger om API-adgang. Organisationer, der har brug for højere brugsgrænser, kan ansøge om at få grænserne hævet. Du kan få flere oplysninger på openai.com/verify.