OpenAI gebruikt herkomstsignalen zoals SynthID-watermerken en Content Credentials (C2PA) om mensen te helpen bepalen of content met OpenAI-tools is gegenereerd. Herkomstsignalen kunnen nuttige aanwijzingen over de oorsprong bieden, maar garanderen niet dat content juist, onbewerkt, rechtmatig eigendom of in de juiste context gepresenteerd is.
Wat is de C2PA-standaard en wat maakt deze mogelijk?
C2PA is een open technische standaard waarmee uitgevers, bedrijven en anderen metadata in media kunnen opnemen om de oorsprong en gerelateerde informatie te verifiëren. C2PA is niet alleen bedoeld voor door AI gegenereerde content. Dezelfde standaard wordt ook toegepast door camerafabrikanten, nieuwsorganisaties en anderen om de bron en geschiedenis, oftewel de herkomst, van mediacontent te certificeren.
C2PA-metadata kunnen informatie bevatten over bijvoorbeeld de tool of dienst waarmee een bestand is gemaakt, wanneer het is gemaakt en andere details over de oorsprong of geschiedenis ervan.
Lees meer over C2PA.
Wat is SynthID en wat maakt het mogelijk?
SynthID is een technologie voor onzichtbare watermerken die rechtstreeks een signaal in gegenereerde media opneemt. In tegenstelling tot metadata maakt het signaal deel uit van de content zelf en kan het na bepaalde bewerkingen of transformaties behouden blijven.
SynthID biedt naast C2PA-metadata een aanvullend herkomstsignaal. Als metadata bijvoorbeeld uit een bestand worden verwijderd, kan een ingebouwd watermerk nog steeds aangeven dat de content met ondersteunde OpenAI-tools is gegenereerd.
Welke typen door OpenAI gegenereerde content bevatten herkomstsignalen?
OpenAI gebruikt verschillende herkomstsignalen voor verschillende typen content.
| Contenttype | Herkomstsignalen | Opmerkingen |
|---|---|---|
| Afbeeldingen | C2PA-metadata en SynthID-watermerken | Ondersteunde afbeeldingen die met ChatGPT, Codex en de OpenAI-API zijn gegenereerd, bevatten beide signalen. |
| Audio | SynthID-watermerken | Ondersteunde, door OpenAI gegenereerde audio bevat een onhoorbaar watermerk dat in de audio zelf is ingebouwd. |
De dekking kan verschillen per product, model, exportmethode, bestandstype en het moment waarop de content is gemaakt.
Waarom gebruiken sommige contenttypen verschillende herkomstsignalen?
Verschillende media-indelingen behouden herkomstinformatie op verschillende manieren.
Metadata, zoals C2PA Content Credentials, kunnen meer gedetailleerde informatie bevatten, maar worden soms verwijderd door platforms, bewerkingstools of bestandsconversies.
Watermerken, zoals SynthID, worden in de gegenereerde media zelf opgenomen en kunnen beter bestand zijn tegen bepaalde transformaties. Watermerken bieden doorgaans echter minder context dan metadata.
Wanneer dat technisch haalbaar is, levert het passende gebruik van beide methoden sterkere herkomstsignalen op.
Hoe kan ik een zichtbaar watermerk toevoegen aan een afbeelding die met OpenAI-tools is gegenereerd?
U kunt bij afbeeldingen die met ChatGPT, Codex en de OpenAI-API worden gegenereerd om een zichtbare vermelding vragen door het model de opdracht te geven er een toe te voegen. Wanneer u bijvoorbeeld een afbeelding genereert, kunt u zeggen: "Include a visible OpenAI watermark in the image."
Zichtbare watermerken staan los van ingebouwde herkomstsignalen zoals C2PA-metadata en SynthID-watermerken. Ze kunnen kijkers helpen herkennen dat een afbeelding met OpenAI-tools is gegenereerd, maar zijn niet hetzelfde als machineleesbare herkomstsignalen.
Hoe kan ik controleren of content met OpenAI-tools is gegenereerd?
Ga naar openai.com/verify om te controleren of een ondersteunde afbeelding of een ondersteund audiobestand herkomstsignalen bevat die verband houden met content die door OpenAI-tools is gegenereerd of geëxporteerd.
Nadat u een ondersteund bestand hebt geüpload, zoekt de tool naar ondersteunde OpenAI-herkomstsignalen, zoals een SynthID-watermerk of een vertrouwd C2PA-manifest dat aan OpenAI is gekoppeld.
Als de tool een ondersteund OpenAI-herkomstsignaal vindt, geeft dit aan dat de content door OpenAI-tools is gegenereerd of daaruit is geëxporteerd.
Wat betekent een verificatieresultaat?
Als een signaal wordt gedetecteerd, kan de tool helpen bevestigen dat de geüploade content een ondersteund herkomstsignaal bevat dat aan OpenAI is gekoppeld.
De tool bevestigt niet dat de content juist, onbewerkt, rechtmatig eigendom of in de juiste context gepresenteerd is. De tool stelt evenmin vast wie de content heeft gemaakt of waarom deze is gemaakt.
Wat als er geen signaal wordt gevonden?
Als er geen signaal wordt gedetecteerd, betekent dit dat de tool in het geüploade bestand geen door OpenAI uitgegeven herkomstsignalen heeft gevonden.
De content kan alsnog door OpenAI zijn gegenereerd of geëxporteerd als:
De content is gemaakt voordat herkomstsignalen beschikbaar waren.
De content afkomstig is van een niet-ondersteund product, model, exportmethode of bestandstype.
Metadata tijdens het uploaden, downloaden, bewerken, converteren of delen zijn verwijderd.
Een watermerk is aangetast door compressie, bijsnijden, ruis, bewerkingen, indelingsconversie of andere transformaties.
Een audiofragment te kort is of aanzienlijk is gewijzigd.
Zijn er plannen om tekstuitvoer te ondersteunen?
In overeenstemming met onze toezeggingen op grond van de gedragscode van de Europese Commissie inzake de transparantie van door AI gegenereerde content, willen we herkomstsignalen uitbreiden naar alle modaliteiten, waaronder tekst. Zo krijgen klanten en ontwikkelaars duidelijke manieren om aan hun eigen transparantieverplichtingen te voldoen terwijl standaarden en tools zich verder ontwikkelen.
Kan OpenAI Verify content van andere AI-tools detecteren?
OpenAI Verify is ontworpen om ondersteunde herkomstsignalen te detecteren die verband houden met content die door OpenAI-tools is gegenereerd of geëxporteerd.
Het is niet ontworpen om content te detecteren die door andere AI-diensten is gegenereerd. Ook detecteert het mogelijk geen door OpenAI gegenereerde content als het relevante signaal ontbreekt, niet wordt ondersteund of is aangetast.
Kunnen ontwikkelaars content verifiëren via een API?
Ontwikkelaars en organisaties kunnen de verificatie-API van OpenAI gebruiken om ondersteunde content op OpenAI-herkomstsignalen te controleren en verificatie in hun eigen toepassingen of werkprocessen te integreren. Ga naar openai.com/verify voor informatie over toegang tot de API. Organisaties die hogere gebruikslimieten nodig hebben, kunnen een verhoging aanvragen. Ga voor meer informatie naar openai.com/verify.