OpenAI verwendet Herkunftssignale wie SynthID-Wasserzeichen und Content Credentials (C2PA), damit Menschen erkennen können, ob Inhalte mit OpenAI-Tools erstellt wurden. Herkunftssignale können nützliche Hinweise auf den Ursprung geben. Sie garantieren jedoch nicht, dass Inhalte korrekt und unbearbeitet sind, jemandem rechtmäßig gehören oder im richtigen Kontext dargestellt werden.
Was ist der C2PA-Standard und was ermöglicht er?
C2PA ist ein offener technischer Standard, mit dem Verlage, Unternehmen und andere Metadaten in Medien einbetten können, um deren Ursprung und zugehörige Informationen zu überprüfen. C2PA ist nicht nur für KI-generierte Inhalte vorgesehen. Auch Kamerahersteller, Nachrichtenorganisationen und andere setzen zunehmend auf diesen Standard, um Quelle und Entstehungsgeschichte von Medieninhalten zu bestätigen.
C2PA-Metadaten können beispielsweise angeben, mit welchem Tool oder Dienst eine Datei erstellt wurde, wann sie erstellt wurde und weitere Details zu ihrem Ursprung oder ihrer Entstehungsgeschichte enthalten.
Weitere Informationen zu C2PA.
Was ist SynthID und was ermöglicht es?
SynthID ist eine Technologie für unsichtbare Wasserzeichen, die ein Signal direkt in generierte Medien einbettet. Anders als Metadaten ist das Signal Bestandteil des Inhalts und kann bestimmte Bearbeitungen oder Umwandlungen überdauern.
SynthID stellt neben C2PA-Metadaten ein zusätzliches Herkunftssignal bereit. Wenn beispielsweise Metadaten aus einer Datei entfernt werden, kann ein eingebettetes Wasserzeichen weiterhin darauf hinweisen, dass der Inhalt mit unterstützten OpenAI-Tools erstellt wurde.
Welche Arten von OpenAI-generierten Inhalten enthalten Herkunftssignale?
OpenAI verwendet für verschiedene Inhaltstypen unterschiedliche Herkunftssignale.
| Inhaltstyp | Herkunftssignale | Hinweise |
|---|---|---|
| Bilder | C2PA-Metadaten und SynthID-Wasserzeichen | Unterstützte Bilder, die mit ChatGPT, Codex oder der OpenAI API erstellt wurden, enthalten beide Signale. |
| Audio | SynthID-Wasserzeichen | Unterstützte, von OpenAI generierte Audioinhalte enthalten ein unhörbares Wasserzeichen, das direkt in die Audiodaten eingebettet ist. |
Die Abdeckung kann je nach Produkt, Modell, Exportweg, Dateityp und Erstellungszeitpunkt variieren.
Warum werden für einige Inhaltstypen unterschiedliche Herkunftssignale verwendet?
Verschiedene Medienformate bewahren Herkunftsinformationen auf unterschiedliche Weise.
Metadaten wie C2PA Content Credentials können detailliertere Informationen enthalten. Plattformen, Bearbeitungstools oder Dateikonvertierungen können sie jedoch mitunter entfernen.
Wasserzeichen wie SynthID werden direkt in die generierten Medien eingebettet und können bestimmte Umwandlungen besser überdauern. Wasserzeichen bieten jedoch im Allgemeinen weniger Kontext als Metadaten.
Wenn technisch machbar, trägt die geeignete Kombination beider Ansätze zu aussagekräftigeren Herkunftssignalen bei.
Wie kann ich einem mit OpenAI-Tools erstellten Bild ein sichtbares Wasserzeichen hinzufügen?
Du kannst das Modell per Prompt auffordern, Bildern, die mit ChatGPT, Codex oder der OpenAI API erstellt werden, einen sichtbaren Hinweis hinzuzufügen. Beim Erstellen eines Bildes kannst du beispielsweise sagen: “Include a visible OpenAI watermark in the image.”
Sichtbare Wasserzeichen unterscheiden sich von eingebetteten Herkunftssignalen wie C2PA-Metadaten und SynthID-Wasserzeichen. Sie können Betrachtenden zeigen, dass ein Bild mit OpenAI-Tools erstellt wurde, sind aber nicht mit maschinenlesbaren Herkunftssignalen gleichzusetzen.
Wie kann ich prüfen, ob Inhalte mit OpenAI-Tools erstellt wurden?
Unter openai.com/verify kannst du prüfen, ob ein unterstütztes Bild oder eine unterstützte Audiodatei Herkunftssignale enthält, die auf mit OpenAI-Tools erstellte oder exportierte Inhalte hinweisen.
Nachdem du eine unterstützte Datei hochgeladen hast, sucht das Tool nach unterstützten Herkunftssignalen von OpenAI, etwa einem SynthID-Wasserzeichen oder einem vertrauenswürdigen C2PA-Manifest mit Bezug zu OpenAI.
Findet das Tool ein unterstütztes Herkunftssignal von OpenAI, weist dies darauf hin, dass der Inhalt mit OpenAI-Tools erstellt oder daraus exportiert wurde.
Was bedeutet ein Prüfergebnis?
Wird ein Signal erkannt, kann das Tool bestätigen helfen, dass der hochgeladene Inhalt ein unterstütztes Herkunftssignal mit Bezug zu OpenAI enthält.
Das Tool bestätigt nicht, dass der Inhalt korrekt und unbearbeitet ist, jemandem rechtmäßig gehört oder im richtigen Kontext dargestellt wird. Es ermittelt auch nicht, wer den Inhalt erstellt hat oder aus welchem Grund.
Was bedeutet es, wenn kein Signal gefunden wird?
Wenn kein Signal erkannt wird, hat das Tool in der hochgeladenen Datei keine von OpenAI ausgegebenen Herkunftssignale gefunden.
Der Inhalt könnte dennoch von OpenAI erstellt oder exportiert worden sein, wenn:
Der Inhalt erstellt wurde, bevor Herkunftssignale verfügbar waren.
Der Inhalt aus einem nicht unterstützten Produkt, Modell, Exportweg oder Dateityp stammt.
Die Metadaten beim Hoch- oder Herunterladen, Bearbeiten, Konvertieren oder Teilen entfernt wurden.
Ein Wasserzeichen durch Komprimierung, Zuschneiden, Rauschen, Bearbeitungen, Formatkonvertierung oder andere Umwandlungen beeinträchtigt wurde.
Ein Audioclip zu kurz ist oder erheblich verändert wurde.
Ist die Unterstützung von Textausgaben geplant?
Im Einklang mit unseren Zusagen gemäß dem Verhaltenskodex der Europäischen Kommission zur Transparenz KI-generierter Inhalte möchten wir Herkunftssignale auf alle Modalitäten einschließlich Text ausweiten. So erhalten Kundenunternehmen und Entwicklungsteams klare Möglichkeiten, ihre eigenen Transparenzpflichten zu erfüllen, während Standards und Tools weiterentwickelt werden.
Kann OpenAI Verify Inhalte anderer KI-Tools erkennen?
OpenAI Verify erkennt unterstützte Herkunftssignale in Inhalten, die mit OpenAI-Tools erstellt oder exportiert wurden.
Das Tool ist nicht dafür konzipiert, Inhalte anderer KI-Dienste zu erkennen. Auch von OpenAI erstellte Inhalte werden möglicherweise nicht erkannt, wenn das entsprechende Signal fehlt, nicht unterstützt wird oder beeinträchtigt ist.
Können Entwicklungsteams Inhalte über eine API überprüfen?
Entwicklungsteams und Organisationen können mit der Prüf-API von OpenAI unterstützte Inhalte auf OpenAI-Herkunftssignale prüfen und die Prüfung in ihre eigenen Anwendungen oder Arbeitsabläufe integrieren. Informationen zum API-Zugriff findest du unter openai.com/verify. Organisationen, die höhere Nutzungslimits benötigen, können eine Erhöhung beantragen. Weitere Informationen findest du unter openai.com/verify.