Was ist der C2PA-Standard und was ermöglicht er?
C2PA ist ein offener technischer Standard, mit dem Publisher, Unternehmen und andere Metadaten in Medien einbetten können, um deren Ursprung und damit verbundene Informationen zu verifizieren. C2PA ist nicht nur für KI-generierte Bilder gedacht – derselbe Standard wird auch von Kameraherstellern, Nachrichtenorganisationen und anderen übernommen, um die Quelle und Historie (oder Herkunft) von Medieninhalten zu zertifizieren.
Was ist OpenAI's Implementierung von C2PA?
Bilder, die mit ChatGPT im Web und über unsere API (die das DALL·E-3-Modell bereitstellt) generiert werden, enthalten künftig C2PA-Metadaten. Über Websites wie Content Credentials Verify können Nutzer prüfen, ob ein Bild von ChatGPT oder vom DALL·E-3-Modell über OpenAIs Tools generiert wurde. Das sollte darauf hinweisen, dass das Bild über unsere API oder ChatGPT generiert wurde – sofern die Metadaten nicht entfernt wurden.
Metadaten wie C2PA sind kein Allheilmittel, um Fragen der Herkunft zu lösen. Sie können leicht entfernt werden – versehentlich oder absichtlich. So entfernen heute die meisten Social-Media-Plattformen Metadaten aus hochgeladenen Bildern, und auch Aktionen wie das Erstellen eines Screenshots können sie entfernen. Daher kann ein Bild ohne diese Metadaten mit ChatGPT oder unserer API generiert worden sein – muss es aber nicht.
Wir sind überzeugt, dass die Einführung solcher Methoden zur Feststellung der Herkunft und die Ermutigung von Nutzern, diese Signale zu erkennen, entscheidend sind, um die Vertrauenswürdigkeit digitaler Informationen zu erhöhen.
Welche Metadaten werden in generierte Bilder eingebettet?
Unten sehen Sie Beispiele:
Über die API generierte Bilder
Bilder, die über die API erstellt werden, enthalten eine Signatur, die darauf hinweist, dass sie vom zugrunde liegenden DALL·E-3-Modell generiert wurden.
Über ChatGPT generierte Bilder
Bilder, die innerhalb von ChatGPT erstellt werden, enthalten ein zusätzliches Manifest, das darauf hinweist, dass der Inhalt mit ChatGPT erstellt wurde. Dadurch entsteht eine duale Herkunftslinie, wie unten gezeigt.
Teil 1 (Zweites Metadaten-Manifest, das signalisiert, dass das Bild in ChatGPT angezeigt wurde)
Teil 2 (Erstes Metadaten-Manifest, das signalisiert, dass das Bild mit DALL-E 3 erstellt wurde)
