Co je standard C2PA a co umožňuje?
C2PA je otevřený technický standard, který umožňuje vydavatelům, firmám a dalším vkládat do médií metadata pro ověření jejich původu a souvisejících informací. C2PA není jen pro obrázky generované AI – stejný standard zavádějí také výrobci fotoaparátů, zpravodajské organizace a další, aby ověřovali zdroj a historii (neboli provenienci) mediálního obsahu.
Co je implementace C2PA od OpenAI?
Obrázky generované pomocí ChatGPT na webu a v našem API, které zpřístupňuje model DALL·E 3, nyní budou obsahovat metadata C2PA. Lidé mohou používat weby jako Content Credentials Verify ke kontrole, zda byl obrázek vygenerován pomocí ChatGPT nebo modelem DALL·E 3 prostřednictvím nástrojů OpenAI. To by mělo ukazovat, že obrázek byl vygenerován prostřednictvím našeho API nebo ChatGPT, pokud metadata nebyla odstraněna.
Metadata jako C2PA nejsou samospasitelným řešením problémů s proveniencí. Lze je snadno odstranit, ať už omylem, nebo záměrně. Většina dnešních platforem sociálních sítí například odstraňuje metadata z nahraných obrázků a mohou je odstranit i kroky jako pořízení snímku obrazovky. Obrázek bez těchto metadat tedy mohl, ale nemusel být vygenerován pomocí ChatGPT nebo našeho API.
Věříme, že zavádění těchto metod pro určení provenience a podpora uživatelů v rozpoznávání těchto signálů jsou klíčové pro zvýšení důvěryhodnosti digitálních informací.
Jaká metadata budou vložena do generovaných obrázků?
Níže můžete vidět příklady:
Obrázky generované přes API
Obrázky vytvořené prostřednictvím API budou obsahovat podpis označující, že byly vygenerovány základním modelem DALL·E 3.
Obrázky generované přes ChatGPT
Obrázky vytvořené v ChatGPT budou obsahovat další manifest, který bude označovat, že obsah byl vytvořen pomocí ChatGPT. Tím vzniká dvojitá linie provenience, jak je ukázáno níže.
Část 1 (Druhý manifest metadat signalizující, že byl obrázek zobrazen v ChatGPT)
Část 2 (Původní manifest metadat signalizující, že byl obrázek vytvořen pomocí DALL-E 3)
