OpenAI používá signály původu, jako jsou vodoznaky SynthID a Content Credentials (C2PA), které lidem pomáhají zjistit, zda byl obsah vytvořen pomocí nástrojů OpenAI. Signály původu mohou být užitečným vodítkem ke zjištění původu obsahu, nezaručují však, že je obsah přesný, neupravený, v zákonném vlastnictví nebo prezentovaný ve správném kontextu.
Co je standard C2PA a co umožňuje?
C2PA je otevřený technický standard, který vydavatelům, společnostem a dalším subjektům umožňuje vkládat do médií metadata pro ověření jejich původu a souvisejících informací. C2PA není určen pouze pro obsah vytvořený umělou inteligencí. Stejný standard zavádějí také výrobci fotoaparátů, zpravodajské organizace a další subjekty, aby potvrzovali zdroj a historii, tedy původ, mediálního obsahu.
Metadata C2PA mohou obsahovat například informace o nástroji či službě, která soubor vytvořila, době jeho vytvoření a další podrobnosti o jeho původu nebo historii.
Další informace o C2PA.
Co je SynthID a co umožňuje?
SynthID je technologie neviditelných vodoznaků, která vkládá signál přímo do vytvořených médií. Na rozdíl od metadat je signál součástí samotného obsahu a může přetrvat i po některých úpravách nebo transformacích.
SynthID poskytuje vedle metadat C2PA další signál původu. Pokud jsou například ze souboru odstraněna metadata, vložený vodoznak může nadále signalizovat, že byl obsah vytvořen pomocí podporovaných nástrojů OpenAI.
Které typy obsahu vytvořeného OpenAI obsahují signály původu?
OpenAI používá pro různé typy obsahu různé signály původu.
| Typ obsahu | Signály původu | Poznámky |
|---|---|---|
| Obrázky | Metadata C2PA a vodoznaky SynthID | Podporované obrázky vytvořené pomocí ChatGPT, Codex a rozhraní OpenAI API obsahují oba signály. |
| Zvuk | Vodoznaky SynthID | Podporovaný zvuk vytvořený OpenAI obsahuje neslyšitelný vodoznak vložený přímo do zvukové stopy. |
Dostupnost se může lišit podle produktu, modelu, způsobu exportu, typu souboru a doby vytvoření obsahu.
Proč používají některé typy obsahu odlišné signály původu?
Různé formáty médií uchovávají informace o původu různými způsoby.
Metadata, jako jsou Content Credentials C2PA, mohou obsahovat podrobnější informace, někdy je však mohou odstranit platformy, editační nástroje nebo převod souborů.
Vodoznaky, jako je SynthID, se vkládají přímo do vytvořených médií a mohou lépe odolávat některým transformacím. Vodoznaky však obecně poskytují méně kontextu než metadata.
Pokud je to technicky možné, vhodné použití obou přístupů pomáhá zajistit spolehlivější signály původu.
Jak mohu do obrázku vytvořeného pomocí nástrojů OpenAI přidat viditelný vodoznak?
U obrázků vytvořených pomocí ChatGPT, Codex a rozhraní OpenAI API můžete model prostřednictvím pokynu požádat, aby přidal viditelné označení. Při vytváření obrázku můžete například zadat: „Include a visible OpenAI watermark in the image.“
Viditelné vodoznaky jsou oddělené od vložených signálů původu, jako jsou metadata C2PA a vodoznaky SynthID. Mohou divákům pomoci rozpoznat, že byl obrázek vytvořen pomocí nástrojů OpenAI, nejsou však totéž co strojově čitelné signály původu.
Jak mohu zjistit, zda byl obsah vytvořen pomocí nástrojů OpenAI?
Na webu openai.com/verify můžete zjistit, zda podporovaný obrázek nebo zvukový soubor obsahuje signály původu spojené s obsahem vytvořeným či exportovaným nástroji OpenAI.
Po nahrání podporovaného souboru nástroj vyhledá podporované signály původu OpenAI, například vodoznak SynthID nebo důvěryhodný manifest C2PA spojený s OpenAI.
Pokud nástroj najde podporovaný signál původu OpenAI, znamená to, že byl obsah vytvořen nebo exportován pomocí nástrojů OpenAI.
Co znamená výsledek ověření?
Pokud je zjištěn signál, nástroj může pomoci potvrdit, že nahraný obsah obsahuje podporovaný signál původu spojený s OpenAI.
Nástroj nepotvrzuje, že je obsah přesný, neupravený, v zákonném vlastnictví nebo prezentovaný ve správném kontextu. Nezjišťuje ani to, kdo obsah vytvořil nebo proč vznikl.
Co když není nalezen žádný signál?
Pokud není zjištěn žádný signál, znamená to, že nástroj v nahraném souboru nenašel signály původu vydané OpenAI.
Obsah přesto mohl být vytvořen nebo exportován pomocí OpenAI, pokud:
Obsah vznikl dříve, než byly signály původu k dispozici.
Obsah pochází z nepodporovaného produktu, modelu, způsobu exportu nebo typu souboru.
Metadata byla odstraněna během nahrávání, stahování, úprav, převodu nebo sdílení.
Kvalitu vodoznaku snížila komprese, oříznutí, šum, úpravy, převod formátu nebo jiné transformace.
Zvuková ukázka je příliš krátká nebo byla výrazně upravena.
Plánujete podporovat textové výstupy?
V souladu s našimi závazky podle Kodexu zásad Evropské komise pro transparentnost obsahu vytvořeného umělou inteligencí chceme rozšířit signály původu na všechny modality včetně textu. Zákazníci a vývojáři tak budou mít jasné možnosti, jak plnit své povinnosti v oblasti transparentnosti s dalším vývojem standardů a nástrojů.
Dokáže OpenAI Verify rozpoznat obsah z jiných nástrojů umělé inteligence?
OpenAI Verify je určen k rozpoznávání podporovaných signálů původu spojených s obsahem vytvořeným nebo exportovaným nástroji OpenAI.
Není určen k rozpoznávání obsahu vytvořeného jinými službami umělé inteligence. Nemusí rozpoznat ani obsah vytvořený OpenAI, pokud příslušný signál chybí, není podporován nebo je poškozený.
Mohou vývojáři ověřovat obsah pomocí rozhraní API?
Vývojáři a organizace mohou pomocí ověřovacího rozhraní API společnosti OpenAI kontrolovat podporovaný obsah na přítomnost signálů původu OpenAI a začlenit ověřování do vlastních aplikací nebo pracovních postupů. Informace o přístupu k rozhraní API najdete na webu openai.com/verify. Organizace, které potřebují vyšší limity využití, mohou požádat o jejich navýšení. Další informace najdete na webu openai.com/verify.