OpenAI upotrebljava signale o podrijetlu, kao što su vodeni žigovi SynthID i vjerodajnice sadržaja (C2PA), kako bi ljudima pomogao utvrditi je li sadržaj generiran alatima tvrtke OpenAI. Signali o podrijetlu mogu biti korisni pokazatelji izvora, ali ne jamče da je sadržaj točan, neizmijenjen, u zakonitom vlasništvu ili prikazan u ispravnom kontekstu.
Što je standard C2PA i što omogućuje?
C2PA je otvoreni tehnički standard koji izdavačima, tvrtkama i drugima omogućuje ugradnju metapodataka u medijske sadržaje radi provjere njihova izvora i povezanih informacija. C2PA nije namijenjen samo sadržaju generiranom umjetnom inteligencijom. Isti standard prihvaćaju i proizvođači fotoaparata, novinske organizacije i drugi kako bi potvrdili izvor i povijest, odnosno podrijetlo, medijskog sadržaja.
Metapodaci C2PA mogu sadržavati informacije kao što su alat ili usluga kojom je datoteka izrađena, vrijeme njezina nastanka te druge pojedinosti o njezinu izvoru ili povijesti.
Saznajte više o standardu C2PA.
Što je SynthID i što omogućuje?
SynthID je tehnologija nevidljivih vodenih žigova koja ugrađuje signal izravno u generirani medijski sadržaj. Za razliku od metapodataka, signal je dio samog sadržaja i može ostati prisutan nakon nekih izmjena ili transformacija.
SynthID pruža dodatni signal o podrijetlu uz metapodatke C2PA. Primjerice, ako se metapodaci uklone iz datoteke, ugrađeni vodeni žig i dalje može signalizirati da je sadržaj generiran podržanim alatima tvrtke OpenAI.
Koje vrste sadržaja generiranog alatima tvrtke OpenAI sadržavaju signale o podrijetlu?
OpenAI upotrebljava različite signale o podrijetlu za različite vrste sadržaja.
| Vrsta sadržaja | Signali o podrijetlu | Napomene |
|---|---|---|
| Slike | Metapodaci C2PA i vodeni žigovi SynthID | Podržane slike generirane s pomoću usluga ChatGPT, Codex i API-ja OpenAI sadržavaju oba signala. |
| Zvuk | Vodeni žigovi SynthID | Podržani zvučni sadržaji koje generira OpenAI sadržavaju nečujni vodeni žig ugrađen u sam zvučni zapis. |
Pokrivenost se može razlikovati ovisno o proizvodu, modelu, načinu izvoza, vrsti datoteke i vremenu nastanka sadržaja.
Zašto se za neke vrste sadržaja upotrebljavaju različiti signali o podrijetlu?
Različiti medijski formati na različite načine čuvaju informacije o podrijetlu.
Metapodaci, kao što su vjerodajnice sadržaja C2PA, mogu sadržavati detaljnije informacije, ali ih platforme, alati za uređivanje ili pretvorba datoteka ponekad mogu ukloniti.
Vodeni žigovi, kao što je SynthID, ugrađeni su u sam generirani medijski sadržaj i mogu bolje opstati nakon određenih transformacija. Međutim, vodeni žigovi općenito pružaju manje konteksta od metapodataka.
Kada je to tehnički izvedivo i primjereno, upotreba obaju pristupa pruža pouzdanije signale o podrijetlu.
Kako mogu dodati vidljivi vodeni žig slici generiranoj alatima tvrtke OpenAI?
Od modela možete zatražiti da slikama generiranima s pomoću usluga ChatGPT, Codex i API-ja OpenAI doda vidljivu oznaku. Primjerice, pri generiranju slike možete reći: “Include a visible OpenAI watermark in the image.”
Vidljivi vodeni žigovi odvojeni su od ugrađenih signala o podrijetlu, kao što su metapodaci C2PA i vodeni žigovi SynthID. Mogu pomoći gledateljima da prepoznaju kako je slika generirana alatima tvrtke OpenAI, ali nisu isto što i strojno čitljivi signali o podrijetlu.
Kako mogu provjeriti je li sadržaj generiran alatima tvrtke OpenAI?
Posjetite openai.com/verify kako biste provjerili sadržava li podržana slika ili audiodatoteka signale o podrijetlu povezane sa sadržajem koji je generiran ili izvezen alatima tvrtke OpenAI.
Nakon što prenesete podržanu datoteku, alat će potražiti podržane signale tvrtke OpenAI o podrijetlu, kao što su vodeni žig SynthID ili pouzdani C2PA manifest povezan s tvrtkom OpenAI.
Ako alat pronađe podržani signal tvrtke OpenAI o podrijetlu, to znači da je sadržaj generiran ili izvezen alatima tvrtke OpenAI.
Što znači rezultat provjere?
Ako otkrije signal, alat može pomoći potvrditi da preneseni sadržaj sadržava podržani signal o podrijetlu povezan s tvrtkom OpenAI.
Alat ne potvrđuje da je sadržaj točan, neizmijenjen, u zakonitom vlasništvu ili prikazan u ispravnom kontekstu. Također ne utvrđuje tko je izradio sadržaj ni zašto je izrađen.
Što ako signal nije pronađen?
Ako signal nije otkriven, to znači da alat u prenesenoj datoteci nije pronašao signale o podrijetlu koje je izdao OpenAI.
Sadržaj je ipak možda generiran ili izvezen alatima tvrtke OpenAI ako:
Sadržaj je izrađen prije nego što su signali o podrijetlu postali dostupni.
Sadržaj potječe iz nepodržanog proizvoda, modela, načina izvoza ili vrste datoteke.
Metapodaci su uklonjeni tijekom prijenosa, preuzimanja, uređivanja, pretvorbe ili dijeljenja.
Vodeni žig narušen je sažimanjem, obrezivanjem, šumom, uređivanjem, pretvorbom formata ili drugim transformacijama.
Zvučni isječak prekratak je ili je znatno izmijenjen.
Planirate li podržati tekstne izlaze?
U skladu s našim obvezama prema Kodeksu prakse Europske komisije o transparentnosti sadržaja generiranog umjetnom inteligencijom, cilj nam je proširiti signale o podrijetlu na sve modalitete, uključujući tekst, kako bi korisnici i razvojni programeri imali jasne načine za ispunjavanje vlastitih obveza transparentnosti dok se standardi i alati nastavljaju razvijati.
Može li OpenAI Verify otkriti sadržaj iz drugih alata umjetne inteligencije?
OpenAI Verify namijenjen je otkrivanju podržanih signala o podrijetlu povezanih sa sadržajem koji je generiran ili izvezen alatima tvrtke OpenAI.
Nije namijenjen otkrivanju sadržaja koji su generirale druge usluge umjetne inteligencije, a možda neće otkriti ni sadržaj koji je generirao OpenAI ako odgovarajući signal nedostaje, nije podržan ili je narušen.
Mogu li razvojni programeri provjeravati sadržaj putem API-ja?
Razvojni programeri i organizacije mogu upotrebljavati API tvrtke OpenAI za provjeru podržanog sadržaja radi pronalaženja signala tvrtke OpenAI o podrijetlu te integrirati provjeru u vlastite aplikacije ili tijekove rada. Informacije o pristupu API-ju potražite na web-mjestu openai.com/verify. Organizacije kojima su potrebna viša ograničenja upotrebe mogu zatražiti njihovo povećanje. Za više informacija posjetite openai.com/verify.