OpenAI upotrebljava signale o podrijetlu, kao što su vodeni žigovi SynthID i Content Credentials (C2PA), kako bi korisnicima pomogao utvrditi je li sadržaj generiran alatima tvrtke OpenAI. Signali o podrijetlu mogu biti korisni pokazatelji izvora, ali ne jamče da je sadržaj točan, neizmijenjen, u zakonitom vlasništvu ili prikazan u ispravnom kontekstu.
Što je standard C2PA i što omogućuje?
C2PA je otvoreni tehnički standard koji izdavačima, tvrtkama i drugima omogućuje ugrađivanje metapodataka u medijski sadržaj radi provjere njegova izvora i povezanih informacija. C2PA nije namijenjen samo sadržaju generiranom umjetnom inteligencijom. Isti standard prihvaćaju i proizvođači fotoaparata, novinske organizacije i drugi kako bi potvrdili izvor i povijest, odnosno podrijetlo, medijskog sadržaja.
Metapodaci C2PA mogu sadržavati informacije poput alata ili usluge kojom je datoteka izrađena, vremena njezine izrade i drugih pojedinosti o njezinu izvoru ili povijesti.
Saznajte više o standardu C2PA.
Što je SynthID i što omogućuje?
SynthID je tehnologija nevidljivih vodenih žigova koja ugrađuje signal izravno u generirani medijski sadržaj. Za razliku od metapodataka, signal je dio samog sadržaja i može ostati prisutan nakon određenih uređivanja ili pretvorbi.
SynthID pruža dodatan signal o podrijetlu uz metapodatke C2PA. Primjerice, ako se metapodaci uklone iz datoteke, ugrađeni vodeni žig i dalje može signalizirati da je sadržaj generiran podržanim alatima tvrtke OpenAI.
Koje vrste sadržaja generiranog putem tvrtke OpenAI uključuju signale o podrijetlu?
OpenAI upotrebljava različite signale o podrijetlu za različite vrste sadržaja.
| Vrsta sadržaja | Signali o podrijetlu | Napomene |
|---|---|---|
| Slike | Metapodaci C2PA i vodeni žigovi SynthID | Podržane slike generirane putem usluga ChatGPT, Codex i OpenAI API sadrže oba signala. |
| Zvuk | Vodeni žigovi SynthID | Podržani zvučni sadržaji koje generira OpenAI sadrže nečujan vodeni žig ugrađen u sam zvučni zapis. |
Pokrivenost se može razlikovati ovisno o proizvodu, modelu, načinu izvoza, vrsti datoteke i vremenu izrade sadržaja.
Zašto se za neke vrste sadržaja upotrebljavaju različiti signali o podrijetlu?
Različiti medijski formati čuvaju podatke o podrijetlu na različite načine.
Metapodaci, poput C2PA Content Credentials, mogu sadržavati detaljnije informacije, ali ih platforme, alati za uređivanje ili pretvorbe datoteka ponekad mogu ukloniti.
Vodeni žigovi, poput SynthID-a, ugrađeni su u sam generirani medijski sadržaj i mogu biti otporniji na neke preinake. Međutim, vodeni žigovi općenito pružaju manje konteksta od metapodataka.
Kada je to tehnički izvedivo, prikladna primjena obaju pristupa pomaže pružiti pouzdanije signale o podrijetlu.
Kako mogu dodati vidljivi vodeni žig slici generiranoj alatima tvrtke OpenAI?
Možete zatražiti vidljivu oznaku na slikama generiranim putem usluga ChatGPT, Codex i OpenAI API tako da modelu zadate da je uključi. Primjerice, pri generiranju slike možete navesti: “Include a visible OpenAI watermark in the image.”
Vidljivi vodeni žigovi odvojeni su od ugrađenih signala o podrijetlu, kao što su metapodaci C2PA i vodeni žigovi SynthID. Mogu pomoći gledateljima da prepoznaju kako je slika generirana alatima tvrtke OpenAI, ali nisu isto što i strojno čitljivi signali o podrijetlu.
Kako mogu provjeriti je li sadržaj generiran alatima tvrtke OpenAI?
Posjetite openai.com/verify kako biste provjerili sadrži li podržana slika ili zvučna datoteka signale o podrijetlu povezane sa sadržajem generiranim ili izvezenim alatima tvrtke OpenAI.
Nakon što prenesete podržanu datoteku, alat će potražiti podržane signale tvrtke OpenAI o podrijetlu, kao što su vodeni žig SynthID ili pouzdani C2PA manifest povezan s tvrtkom OpenAI.
Ako alat pronađe podržani signal tvrtke OpenAI o podrijetlu, to znači da je sadržaj generiran alatima tvrtke OpenAI ili izvezen iz njih.
Što znači rezultat provjere?
Ako se otkrije signal, alat može pomoći potvrditi da preneseni sadržaj sadrži podržani signal o podrijetlu povezan s tvrtkom OpenAI.
Alat ne potvrđuje da je sadržaj točan, neizmijenjen, u zakonitom vlasništvu ili prikazan u ispravnom kontekstu. Također ne utvrđuje tko je izradio sadržaj ni zašto je izrađen.
Što ako signal nije pronađen?
Ako signal nije otkriven, to znači da alat u prenesenoj datoteci nije pronašao signale o podrijetlu koje je izdao OpenAI.
OpenAI je ipak mogao generirati ili izvesti sadržaj ako:
Sadržaj je izrađen prije nego što su signali o podrijetlu postali dostupni.
Sadržaj potječe iz nepodržanog proizvoda, modela, načina izvoza ili vrste datoteke.
Metapodaci su uklonjeni tijekom prijenosa, preuzimanja, uređivanja, pretvorbe ili dijeljenja.
Vodeni žig oslabljen je kompresijom, obrezivanjem, šumom, uređivanjem, pretvorbom formata ili drugim preinakama.
Zvučni isječak prekratak je ili je znatno izmijenjen.
Planirate li podržati tekstualne izlazne rezultate?
U skladu s našim obvezama prema Kodeksu dobre prakse Europske komisije o transparentnosti sadržaja generiranog umjetnom inteligencijom, cilj nam je proširiti signale o podrijetlu na sve modalitete, uključujući tekst, kako bi korisnici i razvojni programeri imali jasne načine za ispunjavanje vlastitih obveza u pogledu transparentnosti dok se standardi i alati nastavljaju razvijati.
Može li OpenAI Verify otkriti sadržaj iz drugih AI alata?
OpenAI Verify osmišljen je za otkrivanje podržanih signala o podrijetlu povezanih sa sadržajem generiranim ili izvezenim alatima tvrtke OpenAI.
Nije namijenjen otkrivanju sadržaja generiranog drugim AI uslugama, a možda neće otkriti ni sadržaj koji je generirao OpenAI ako odgovarajući signal nedostaje, nije podržan ili je oslabljen.
Mogu li razvojni programeri provjeravati sadržaj putem API-ja?
Razvojni programeri i organizacije mogu upotrebljavati OpenAI API za provjeru kako bi u podržanom sadržaju provjerili postoje li signali tvrtke OpenAI o podrijetlu te integrirali provjeru u vlastite aplikacije ili tijekove rada. Informacije o pristupu API-ju potražite na web-mjestu openai.com/verify. Organizacije kojima su potrebna viša ograničenja upotrebe mogu zatražiti njihovo povećanje. Više informacija potražite na web-mjestu openai.com/verify.