OpenAI koristi signale porijekla, kao što su SynthID vodeni žigovi i Akreditivi sadržaja (C2PA), kako bi ljudima pomogao utvrditi je li sadržaj generisan OpenAI alatima. Signali porijekla mogu biti korisni pokazatelji izvora, ali ne garantuju da je sadržaj tačan, neizmijenjen, u zakonitom vlasništvu ili predstavljen u odgovarajućem kontekstu.
Šta je standard C2PA i šta omogućava?
C2PA je otvoreni tehnički standard koji izdavačima, kompanijama i drugima omogućava da u medijski sadržaj ugrade metapodatke radi provjere njegovog porijekla i povezanih informacija. C2PA nije namijenjen samo sadržaju generisanom umjetnom inteligencijom. Isti standard usvajaju i proizvođači kamera, novinske organizacije i drugi radi potvrđivanja izvora i historije, odnosno porijekla, medijskog sadržaja.
C2PA metapodaci mogu sadržavati informacije poput alata ili usluge kojom je datoteka izrađena, vremena njenog nastanka i drugih detalja o njenom porijeklu ili historiji.
Saznajte više o standardu C2PA.
Šta je SynthID i šta omogućava?
SynthID je tehnologija nevidljivih vodenih žigova koja ugrađuje signal direktno u generisani medijski sadržaj. Za razliku od metapodataka, signal je dio samog sadržaja i može opstati nakon određenih izmjena ili transformacija.
SynthID pruža dodatni signal porijekla uz C2PA metapodatke. Naprimjer, ako se metapodaci uklone iz datoteke, ugrađeni vodeni žig i dalje može pružiti signal da je sadržaj generisan podržanim OpenAI alatima.
Koje vrste sadržaja generisanog pomoću OpenAI-ja sadrže signale porijekla?
OpenAI koristi različite signale porijekla za različite vrste sadržaja.
| Vrsta sadržaja | Signali porijekla | Napomene |
|---|---|---|
| Slike | C2PA metapodaci i SynthID vodeni žigovi | Podržane slike generisane pomoću ChatGPT-a, Codexa i OpenAI API-ja sadrže oba signala. |
| Zvuk | SynthID vodeni žigovi | Podržani zvučni sadržaj koji generiše OpenAI sadrži nečujni vodeni žig ugrađen u sam zvučni zapis. |
Pokrivenost može zavisiti od proizvoda, modela, načina izvoza, vrste datoteke i vremena nastanka sadržaja.
Zašto neke vrste sadržaja koriste različite signale porijekla?
Različiti medijski formati čuvaju informacije o porijeklu na različite načine.
Metapodaci, kao što su C2PA Akreditivi sadržaja, mogu sadržavati detaljnije informacije, ali ih platforme, alati za uređivanje ili konverzije datoteka ponekad mogu ukloniti.
Vodeni žigovi, kao što je SynthID, ugrađeni su u sam generisani medijski sadržaj i mogu bolje opstati nakon određenih transformacija. Međutim, vodeni žigovi uglavnom pružaju manje konteksta od metapodataka.
Kada je to tehnički izvedivo, odgovarajuća primjena oba pristupa pomaže osigurati pouzdanije signale porijekla.
Kako mogu dodati vidljivi vodeni žig slici generisanoj OpenAI alatima?
Možete zatražiti vidljivu oznaku na slikama generisanim pomoću ChatGPT-a, Codexa i OpenAI API-ja tako što ćete modelu dati uputu da je uključi. Naprimjer, pri generisanju slike možete reći: „Include a visible OpenAI watermark in the image.“
Vidljivi vodeni žigovi odvojeni su od ugrađenih signala porijekla, kao što su C2PA metapodaci i SynthID vodeni žigovi. Mogu pomoći gledaocima da prepoznaju da je slika generisana OpenAI alatima, ali nisu isto što i mašinski čitljivi signali porijekla.
Kako mogu provjeriti je li sadržaj generisan OpenAI alatima?
Posjetite openai.com/verify kako biste provjerili sadrži li podržana slika ili zvučna datoteka signale porijekla povezane sa sadržajem koji je generisan ili izvezen pomoću OpenAI alata.
Nakon što prenesete podržanu datoteku, alat će potražiti podržane OpenAI signale porijekla, kao što su SynthID vodeni žig ili pouzdani C2PA manifest povezan s OpenAI-jem.
Ako alat pronađe podržani OpenAI signal porijekla, to znači da je sadržaj generisan ili izvezen pomoću OpenAI alata.
Šta znači rezultat provjere?
Ako je signal otkriven, alat može pomoći potvrditi da preneseni sadržaj sadrži podržani signal porijekla povezan s OpenAI-jem.
Alat ne potvrđuje da je sadržaj tačan, neizmijenjen, u zakonitom vlasništvu ili predstavljen u odgovarajućem kontekstu. Također ne utvrđuje ko je izradio sadržaj niti zašto je izrađen.
Šta ako signal nije pronađen?
Ako signal nije otkriven, to znači da alat u prenesenoj datoteci nije pronašao signale porijekla koje je izdao OpenAI.
Sadržaj je ipak mogao biti generisan ili izvezen pomoću OpenAI-ja ako:
Sadržaj je izrađen prije nego što su signali porijekla postali dostupni.
Sadržaj potiče iz nepodržanog proizvoda, modela, načina izvoza ili vrste datoteke.
Metapodaci su uklonjeni tokom prijenosa, preuzimanja, uređivanja, konverzije ili dijeljenja.
Vodeni žig je oslabljen kompresijom, izrezivanjem, šumom, izmjenama, konverzijom formata ili drugim transformacijama.
Zvučni isječak je prekratak ili je znatno izmijenjen.
Planirate li podržati tekstualne izlaze?
U skladu s našim obavezama prema Kodeksu prakse Evropske komisije o transparentnosti sadržaja generisanog umjetnom inteligencijom, cilj nam je proširiti signale porijekla na sve modalitete, uključujući tekst, kako bi korisnici i programeri imali jasne načine za ispunjavanje vlastitih obaveza transparentnosti dok se standardi i alati nastavljaju razvijati.
Može li OpenAI Verify otkriti sadržaj iz drugih AI alata?
OpenAI Verify je osmišljen za otkrivanje podržanih signala porijekla povezanih sa sadržajem koji je generisan ili izvezen pomoću OpenAI alata.
Nije osmišljen za otkrivanje sadržaja generisanog drugim AI uslugama, a možda neće otkriti ni sadržaj koji je generisao OpenAI ako odgovarajući signal nedostaje, nije podržan ili je oslabljen.
Mogu li programeri provjeravati sadržaj pomoću API-ja?
Programeri i organizacije mogu koristiti OpenAI API za provjeru kako bi u podržanom sadržaju provjerili postoje li OpenAI signali porijekla i integrisali provjeru u vlastite aplikacije ili tokove rada. Posjetite openai.com/verify za informacije o pristupu API-ju. Organizacije kojima su potrebna veća ograničenja korištenja mogu zatražiti njihovo povećanje. Za više informacija posjetite openai.com/verify.