OpenAI koristi signale o porijeklu, kao što su SynthID vodeni žigovi i akreditivi sadržaja (C2PA), kako bi ljudima pomogao da utvrde je li sadržaj generiran pomoću OpenAI alata. Signali o porijeklu mogu biti korisni pokazatelji izvora, ali ne garantuju da je sadržaj tačan, neizmijenjen, u zakonitom vlasništvu ili predstavljen u odgovarajućem kontekstu.
Šta je standard C2PA i šta omogućava?
C2PA je otvoreni tehnički standard koji izdavačima, kompanijama i drugima omogućava da u medijski sadržaj ugrade metapodatke radi provjere njegovog porijekla i povezanih informacija. C2PA nije namijenjen samo sadržaju koji generira umjetna inteligencija. Isti standard usvajaju i proizvođači kamera, novinske organizacije i drugi kako bi potvrdili izvor i historiju, odnosno porijeklo, medijskog sadržaja.
C2PA metapodaci mogu sadržavati informacije kao što su alat ili usluga kojima je datoteka izrađena, vrijeme njenog nastanka i drugi podaci o njenom porijeklu ili historiji.
Saznajte više o C2PA-u.
Šta je SynthID i šta omogućava?
SynthID je tehnologija nevidljivog vodenog žiga koja ugrađuje signal direktno u generirani medijski sadržaj. Za razliku od metapodataka, signal je dio samog sadržaja i može ostati prisutan nakon određenih izmjena ili transformacija.
SynthID pruža dodatni signal o porijeklu uz C2PA metapodatke. Naprimjer, ako se metapodaci uklone iz datoteke, ugrađeni vodeni žig i dalje može pružiti signal da je sadržaj generiran pomoću podržanih OpenAI alata.
Koje vrste sadržaja koji generira OpenAI sadrže signale o porijeklu?
OpenAI koristi različite signale o porijeklu za različite vrste sadržaja.
| Vrsta sadržaja | Signali o porijeklu | Napomene |
|---|---|---|
| Slike | C2PA metapodaci i SynthID vodeni žigovi | Podržane slike generirane pomoću usluga ChatGPT, Codex i OpenAI API sadrže oba signala. |
| Zvuk | SynthID vodeni žigovi | Podržani zvučni sadržaji koje generira OpenAI sadrže nečujni vodeni žig ugrađen u sam zvučni zapis. |
Pokrivenost se može razlikovati zavisno od proizvoda, modela, načina izvoza, vrste datoteke i vremena nastanka sadržaja.
Zašto neke vrste sadržaja koriste različite signale o porijeklu?
Različiti medijski formati čuvaju informacije o porijeklu na različite načine.
Metapodaci, kao što su C2PA akreditivi sadržaja, mogu sadržavati detaljnije informacije, ali ih platforme, alati za uređivanje ili pretvaranje datoteka ponekad mogu ukloniti.
Vodeni žigovi, kao što je SynthID, ugrađeni su u sam generirani medijski sadržaj i mogu biti otporniji na određene transformacije. Međutim, vodeni žigovi uglavnom pružaju manje konteksta od metapodataka.
Kada je to tehnički izvodljivo, odgovarajuća primjena oba pristupa doprinosi pouzdanijim signalima o porijeklu.
Kako mogu dodati vidljivi vodeni žig na sliku generiranu pomoću OpenAI alata?
Možete zatražiti da slike generirane pomoću usluga ChatGPT, Codex i OpenAI API sadrže vidljivu oznaku tako što ćete modelu dati odgovarajuću uputu. Naprimjer, prilikom generiranja slike možete reći: „Include a visible OpenAI watermark in the image.“
Vidljivi vodeni žigovi odvojeni su od ugrađenih signala o porijeklu, kao što su C2PA metapodaci i SynthID vodeni žigovi. Oni gledaocima mogu pomoći da prepoznaju da je slika generirana pomoću OpenAI alata, ali nisu isto što i mašinski čitljivi signali o porijeklu.
Kako mogu provjeriti je li sadržaj generiran pomoću OpenAI alata?
Posjetite openai.com/verify da biste provjerili sadrži li podržana slika ili zvučna datoteka signale o porijeklu povezane sa sadržajem koji je generiran ili izvezen pomoću OpenAI alata.
Nakon što prenesete podržanu datoteku, alat će tražiti podržane OpenAI signale o porijeklu, kao što su SynthID vodeni žig ili pouzdani C2PA manifest povezan s kompanijom OpenAI.
Ako alat pronađe podržani OpenAI signal o porijeklu, to ukazuje na to da je sadržaj generiran ili izvezen pomoću OpenAI alata.
Šta znači rezultat provjere?
Ako se otkrije signal, alat može pomoći potvrditi da preneseni sadržaj sadrži podržani signal o porijeklu povezan s kompanijom OpenAI.
Alat ne potvrđuje da je sadržaj tačan, neizmijenjen, u zakonitom vlasništvu ili predstavljen u odgovarajućem kontekstu. Također ne utvrđuje ko je izradio sadržaj ni zašto je izrađen.
Šta ako signal nije pronađen?
Ako signal nije otkriven, to znači da alat u prenesenoj datoteci nije pronašao signale o porijeklu koje je izdao OpenAI.
OpenAI je ipak mogao generirati ili izvesti sadržaj u sljedećim slučajevima:
Sadržaj je izrađen prije nego što su signali o porijeklu postali dostupni.
Sadržaj potječe iz nepodržanog proizvoda, modela, načina izvoza ili vrste datoteke.
Metapodaci su uklonjeni tokom prijenosa, preuzimanja, uređivanja, pretvaranja ili dijeljenja.
Vodeni žig je narušen kompresijom, izrezivanjem, šumom, izmjenama, pretvaranjem formata ili drugim transformacijama.
Zvučni isječak je prekratak ili je znatno izmijenjen.
Planirate li podržati tekstualne rezultate?
U skladu s našim obavezama prema Kodeksu prakse Evropske komisije o transparentnosti sadržaja generiranog umjetnom inteligencijom, cilj nam je proširiti signale o porijeklu na sve modalitete, uključujući tekst, kako bi korisnici i programeri imali jasne načine da ispune vlastite obaveze u pogledu transparentnosti dok se standardi i alati nastavljaju razvijati.
Može li OpenAI Verify otkriti sadržaj iz drugih AI alata?
OpenAI Verify namijenjen je otkrivanju podržanih signala o porijeklu povezanih sa sadržajem koji je generiran ili izvezen pomoću OpenAI alata.
Nije namijenjen otkrivanju sadržaja koji su generirale druge AI usluge, a možda neće otkriti ni sadržaj koji je generirao OpenAI ako odgovarajući signal nedostaje, nije podržan ili je narušen.
Mogu li programeri provjeravati sadržaj pomoću API-ja?
Programeri i organizacije mogu koristiti OpenAI API za provjeru kako bi u podržanom sadržaju provjerili OpenAI signale o porijeklu i integrirali provjeru u vlastite aplikacije ili tokove rada. Informacije o pristupu API-ju potražite na openai.com/verify. Organizacije kojima su potrebna viša ograničenja upotrebe mogu podnijeti zahtjev za njihovo povećanje. Za više informacija posjetite openai.com/verify.