OpenAI uporablja signale o izvoru, kot so vodni žigi SynthID in poverilnice za vsebino (C2PA), da bi ljudje lažje ugotovili, ali je bila vsebina ustvarjena z orodji OpenAI. Signali o izvoru so lahko koristni pokazatelji izvora, vendar ne zagotavljajo, da je vsebina točna, neurejena, v zakoniti lasti ali predstavljena v pravilnem kontekstu.
Kaj je standard C2PA in kaj omogoča?
C2PA je odprt tehnični standard, ki založnikom, podjetjem in drugim omogoča, da v predstavnostne vsebine vgradijo metapodatke za preverjanje njihovega izvora in povezanih informacij. C2PA ni namenjen le vsebini, ustvarjeni z umetno inteligenco. Isti standard uvajajo tudi proizvajalci fotoaparatov, novinarske organizacije in drugi, da bi potrdili vir in zgodovino oziroma izvor predstavnostnih vsebin.
Metapodatki C2PA lahko vključujejo informacije, kot so orodje ali storitev, s katero je bila datoteka ustvarjena, čas njenega nastanka in druge podrobnosti o njenem izvoru ali zgodovini.
Preberite več o C2PA.
Kaj je SynthID in kaj omogoča?
SynthID je tehnologija nevidnega vodnega žiga, ki signal vgradi neposredno v ustvarjeno predstavnostno vsebino. Za razliko od metapodatkov je signal del same vsebine in se lahko ohrani tudi po nekaterih urejanjih ali pretvorbah.
SynthID poleg metapodatkov C2PA zagotavlja dodaten signal o izvoru. Če so na primer metapodatki odstranjeni iz datoteke, lahko vgrajeni vodni žig še vedno nakazuje, da je bila vsebina ustvarjena s podprtimi orodji OpenAI.
Katere vrste vsebine, ustvarjene z OpenAI, vključujejo signale o izvoru?
OpenAI za različne vrste vsebine uporablja različne signale o izvoru.
| Vrsta vsebine | Signali o izvoru | Opombe |
|---|---|---|
| Slike | Metapodatki C2PA in vodni žigi SynthID | Podprte slike, ustvarjene s ChatGPT, Codex in API-jem OpenAI, vključujejo oba signala. |
| Zvok | Vodni žigi SynthID | Podprti zvok, ustvarjen z OpenAI, vsebuje neslišen vodni žig, vgrajen neposredno v zvočni posnetek. |
Pokritost se lahko razlikuje glede na izdelek, model, način izvoza, vrsto datoteke in čas nastanka vsebine.
Zakaj se za nekatere vrste vsebine uporabljajo različni signali o izvoru?
Različne oblike predstavnostnih vsebin podatke o izvoru ohranjajo na različne načine.
Metapodatki, kot so poverilnice za vsebino C2PA, lahko vsebujejo podrobnejše informacije, vendar jih lahko platforme, orodja za urejanje ali pretvorbe datotek včasih odstranijo.
Vodni žigi, kot je SynthID, so vgrajeni neposredno v ustvarjeno predstavnostno vsebino in se lahko bolje ohranijo pri nekaterih pretvorbah. Vendar vodni žigi praviloma zagotavljajo manj konteksta kot metapodatki.
Kjer je to tehnično izvedljivo in ustrezno, uporaba obeh pristopov zagotavlja zanesljivejše signale o izvoru.
Kako lahko sliki, ustvarjeni z orodji OpenAI, dodam viden vodni žig?
Pri slikah, ustvarjenih s ChatGPT, Codex in API-jem OpenAI, lahko z navodilom modelu zahtevate vidno oznako. Pri ustvarjanju slike lahko na primer rečete: »Include a visible OpenAI watermark in the image.«
Vidni vodni žigi so ločeni od vgrajenih signalov o izvoru, kot so metapodatki C2PA in vodni žigi SynthID. Gledalcem lahko pomagajo prepoznati, da je bila slika ustvarjena z orodji OpenAI, vendar niso enaki strojno berljivim signalom o izvoru.
Kako lahko preverim, ali je bila vsebina ustvarjena z orodji OpenAI?
Obiščite openai.com/verify in preverite, ali podprta slika ali zvočna datoteka vsebuje signale o izvoru, povezane z vsebino, ustvarjeno ali izvoženo z orodji OpenAI.
Ko naložite podprto datoteko, bo orodje poiskalo podprte signale OpenAI o izvoru, kot sta vodni žig SynthID ali zaupanja vreden manifest C2PA, povezan z OpenAI.
Če orodje najde podprt signal OpenAI o izvoru, to pomeni, da je bila vsebina ustvarjena z orodji OpenAI ali izvožena iz njih.
Kaj pomeni rezultat preverjanja?
Če je signal zaznan, lahko orodje pomaga potrditi, da naložena vsebina vsebuje podprt signal o izvoru, povezan z OpenAI.
Orodje ne potrjuje, da je vsebina točna, neurejena, v zakoniti lasti ali predstavljena v pravilnem kontekstu. Prav tako ne ugotavlja, kdo je vsebino ustvaril ali zakaj.
Kaj pomeni, če signal ni najden?
Če signal ni zaznan, orodje v naloženi datoteki ni našlo signalov o izvoru, ki jih je izdal OpenAI.
Vsebina je bila morda kljub temu ustvarjena ali izvožena z OpenAI, če:
je bila ustvarjena, preden so bili signali o izvoru na voljo;
izvira iz nepodprtega izdelka, modela, načina izvoza ali vrste datoteke;
so bili metapodatki odstranjeni med nalaganjem, prenašanjem, urejanjem, pretvorbo ali deljenjem;
je bil vodni žig oslabljen zaradi stiskanja, obrezovanja, šuma, urejanja, pretvorbe oblike zapisa ali drugih sprememb;
je zvočni posnetek prekratek ali bistveno spremenjen.
Ali nameravate podpreti besedilne rezultate?
V skladu z našimi zavezami na podlagi Kodeksa ravnanja Evropske komisije o preglednosti vsebin, ustvarjenih z umetno inteligenco, želimo signale o izvoru razširiti na vse načine, vključno z besedilom. Tako bodo lahko stranke in razvijalci ob nadaljnjem razvoju standardov in orodij jasno izpolnjevali svoje obveznosti glede preglednosti.
Ali lahko OpenAI Verify zazna vsebino iz drugih orodij umetne inteligence?
OpenAI Verify je zasnovan za zaznavanje podprtih signalov o izvoru, povezanih z vsebino, ustvarjeno ali izvoženo z orodji OpenAI.
Ni zasnovan za zaznavanje vsebine, ustvarjene z drugimi storitvami umetne inteligence. Prav tako morda ne bo zaznal vsebine, ustvarjene z OpenAI, če ustrezni signal manjka, ni podprt ali je oslabljen.
Ali lahko razvijalci preverjajo vsebino prek API-ja?
Razvijalci in organizacije lahko z API-jem OpenAI za preverjanje preverijo, ali podprta vsebina vsebuje signale OpenAI o izvoru, ter preverjanje vključijo v svoje aplikacije ali delovne postopke. Informacije o dostopu do API-ja so na voljo na openai.com/verify. Organizacije, ki potrebujejo višje omejitve uporabe, lahko zaprosijo za njihovo zvišanje. Za več informacij obiščite openai.com/verify.