OpenAI naudoja kilmės signalus, pvz., „SynthID“ vandens ženklus ir „Content Credentials“ (C2PA), kad padėtų žmonėms suprasti, ar turinys buvo sugeneruotas naudojant OpenAI įrankius. Kilmės signalai gali būti naudingi nustatant turinio kilmę, tačiau jie negarantuoja, kad turinys yra tikslus, neredaguotas, teisėtai priklauso jo turėtojui ar pateiktas tinkamame kontekste.
Kas yra C2PA standartas ir kokias galimybes jis suteikia?
C2PA yra atvirasis techninis standartas, leidžiantis leidėjams, įmonėms ir kitiems subjektams į medijos turinį įterpti metaduomenis, pagal kuriuos galima patikrinti jo kilmę ir susijusią informaciją. C2PA skirtas ne tik DI sugeneruotam turiniui. Tą patį standartą taip pat diegia fotoaparatų gamintojai, naujienų organizacijos ir kiti subjektai, kad patvirtintų medijos turinio šaltinį bei istoriją, kitaip tariant, jo kilmę.
C2PA metaduomenyse gali būti nurodytas failą sukūręs įrankis ar paslauga, sukūrimo laikas ir kita informacija apie jo kilmę ar istoriją.
Sužinokite daugiau apie C2PA.
Kas yra „SynthID“ ir kokias galimybes ši technologija suteikia?
„SynthID“ yra nematomo vandens ženklo technologija, įterpianti signalą tiesiai į sugeneruotą medijos turinį. Kitaip nei metaduomenys, signalas yra paties turinio dalis ir gali išlikti po tam tikro redagavimo ar transformacijų.
Greta C2PA metaduomenų „SynthID“ suteikia papildomą kilmės signalą. Pavyzdžiui, net pašalinus metaduomenis iš failo, įterptasis vandens ženklas vis dar gali rodyti, kad turinys sugeneruotas naudojant palaikomus OpenAI įrankius.
Kokių rūšių OpenAI sugeneruotame turinyje yra kilmės signalų?
Skirtingų rūšių turiniui OpenAI naudoja skirtingus kilmės signalus.
| Turinio rūšis | Kilmės signalai | Pastabos |
|---|---|---|
| Vaizdai | C2PA metaduomenys ir „SynthID“ vandens ženklai | Palaikomuose vaizduose, sugeneruotuose naudojant ChatGPT, Codex ir OpenAI API, yra abu signalai. |
| Garso įrašai | „SynthID“ vandens ženklai | Palaikomuose OpenAI sugeneruotuose garso įrašuose yra į patį įrašą įterptas negirdimas vandens ženklas. |
Aprėptis gali skirtis atsižvelgiant į produktą, modelį, eksportavimo būdą, failo tipą ir turinio sukūrimo laiką.
Kodėl skirtingų rūšių turiniui naudojami skirtingi kilmės signalai?
Skirtingi medijos formatai kilmės informaciją išsaugo skirtingais būdais.
Metaduomenyse, pvz., C2PA „Content Credentials“, gali būti išsamesnės informacijos, tačiau platformos, redagavimo įrankiai ar failų konvertavimas kartais gali juos pašalinti.
Vandens ženklai, pvz., „SynthID“, įterpiami į patį sugeneruotą medijos turinį ir gali išlikti po kai kurių transformacijų. Tačiau vandens ženklai paprastai suteikia mažiau konteksto nei metaduomenys.
Kai techniškai įmanoma, tinkamas abiejų metodų naudojimas padeda užtikrinti patikimesnius kilmės signalus.
Kaip prie naudojant OpenAI įrankius sugeneruoto vaizdo pridėti matomą vandens ženklą?
Galite paprašyti, kad modelis prie naudojant ChatGPT, Codex arba OpenAI API sugeneruotų vaizdų pridėtų matomą kilmės nuorodą. Pavyzdžiui, generuodami vaizdą galite parašyti: “Include a visible OpenAI watermark in the image.”
Matomi vandens ženklai skiriasi nuo įterptųjų kilmės signalų, pvz., C2PA metaduomenų ir „SynthID“ vandens ženklų. Jie gali padėti žiūrovams atpažinti, kad vaizdas sugeneruotas naudojant OpenAI įrankius, tačiau tai nėra tas pats, kas kompiuterio skaitomi kilmės signalai.
Kaip patikrinti, ar turinys sugeneruotas naudojant OpenAI įrankius?
Apsilankę openai.com/verify galite patikrinti, ar palaikomame vaizde arba garso faile yra kilmės signalų, susijusių su naudojant OpenAI įrankius sugeneruotu arba eksportuotu turiniu.
Įkėlus palaikomą failą, įrankis ieškos palaikomų OpenAI kilmės signalų, pvz., „SynthID“ vandens ženklo arba su OpenAI susieto patikimo C2PA manifesto.
Jei įrankis aptinka palaikomą OpenAI kilmės signalą, tai rodo, kad turinys buvo sugeneruotas arba eksportuotas naudojant OpenAI įrankius.
Ką reiškia patikros rezultatas?
Jei signalas aptinkamas, įrankis gali padėti patvirtinti, kad įkeltame turinyje yra palaikomas su OpenAI susijęs kilmės signalas.
Įrankis nepatvirtina, kad turinys yra tikslus, neredaguotas, teisėtai priklauso jo turėtojui ar pateiktas tinkamame kontekste. Jis taip pat nenustato, kas ir kodėl sukūrė turinį.
Ką reiškia, jei signalo nerasta?
Jei signalas neaptiktas, tai reiškia, kad įrankis įkeltame faile nerado OpenAI išduotų kilmės signalų.
Turinys vis tiek galėjo būti sugeneruotas arba eksportuotas naudojant OpenAI, jei:
Turinys sukurtas anksčiau, nei atsirado kilmės signalai.
Turinys gautas iš nepalaikomo produkto, modelio, eksportavimo būdo ar failo tipo.
Metaduomenys pašalinti įkeliant, atsisiunčiant, redaguojant, konvertuojant ar bendrinant turinį.
Vandens ženklą susilpnino glaudinimas, apkarpymas, triukšmas, redagavimas, formato konvertavimas ar kitos transformacijos.
Garso ištrauka per trumpa arba buvo gerokai pakeista.
Ar planuojate palaikyti tekstinę išvestį?
Laikydamiesi savo įsipareigojimų pagal Europos Komisijos DI sugeneruoto turinio skaidrumo praktikos kodeksą, siekiame kilmės signalus taikyti visų rūšių turiniui, įskaitant tekstą. Taip klientai ir kūrėjai turės aiškių būdų vykdyti savo skaidrumo įsipareigojimus, kol standartai ir įrankiai toliau tobulėja.
Ar „OpenAI Verify“ gali aptikti kitais DI įrankiais sukurtą turinį?
„OpenAI Verify“ skirta aptikti palaikomus kilmės signalus, susijusius su naudojant OpenAI įrankius sugeneruotu arba eksportuotu turiniu.
Ji nėra skirta kitų DI paslaugų sugeneruotam turiniui aptikti. Ji taip pat gali neaptikti OpenAI sugeneruoto turinio, jei atitinkamo signalo nėra, jis nepalaikomas arba yra susilpnėjęs.
Ar kūrėjai gali tikrinti turinį naudodami API?
Kūrėjai ir organizacijos gali naudoti OpenAI patikros API, kad patikrintų, ar palaikomame turinyje yra OpenAI kilmės signalų, ir integruotų patikrą į savo programas ar darbo eigą. Informacijos apie prieigą prie API rasite adresu openai.com/verify. Organizacijos, kurioms reikia didesnių naudojimo limitų, gali pateikti prašymą juos padidinti. Daugiau informacijos rasite adresu openai.com/verify.