OpenAI kasutab päritolusignaale, nagu SynthID vesimärgid ja Content Credentials (C2PA), et aidata inimestel mõista, kas sisu loodi OpenAI tööriistadega. Päritolusignaalid võivad anda kasulikku teavet sisu päritolu kohta, kuid need ei taga, et sisu on täpne, muutmata, seaduslikult omandatud või õiges kontekstis esitatud.
Mis on C2PA standard ja mida see võimaldab?
C2PA on avatud tehniline standard, mis võimaldab väljaandjatel, ettevõtetel ja teistel lisada meediasisule metaandmeid selle päritolu ja seotud teabe kontrollimiseks. C2PA ei ole mõeldud ainult tehisintellektiga loodud sisu jaoks. Sama standardit võtavad kasutusele ka kaameratootjad, uudisteorganisatsioonid ja teised, et tõendada meediasisu allikat ja ajalugu ehk päritolu.
C2PA metaandmed võivad sisaldada näiteks teavet faili loonud tööriista või teenuse, loomisaja ning muude päritolu või ajalooga seotud üksikasjade kohta.
Lisateavet leiate C2PA veebisaidilt.
Mis on SynthID ja mida see võimaldab?
SynthID on nähtamatu vesimärgitehnoloogia, mis lisab signaali otse loodud meediasisusse. Erinevalt metaandmetest on signaal sisu enda osa ning võib säilida ka pärast mõningaid muudatusi või teisendusi.
SynthID annab lisaks C2PA metaandmetele täiendava päritolusignaali. Näiteks kui failist eemaldatakse metaandmed, võib sellesse lisatud vesimärk siiski anda märku, et sisu loodi toetatud OpenAI tööriistadega.
Millist tüüpi OpenAI loodud sisu sisaldab päritolusignaale?
OpenAI kasutab eri sisutüüpide jaoks erinevaid päritolusignaale.
| Sisutüüp | Päritolusignaalid | Märkused |
|---|---|---|
| Pildid | C2PA metaandmed ja SynthID vesimärgid | ChatGPT, Codexi ja OpenAI API-ga loodud toetatud pildid sisaldavad mõlemat signaali. |
| Heli | SynthID vesimärgid | Toetatud OpenAI loodud heli sisaldab kuuldamatut vesimärki, mis on manustatud helisse endasse. |
Katvus võib olenevalt tootest, mudelist, ekspordiviisist, failitüübist ja sisu loomise ajast erineda.
Miks kasutatakse mõne sisutüübi puhul erinevaid päritolusignaale?
Eri meediavormingud säilitavad päritoluteavet erineval viisil.
Metaandmed, nagu C2PA Content Credentials, võivad sisaldada üksikasjalikumat teavet, kuid platvormid, redigeerimistööriistad või failide teisendamine võivad need mõnikord eemaldada.
Vesimärgid, nagu SynthID, manustatakse loodud meediasisusse ning võivad mõne teisenduse käigus paremini säilida. Üldjuhul annavad vesimärgid siiski vähem konteksti kui metaandmed.
Kui see on tehniliselt võimalik ja asjakohane, aitab mõlema meetodi kasutamine anda tugevamaid päritolusignaale.
Kuidas lisada OpenAI tööriistadega loodud pildile nähtav vesimärk?
Saate paluda mudelil lisada ChatGPT, Codexi või OpenAI API-ga loodud pildile nähtava päritolumärke. Näiteks võite pildi loomisel öelda: „Include a visible OpenAI watermark in the image.”
Nähtavad vesimärgid erinevad manustatud päritolusignaalidest, nagu C2PA metaandmed ja SynthID vesimärgid. Need võivad aidata vaatajatel ära tunda, et pilt loodi OpenAI tööriistadega, kuid need ei ole sama mis masinloetavad päritolusignaalid.
Kuidas kontrollida, kas sisu loodi OpenAI tööriistadega?
Veebisaidil openai.com/verify saate kontrollida, kas toetatud pilt või helifail sisaldab OpenAI tööriistadega loodud või neist eksporditud sisuga seotud päritolusignaale.
Pärast toetatud faili üleslaadimist otsib tööriist toetatud OpenAI päritolusignaale, näiteks SynthID vesimärki või OpenAI-ga seotud usaldusväärset C2PA avaldust.
Kui tööriist leiab toetatud OpenAI päritolusignaali, näitab see, et sisu loodi OpenAI tööriistaga või eksporditi sellest.
Mida kontrollitulemus tähendab?
Signaali tuvastamisel aitab tööriist kinnitada, et üleslaaditud sisu sisaldab OpenAI-ga seotud toetatud päritolusignaali.
Tööriist ei kinnita, et sisu on täpne, muutmata, seaduslikult omandatud või õiges kontekstis esitatud. Samuti ei tuvasta see, kes sisu lõi või miks see loodi.
Mida tähendab see, kui signaali ei leita?
Kui signaali ei tuvastata, ei leidnud tööriist üleslaaditud failist OpenAI väljastatud päritolusignaale.
Sisu võis siiski olla OpenAI loodud või OpenAI tööriistast eksporditud, kui:
sisu loodi enne päritolusignaalide kasutuselevõttu;
sisu pärines toetamata tootest, mudelist, ekspordiviisist või failitüübist;
metaandmed eemaldati üles- või allalaadimise, redigeerimise, teisendamise või jagamise käigus;
vesimärki kahjustas tihendamine, kärpimine, müra, redigeerimine, vormingu teisendamine või muu töötlus;
heliklipp on liiga lühike või seda on märkimisväärselt muudetud.
Kas kavatsete hakata toetama tekstiväljundeid?
Kooskõlas meie kohustustega, mis tulenevad Euroopa Komisjoni tehisintellektiga loodud sisu läbipaistvuse tegevusjuhendist, soovime laiendada päritolusignaale kõigile modaalsustele, sealhulgas tekstile. Nii on klientidel ja arendajatel standardite ning tööriistade arenedes selged võimalused oma läbipaistvuskohustuste täitmiseks.
Kas OpenAI Verify suudab tuvastada teiste tehisintellektitööriistadega loodud sisu?
OpenAI Verify on mõeldud OpenAI tööriistadega loodud või neist eksporditud sisuga seotud toetatud päritolusignaalide tuvastamiseks.
See ei ole mõeldud teiste tehisintellektiteenustega loodud sisu tuvastamiseks. Samuti ei pruugi see tuvastada OpenAI loodud sisu, kui asjaomane signaal puudub, pole toetatud või on kahjustunud.
Kas arendajad saavad sisu API abil kontrollida?
Arendajad ja organisatsioonid saavad OpenAI kontroll-API abil otsida toetatud sisust OpenAI päritolusignaale ning lisada kontrollimise oma rakendustesse või töövoogudesse. Teavet API-le juurdepääsu kohta leiate aadressilt openai.com/verify. Suuremaid kasutuslimiite vajavad organisatsioonid saavad taotleda limiitide suurendamist. Lisateavet leiate aadressilt openai.com/verify.