OpenAI izmanto izcelsmes signālus, piemēram, SynthID ūdenszīmes un satura autentiskuma datus (C2PA), lai palīdzētu cilvēkiem saprast, vai saturs ir ģenerēts ar OpenAI rīkiem. Izcelsmes signāli var noderēt kā izcelsmes indikatori, taču tie negarantē, ka saturs ir precīzs, nerediģēts, likumīgi piederošs vai parādīts pareizajā kontekstā.
Kas ir C2PA standarts, un kādas iespējas tas nodrošina?
C2PA ir atvērts tehniskais standarts, kas izdevējiem, uzņēmumiem un citiem ļauj multivides saturā iegult metadatus, lai varētu pārbaudīt tā izcelsmi un saistīto informāciju. C2PA nav paredzēts tikai mākslīgā intelekta ģenerētam saturam. Šo standartu ievieš arī kameru ražotāji, ziņu organizācijas un citi, lai apliecinātu multivides satura avotu un vēsturi jeb izcelsmi.
C2PA metadatos var būt ietverta tāda informācija kā faila izveidei izmantotais rīks vai pakalpojums, izveides laiks un cita informācija par tā izcelsmi vai vēsturi.
Uzziniet vairāk par C2PA.
Kas ir SynthID, un kādas iespējas tas nodrošina?
SynthID ir neredzamu ūdenszīmju tehnoloģija, kas signālu iegulst tieši ģenerētajā multivides saturā. Atšķirībā no metadatiem šis signāls ir daļa no paša satura un var saglabāties pēc noteiktas rediģēšanas vai pārveidošanas.
SynthID līdztekus C2PA metadatiem nodrošina papildu izcelsmes signālu. Piemēram, ja no faila tiek noņemti metadati, iegultā ūdenszīme joprojām var norādīt, ka saturs ir ģenerēts ar atbalstītiem OpenAI rīkiem.
Kādu veidu OpenAI ģenerētajā saturā ir ietverti izcelsmes signāli?
Dažādiem satura veidiem OpenAI izmanto atšķirīgus izcelsmes signālus.
| Satura veids | Izcelsmes signāli | Piezīmes |
|---|---|---|
| Attēli | C2PA metadati un SynthID ūdenszīmes | Atbalstītajos attēlos, kas ģenerēti ar ChatGPT, Codex un OpenAI API, ir ietverti abi signāli. |
| Audio | SynthID ūdenszīmes | Atbalstītajā OpenAI ģenerētajā audio saturā ir iestrādāta nedzirdama ūdenszīme. |
Pieejamība var atšķirties atkarībā no produkta, modeļa, eksportēšanas veida, faila tipa un satura izveides laika.
Kāpēc dažādiem satura veidiem izmanto atšķirīgus izcelsmes signālus?
Dažādi multivides formāti izcelsmes informāciju saglabā atšķirīgos veidos.
Metadatos, piemēram, C2PA satura autentiskuma datos, var ietvert detalizētāku informāciju, taču platformas, rediģēšanas rīki vai failu konvertēšana dažkārt tos var noņemt.
Ūdenszīmes, piemēram, SynthID, tiek iegultas pašā ģenerētajā multivides saturā un var labāk saglabāties pēc noteiktiem pārveidojumiem. Tomēr ūdenszīmes parasti sniedz mazāk konteksta nekā metadati.
Ja tas ir tehniski iespējams un atbilstoši, abu pieeju izmantošana palīdz nodrošināt uzticamākus izcelsmes signālus.
Kā attēlam, kas ģenerēts ar OpenAI rīkiem, pievienot redzamu ūdenszīmi?
Varat pieprasīt, lai attēlos, kas ģenerēti ar ChatGPT, Codex un OpenAI API, būtu redzama izcelsmes norāde, modelim dodot attiecīgu uzvedni. Piemēram, ģenerējot attēlu, varat rakstīt: “Include a visible OpenAI watermark in the image.”
Redzamās ūdenszīmes atšķiras no iegultiem izcelsmes signāliem, piemēram, C2PA metadatiem un SynthID ūdenszīmēm. Tās var palīdzēt skatītājiem saprast, ka attēls ir ģenerēts ar OpenAI rīkiem, taču tās nav tas pats, kas mašīnlasāmi izcelsmes signāli.
Kā pārbaudīt, vai saturs ir ģenerēts ar OpenAI rīkiem?
Vietnē openai.com/verify varat pārbaudīt, vai atbalstītā attēlā vai audio failā ir izcelsmes signāli, kas saistīti ar OpenAI rīku ģenerētu vai eksportētu saturu.
Pēc atbalstīta faila augšupielādes rīks meklēs atbalstītos OpenAI izcelsmes signālus, piemēram, SynthID ūdenszīmi vai uzticamu ar OpenAI saistītu C2PA deklarāciju.
Ja rīks atrod atbalstītu OpenAI izcelsmes signālu, tas norāda, ka saturs ir ģenerēts ar OpenAI rīkiem vai eksportēts no tiem.
Ko nozīmē pārbaudes rezultāts?
Ja signāls ir konstatēts, rīks var palīdzēt apstiprināt, ka augšupielādētajā saturā ir atbalstīts ar OpenAI saistīts izcelsmes signāls.
Rīks neapstiprina, ka saturs ir precīzs, nerediģēts, likumīgi piederošs vai parādīts pareizajā kontekstā. Tas arī nenosaka, kas saturu ir izveidojis vai kāpēc tas ir izveidots.
Ko nozīmē tas, ka signāls nav atrasts?
Ja signāls nav konstatēts, rīks augšupielādētajā failā nav atradis OpenAI nodrošinātus izcelsmes signālus.
Saturs joprojām var būt ģenerēts vai eksportēts ar OpenAI rīkiem, ja:
saturs tika izveidots, pirms kļuva pieejami izcelsmes signāli;
saturs iegūts no neatbalstīta produkta, modeļa, eksportēšanas veida vai faila tipa;
metadati tika noņemti augšupielādes, lejupielādes, rediģēšanas, konvertēšanas vai kopīgošanas laikā;
ūdenszīmi pasliktināja saspiešana, apgriešana, troksnis, rediģēšana, formāta konvertēšana vai citi pārveidojumi;
audio fragments ir pārāk īss vai būtiski pārveidots.
Vai plānojat atbalstīt teksta izvadi?
Saskaņā ar mūsu saistībām, ko paredz Eiropas Komisijas prakses kodekss par mākslīgā intelekta ģenerēta satura pārredzamību, mūsu mērķis ir paplašināt izcelsmes signālu lietojumu, aptverot visus satura veidus, tostarp tekstu. Tādējādi klientiem un izstrādātājiem būs skaidri veidi, kā izpildīt savus pārredzamības pienākumus, turpinot pilnveidoties standartiem un rīkiem.
Vai OpenAI Verify var noteikt saturu no citiem mākslīgā intelekta rīkiem?
OpenAI Verify ir paredzēts, lai noteiktu atbalstītus izcelsmes signālus, kas saistīti ar OpenAI rīku ģenerētu vai eksportētu saturu.
Tas nav paredzēts citu mākslīgā intelekta pakalpojumu ģenerēta satura noteikšanai un var arī neatpazīt OpenAI ģenerētu saturu, ja attiecīgā signāla nav, tas netiek atbalstīts vai ir bojāts.
Vai izstrādātāji var pārbaudīt saturu, izmantojot API?
Izstrādātāji un organizācijas var izmantot OpenAI pārbaudes API, lai atbalstītā saturā meklētu OpenAI izcelsmes signālus un integrētu pārbaudi savās lietotnēs vai darbplūsmās. Informācija par piekļuvi API ir pieejama vietnē openai.com/verify. Organizācijas, kurām vajadzīgi augstāki lietojuma ierobežojumi, var pieteikties to palielināšanai. Plašāka informācija ir pieejama vietnē openai.com/verify.