U okviru posvećenosti sigurnijem i transparentnijem ekosistemu umjetne inteligencije, OpenAI koristi signale porijekla kako bi pomogao ljudima da razumiju je li sadržaj generiran modelom kompanije OpenAI.

Signali porijekla mogu pružiti korisne informacije o porijeklu, ali ne garantiraju da je sadržaj tačan, neizmijenjen, u zakonitom vlasništvu ili predstavljen u ispravnom kontekstu.

Signali porijekla kompanije OpenAI

Koje signale porijekla koristi OpenAI?

OpenAI koristi različite signale porijekla za različite vrste sadržaja.

Podrška može zavisiti od proizvoda, modela, načina izvoza, vrste datoteke i vremena kada je sadržaj kreiran. Izlazni sadržaji API-ja su obuhvaćeni, osim za modele čije se povlačenje uskoro planira, uključujući gpt-image-1, gpt-image-1.5 i sora-2. 

Zašto se za neke vrste sadržaja koristi više signala?

Kada je to tehnički izvodljivo, OpenAI kombinira metapodatke i vodene žigove kako bi međusobno nadoknadili svoja ograničenja. Metapodaci mogu sadržavati detaljne informacije, ali ih platforme, alati za uređivanje i konverzije datoteka mogu ukloniti. Vodeni žigovi pružaju manje konteksta, ali, budući da su ugrađeni u sam generirani sadržaj, mogu ostati sačuvani nakon nekih transformacija koje uklanjaju metapodatke. 

Koliko su signali porijekla otporni na izmjene sadržaja?

Vodeni žigovi SynthID za slike i audiozapise te vodeni žigovi textGrain za tekst osmišljeni su tako da izdrže uobičajene izmjene. Zavisno od vrste sadržaja, to može uključivati manje izmjene, kopiranje i lijepljenje, izrezivanje ili pravljenje snimaka ekrana. Opsežnije izmjene — poput značajnog izrezivanja slike, kompresije datoteke, opsežnog parafraziranja ili prevođenja — mogu onemogućiti otkrivanje vodenog žiga. Nakon opsežnih izmjena može biti i manje smisleno opisivati rezultat kao „sadržaj generiran alatima kompanije OpenAI“.

Vjerodajnice sadržaja, koje je razvila Koalicija za porijeklo i autentičnost sadržaja, mogu se izgubiti pri svakodnevnim radnjama, poput pravljenja snimka ekrana ili konverzije datoteke. Kada ostanu dostupne, mogu pružiti više detalja o porijeklu i historiji datoteke nego sam vodeni žig.

Gdje je to tehnički moguće, koristimo obje metode kako bismo povećali vjerovatnoću da informacije o porijeklu ostanu sačuvane nakon izmjena sadržaja.

Šta su vjerodajnice sadržaja i šta omogućavaju?

Vjerodajnice sadržaja datoteci pridružuju informacije o njenom porijeklu i historiji, poput toga kojim je alatom kreirana i kada. Koriste otvoreni standard koji je razvila Koalicija za porijeklo i autentičnost sadržaja (C2PA), zbog čega se ponekad nazivaju „metapodaci C2PA“.

Vjerodajnice sadržaja pomažu ljudima da provjere odakle sadržaj potiče. Ne koriste se samo za sadržaj generiran umjetnom inteligencijom: proizvođači kamera, novinske organizacije i drugi također koriste ovaj standard za potvrđivanje izvora i historije svojih medijskih sadržaja. Saznajte više o C2PA.

Šta je SynthID i šta omogućava?

SynthID je tehnologija označavanja nevidljivim vodenim žigom koju je razvio Google DeepMind, a koja ugrađuje signal direktno u generirane medijske sadržaje. Za razliku od metapodataka, signal je dio samog sadržaja i može ostati sačuvan nakon nekih izmjena ili transformacija. SynthID pruža dodatni signal porijekla uz metapodatke C2PA. Naprimjer, ako se metapodaci uklone iz datoteke, ugrađeni vodeni žig i dalje može ukazivati na to da je sadržaj generiran podržanim alatima kompanije OpenAI. Saznajte više o tehnologiji SynthID.

Zašto označavate izlazni tekst vodenim žigom?

Uvodimo označavanje teksta vodenim žigom za korisnike usluge ChatGPT u EU-u radi usklađivanja s Aktom EU-a o umjetnoj inteligenciji i u skladu s našim obavezama prema Kodeksu prakse EU-a o transparentnosti sadržaja generiranog umjetnom inteligencijom, koji je OpenAI potpisao zajedno s nekoliko drugih velikih pružalaca usluga umjetne inteligencije. 

Šta je textGrain i šta omogućava?

textGrain je tehnologija kompanije OpenAI za označavanje teksta vodenim žigom. Ona suptilno prilagođava način na koji model tokom pisanja nasumično bira između mogućih riječi ili dijelova riječi. Ti izbori kroz odlomak stvaraju obrazac koji detektor može tražiti čak i nakon određenih izmjena.

Vodeni žig je dio same formulacije teksta i nije vidljiv čitaocima. Ne dodaje skrivene znakove, nevidljive razmake niti neuobičajenu interpunkciju. Označavanje teksta vodenim žigom pomaže u ispunjavanju zahtjeva Akta EU-a o umjetnoj inteligenciji da se generirani tekst označi.

Alati kompanije OpenAI za provjeru

Kako mogu provjeriti je li sadržaj generiran alatima kompanije OpenAI?

Možete posjetiti openai.com/verify i provjeriti sadrži li podržana slika ili audiodatoteka signale porijekla povezane sa sadržajem generiranim ili izvezenim alatima kompanije OpenAI. Nakon što otpremite podržanu datoteku, alat će potražiti podržane signale porijekla kompanije OpenAI, poput vodenog žiga SynthID ili pouzdanog manifesta C2PA povezanog s kompanijom OpenAI. Ako alat pronađe podržani signal porijekla kompanije OpenAI, to ukazuje da je sadržaj vjerovatno generirao model kompanije OpenAI.

Programeri i organizacije mogu koristiti i API kompanije OpenAI za porijeklo sadržaja kako bi provjerili sadrže li slike i audiozapisi signale porijekla kompanije OpenAI te integrirali provjeru u vlastite aplikacije ili radne procese. Organizacije čija namjena korištenja ispunjava uslove mogu podnijeti zahtjev za povećanje ograničenja. 

Kada je riječ o tekstu, u skladu s našim obavezama prema Aktu EU-a o umjetnoj inteligenciji, organizacije čija namjena korištenja ispunjava uslove, poput akademskih i istraživačkih organizacija koje proučavaju porijeklo teksta, pouzdanost otkrivanja ili način na koji ljudi razumiju rezultate provjere porijekla, mogu podnijeti zahtjev za pristup detektoru teksta. Zahtjeve organizacija koje ispunjavaju uslove razmatrat ćemo pojedinačno i po potrebi im se javiti s novostima ili zahtjevima za dodatne informacije. Naš pristup odobravanju pristupa može se mijenjati kako budemo sticali nova saznanja i unapređivali tehnologiju.

Trenutno sarađujemo s manjom grupom istraživača, među kojima su John Thickstun, docent računarstva na Univerzitetu Cornell, Martin Vechev, profesor računarstva na ETH Zurich i naučni direktor instituta INSAIT, te istraživači Instituta za inteligentne tehnologije Kempelen (KInIT), kako bismo bolje razumjeli mogućnosti i ograničenja ove tehnologije i na osnovu tih saznanja unaprijedili označavanje teksta vodenim žigom.

Ko ispunjava uslove za veća ograničenja broja provjera i naplaćuju li se provjere?

Provjere putem API-ja za porijeklo sadržaja trenutno su besplatne i podliježu ograničenjima korištenja. Program s većim ograničenjima namijenjen je projektima provjere porijekla od javnog interesa i radnim procesima za očuvanje integriteta informacija koji ispunjavaju uslove, poput provjere u redakcijama, provjere činjenica, istraživanja porijekla sadržaja i regulatornog nadzora.

Opće poslovne primjene trenutno nisu obuhvaćene programom, poput komercijalnog sprečavanja prevara, autentifikacije i provjere ili preprodaje u sklopu paketa usluga za porijeklo sadržaja i analizu podataka.

Organizacije čija namjena korištenja ispunjava uslove mogu podnijeti zahtjev za povećanje ograničenja, ali podnošenje zahtjeva ne garantira odobrenje. Javni API ostaje dostupan uz zadana ograničenja, uključujući i evaluacije manjeg obima. Aktuelna ograničenja korištenja potražite u dokumentaciji API-ja za porijeklo sadržaja.

Ko ispunjava uslove za pristup detektoru teksta i naplaćuju li se provjere?

Provjere detektorom teksta trenutno su besplatne. Uslove ispunjavaju, između ostalog, akademske i istraživačke organizacije koje proučavaju porijeklo teksta, pouzdanost otkrivanja ili način na koji ljudi razumiju rezultate provjere porijekla.

Opće poslovne primjene trenutno nisu obuhvaćene programom, poput komercijalnog sprečavanja prevara, autentifikacije i provjere ili preprodaje u sklopu paketa usluga za porijeklo sadržaja i analizu podataka.

Primjene za očuvanje akademskog integriteta, poput provjere korištenja umjetne inteligencije u studentskim radovima (npr. pri pisanju eseja ili završnih radova), također trenutno nisu obuhvaćene programom.

Šta znače rezultati provjere?

Ako se signal otkrije putem stranice openai.com/verify ili API-ja kompanije OpenAI za porijeklo sadržaja, to znači da otpremljeni sadržaj sadrži podržani signal porijekla povezan s kompanijom OpenAI. Alat ne potvrđuje da je sadržaj tačan, neizmijenjen, u zakonitom vlasništvu ili predstavljen u ispravnom kontekstu. Također ne utvrđuje ko je kreirao sadržaj niti zašto je kreiran.

Ako signal nije otkriven, to znači da alat u otpremljenoj datoteci nije pronašao signale porijekla koje je izdao OpenAI. Sadržaj je ipak mogao biti generiran ili izvezen alatima kompanije OpenAI ako:

• Sadržaj je kreiran prije nego što su signali porijekla postali dostupni.

• Sadržaj potiče iz nepodržanog proizvoda, modela, načina izvoza ili vrste datoteke.

• Metapodaci su uklonjeni tokom otpremanja, preuzimanja, uređivanja, konverzije ili dijeljenja.

• Vodeni žig je oslabljen kompresijom, izrezivanjem, šumom, izmjenama, konverzijom formata ili drugim transformacijama.

• Audioisječak je prekratak ili je značajno izmijenjen.

Kako mogu dobiti najpouzdaniji rezultat provjere?

Otpremite jednu po jednu podržanu datoteku i, kada je moguće, koristite originalnu izvezenu datoteku. Kod slika izbjegavajte izrezivanje ili konverziju datoteke prije provjere. Kod audiozapisa, isječci u trajanju od 10 do 60 sekundi uglavnom daju najbolje rezultate. Čak i kada se signal ne otkrije, razmotrite izvor i kontekst datoteke prije nego što donesete zaključak.

Prikazuju li rezultati moj upit ili lične podatke?

Signali porijekla ne sadrže detalje o korisniku, organizaciji ili upitu. 

Šta se dešava sa sadržajem koji provjeravam putem stranice openai.com/verify ili API-ja za porijeklo sadržaja?

Sadržaj otpremljen na openai.com/verify ili poslan našem API-ju za porijeklo sadržaja na provjeru obrađuje se isključivo radi provjere podržanih signala porijekla. Sadržaj se ne pohranjuje osim ako je to zakonski obavezno i ne koristi se za obuku modela kompanije OpenAI. 

Može li OpenAI prepoznati sadržaj generiran drugim alatima umjetne inteligencije?

Naši alati za porijeklo sadržaja namijenjeni su otkrivanju podržanih signala porijekla povezanih sa sadržajem koji su generirali modeli kompanije OpenAI ili izvezli alati kompanije OpenAI. Nisu namijenjeni prepoznavanju sadržaja generiranog drugim modelima umjetne inteligencije, a mogu propustiti i sadržaj generiran modelima kompanije OpenAI ako odgovarajući signal nedostaje, nije podržan ili je oslabljen.

Kako funkcionira označavanje vodenim žigom

Utvrđuju li vodeni žigovi autorstvo, vlasništvo ili pravnu odgovornost?

Ne. Vodeni žig je dokaz da je model kompanije OpenAI vjerovatno generirao ili obradio sadržaj. Sam po sebi ne utvrđuje ko je autor ili vlasnik sadržaja, je li bilo obavezno navesti upotrebu umjetne inteligencije niti ko je pravno odgovoran. Također ne pokazuje je li model uređivao sadržaj koji je korisnik otpremio.

Pokazuju li vodeni žigovi u kojoj je mjeri model kompanije OpenAI učestvovao u stvaranju sadržaja?

Ne. Detektor prijavljuje je li pronašao vodeni žig. Pronalazak vodenog žiga je dokaz da je model kompanije OpenAI vjerovatno generirao ili obradio sadržaj, ali ne pokazuje je li model generirao dio ili cijeli sadržaj niti koliki je bio doprinos osobe.

Kako funkcionira označavanje teksta vodenim žigom?

Označavanje teksta vodenim žigom stvara tajni obrazac u izboru riječi i dijelova riječi, koji se nazivaju „tokeni“, dok model piše.

U svakom koraku model dodjeljuje vjerovatnoću svakom mogućem sljedećem tokenu. Sistem za označavanje vodenim žigom stvara nekoliko prilagođenih skupova tih vjerovatnoća, od kojih svaki daje prednost različitim izborima prema tajnom ključu. Skupovi su uravnoteženi tako da njihov prosjek odgovara izvornim vjerovatnoćama modela. Ključ određuje koji će se skup koristiti, a model zatim pravi novi nasumični izbor iz tog skupa.

Detektor s istim ključem i odgovarajućim postavkama kasnije može provjeriti prati li tekst tajni obrazac češće nego što bi se očekivalo slučajno.

Primjenjuju li se tekstualni vodeni žigovi na činjenični tekst i tekst koji dostavi korisnik?

Označavanje teksta vodenim žigom zavisi od toga ima li model različite načine da nešto kaže. Manje je fleksibilnosti kada odgovor mora biti strogo činjeničan ili precizan, poput odgovora na matematički zadatak, ili kada se od modela traži da prenese dostavljeni tekst bez izmjena. U tim slučajevima model ima manje prostora da promijeni formulaciju bez primjetne razlike, pa se vodeni žig možda neće otkriti.

Primjenjuju li se tekstualni vodeni žigovi na kratke odgovore i kod?

Kratki odlomci obično ne sadrže dovoljno teksta za pouzdano otkrivanje vodenog žiga. Kod je također teže označiti vodenim žigom jer postoji manje prihvatljivih mogućnosti za nastavak nego u običnom tekstu.

Uvažavajući ova ograničenja, Kodeks prakse o transparentnosti sadržaja generiranog umjetnom inteligencijom, u okviru Akta EU-a o umjetnoj inteligenciji, ne zahtijeva vodene žigove u izlaznim sadržajima kraćim od 200 tokena — otprilike 150 riječi na engleskom — niti u isječcima koda.

Kako se otkrivanje tekstualnih vodenih žigova razlikuje među jezicima?

Stope otkrivanja razlikuju se među jezicima, a vodene žigove trenutno je lakše otkriti u nekim jezicima nego u drugim. Možemo prilagoditi jačinu vodenog žiga kako bismo poboljšali otkrivanje u jezicima u kojima je signal slabiji.

Ovaj grafikon prikazuje procjenu stope otkrivanja za sva 24 službena jezika EU-a. Prvo smo generirali 500 sintetičkih upita na engleskom o različitim temama, a zatim ih preveli na ostala 23 jezika. Pri stopi lažno pozitivnih rezultata od 1%, španski ima najvišu stopu otkrivanja (69,0%), a rumunski najnižu (42,2%). Naš vodeni žig ima podesivi parametar jačine — „regulator“ koji pojačava ili slabi signal vodenog žiga za različita područja primjene. Pomoću ovog regulatora uspjeli smo povećati jačinu za jezike sa stopama otkrivanja ispod 60%; svijetloplavi dijelovi stubaca prikazuju postignuta poboljšanja.

Smanjuju li tekstualni vodeni žigovi kvalitet modela?

Prema našim testovima, ne. Na referentnim testovima koje koristimo za procjenu modela Astra, našeg najnovijeg graničnog modela, razlike u performansama s vodenim žigom i bez njega ostaju unutar uobičajenih oscilacija koje primjećujemo pri ponovljenim evaluacijama. Raniji testovi u usluzi ChatGPT također nisu pokazali promjenu u stopi negativnih ocjena ni drugim pokazateljima proizvoda nakon uvođenja vodenih žigova. 

Usporavaju li tekstualni vodeni žigovi modele?

Označavanje teksta vodenim žigom ima zanemariv utjecaj na brzinu naših modela. 

Po čemu se tekstualni vodeni žigovi kompanije OpenAI razlikuju od alata drugih proizvođača za otkrivanje sadržaja generiranog umjetnom inteligencijom?

Alati za otkrivanje drugih proizvođača, poput alata Pangram, obično koriste klasifikatore za prepoznavanje teksta generiranog umjetnom inteligencijom na osnovu obrazaca poput izbora riječi. Taj pristup analizira tekst nakon generiranja, umjesto da otkriva ugrađeni signal. Akt EU-a o umjetnoj inteligenciji izričito zahtijeva ugrađivanje signala u generirani tekst. 

Zašto koristite vlastite tekstualne vodene žigove umjesto tehnologija TextSeal ili SynthID?

Razvili smo vlastitu metodu označavanja teksta vodenim žigom, nazvanu textGrain, kako bismo imali veću kontrolu nego uz SynthID ili TextSeal nad ravnotežom između mogućnosti otkrivanja vodenog žiga i raznolikosti odgovora generiranih iz istog upita. U našim testovima, naš pristup je ispravno prepoznao sličan ili veći udio uzoraka teksta označenih vodenim žigom nego SynthID za tekst. Planiramo objaviti textGrain kao tehnologiju otvorenog koda kako bi je drugi mogli nadograđivati i pomoći u unapređenju označavanja teksta vodenim žigom.

Dodaje li označavanje teksta vodenim žigom skrivene znakove, dodatne tokene ili vidljive promjene?

Ne. Označavanje teksta vodenim žigom mijenja statistički obrazac izbora riječi; ne umeće skrivene znakove niti dodaje tokene koji služe samo za vodeni žig. Vodeni žig nije vidljiv čitaocima, a kopiranje i lijepljenje teksta ne unosi skriveni sadržaj.

Smjernice za korisnike

Korisnik sam API-ja. Kako da uključim tekstualne vodene žigove?

Korisnici API-ja kompanije OpenAI mogu aktivirati označavanje teksta vodenim žigom za određeni projekt putem odjeljka Postavke ili za cijelu organizaciju putem odjeljka Postavke organizacije. U oba slučaja korisnici mogu odabrati za koje će se modele primjenjivati tekstualni vodeni žig. Kada se opcija uključi za podržani model, OpenAI dodaje vodeni žig tokom generiranja teksta. Korisnici ne moraju dodavati zasebnu oznaku svakom odgovoru.

Uključite opciju Dozvoli označavanje teksta vodenim žigom, odaberite modele, a zatim odaberite Sačuvaj.

Zadana postavka organizacije: Postavke organizacije → Kontrole podataka → Porijeklo teksta.

Izmjena postavke za projekt: Postavke projekta → Porijeklo teksta.

Za koje modele mogu aktivirati vodene žigove?

U odjeljcima Postavke i Postavke organizacije korisnici mogu vidjeti listu modela za koje je trenutno dostupno označavanje vodenim žigom. U narednim sedmicama proširit ćemo podršku na sve starije modele.

Dobijam li uključivanjem tekstualnih vodenih žigova i pristup detektoru teksta?

Ne. Pristup detektoru teksta trenutno je ograničen na odobrene istraživačke i akademske organizacije koje rade na unapređenju pouzdanosti označavanja teksta vodenim žigom, jednostavnosti njegove upotrebe te jasnoće objašnjenja tehnologije i njenih rezultata. To je u skladu s našim obavezama prema Kodeksu prakse o transparentnosti sadržaja generiranog umjetnom inteligencijom, u okviru Akta EU-a o umjetnoj inteligenciji.

Hoće li signali ostati pridruženi sadržaju nakon što ga izmijenim?

Mogu ostati, ali to zavisi od signala i izmjena koje napravite.

Za podržane slike i audiozapise sačuvajte originalnu kopiju i koristite API za porijeklo sadržaja da testirate reprezentativne datoteke nakon uređivanja, konverzije i objavljivanja. Kod slika, izrezivanje, dodavanje šuma, konverzija u JPEG i pravljenje snimaka ekrana mogu otežati otkrivanje signala. Tekst možete testirati na ovaj način samo ako vaša organizacija ima odobren pristup detektoru teksta.

Ako format datoteke i radni proces to podržavaju, sačuvajte postojeće metapodatke C2PA i uključite vjerodajnice sadržaja u datoteke koje kreirate. Možete razmotriti i dodavanje vlastitih oznaka kako bi informacije o porijeklu bile trajnije ili korisnije. Detalje o implementaciji potražite u tehničkoj dokumentaciji C2PA.

Kod teksta, vodeni žig je dio izbora riječi koje model pravi. Ako zadržite istu formulaciju, očekuje se da će signal ostati pri ponovnoj upotrebi teksta, bez dodatnog rada na integraciji. Opsežno prepravljanje, parafraziranje ili prevođenje može smanjiti pouzdanost otkrivanja. Čak ni neizmijenjena formulacija ne garantira da će se vodeni žig moći otkriti, posebno u kratkim odlomcima ili tekstu koji ostavlja malo prostora za drugačiji izbor riječi.

Modelima kompanije OpenAI pristupam putem usluge u oblaku. Sadrže li i ti izlazni sadržaji signale porijekla?

Sarađujemo sa svim svojim pružaocima usluga u oblaku i distribucijskim partnerima kako bismo osigurali da se signali porijekla, uključujući vodene žigove, ugrađuju u sve izlazne sadržaje koji ispunjavaju uslove, uključujući slike, audiozapise i tekst. Dostupnost može zavisiti od izlaznog sadržaja i partnera. 

Zamjenjuju li signali porijekla vidljive oznake umjetne inteligencije ili druga obavještenja?

Ne. Vodeni žigovi i metapodaci C2PA pružaju informacije koje softver može pročitati. Ne zamjenjuju vidljive oznake, banere ili druga obavještenja koja mogu biti obavezna.

Potreba za dodatnim obavještenjem zavisi od toga kako i gdje koristite sadržaj. OpenAI vam ne može dati savjet o vašim konkretnim zakonskim obavezama; vaš pravni tim treba procijeniti zahtjeve za vaš način korištenja.

Imam još pitanja u vezi s Aktom EU-a o umjetnoj inteligenciji

Molimo vas da pošaljete upit o Aktu EU-a o umjetnoj inteligenciji i javit ćemo vam se.