Ova stranica je mašinski prevedena. Pogledaj originalni članak na engleskom jeziku.

Signali porijekla u sadržaju generiranom alatima kompanije OpenAI

Saznajte kako Content Credentials i nevidljivi vodeni žigovi pružaju signale porijekla za sadržaj generiran alatima kompanije OpenAI.

Ažurirano: 10 hours ago

U okviru svoje posvećenosti sigurnijem i transparentnijem ekosistemu umjetne inteligencije, OpenAI koristi signale porijekla kako bi ljudima pomogao da utvrde je li sadržaj generisan modelom kompanije OpenAI.

Signali porijekla mogu pružiti korisne informacije o porijeklu sadržaja, ali ne garantuju njegovu tačnost, neizmijenjenost, zakonito vlasništvo nad njim niti da je prikazan u odgovarajućem kontekstu.

Signali porijekla kompanije OpenAI

Koje signale porijekla koristi OpenAI?

OpenAI koristi različite signale porijekla za različite vrste sadržaja.

Vrsta sadržajaPodržani formatiSignali porijeklaNapomene
SlikePNG, JPEG/JPG, WebP, GIFPotvrde o sadržaju i vodeni žigovi SynthIDSlike generisane putem usluge ChatGPT ili OpenAI API-ja sadrže oba signala.
AudiozapisiMP3, WAV, AAC, FLAC, OGG, Opus, PCMVodeni žigovi SynthIDAudiozapisi generisani putem usluge ChatGPT ili OpenAI API-ja sadrže nečujan vodeni žig ugrađen u sam zvuk.
TekstTekst slobodne forme; nije vezan za format datotekeVodeni žigovi textGrain (samo u EU-u)U EU-u tekst koji generiše ChatGPT sadrži nevidljivu promjenu u nasumičnom odabiru riječi koji model koristi, radi usklađivanja s Aktom EU-a o AI-ju. Korisnici API-ja širom svijeta mogu uključiti vodene žigove za generisani tekst u postavkama projekta ili organizacije. Saznajte više.
VideozapisiNije primjenjivoNije primjenjivoSora više nije dostupna.Saznajte više.
PDF-oviPDF (.pdf)Potvrde o sadržaju (C2PA metapodaci)PDF-ovi izvezeni iz podržanih alata kompanije OpenAI sadrže C2PA metapodatke ugrađene u datoteku.

Pokrivenost se može razlikovati zavisno od proizvoda, modela, načina izvoza, vrste datoteke i vremena nastanka sadržaja. Izlazni sadržaji API-ja su obuhvaćeni, osim onih iz modela čije je povlačenje iz upotrebe uskoro planirano, uključujući gpt-image-1, gpt-image-1.5 i sora-2.

Zašto se za neke vrste sadržaja koristi više signala?

Kada je to tehnički izvodljivo, OpenAI kombinira metapodatke i vodene žigove kako bi međusobno nadoknadili svoja ograničenja. Metapodaci mogu sadržavati detaljne informacije, ali ih platforme, alati za uređivanje i konverzije datoteka mogu ukloniti. Vodeni žigovi pružaju manje konteksta, ali, budući da su ugrađeni u sam generirani sadržaj, mogu ostati sačuvani nakon nekih transformacija koje uklanjaju metapodatke. 

Koliko su signali porijekla otporni na izmjene sadržaja?

Vodeni žigovi SynthID za slike i audiozapise te vodeni žigovi textGrain za tekst osmišljeni su tako da izdrže uobičajene izmjene. Zavisno od vrste sadržaja, to mogu biti manje izmjene, kopiranje i lijepljenje, izrezivanje ili snimanje ekrana. Opsežnije izmjene, poput znatnog izrezivanja slike, kompresije datoteke, značajnog parafraziranja ili prevođenja, mogu onemogućiti otkrivanje vodenog žiga. Nakon opsežnih izmjena može imati i manje smisla opisivati rezultat kao „sadržaj koji je generisao OpenAI“.

Potvrde o sadržaju (Content Credentials), koje je razvila Koalicija za porijeklo i autentičnost sadržaja, mogu se izgubiti pri svakodnevnim radnjama, poput snimanja ekrana ili konverzije datoteke. Kada ostanu dostupne, mogu pružiti više detalja o porijeklu i historiji datoteke nego sam vodeni žig.

Gdje je to tehnički moguće, koristimo obje metode kako bismo povećali vjerovatnoću da se informacije o porijeklu sačuvaju i nakon izmjena sadržaja.

Šta su vjerodajnice sadržaja i šta omogućavaju?

Vjerodajnice sadržaja datoteci pridružuju informacije o njenom porijeklu i historiji, poput toga kojim je alatom kreirana i kada. Koriste otvoreni standard koji je razvila Koalicija za porijeklo i autentičnost sadržaja (C2PA), zbog čega se ponekad nazivaju „metapodaci C2PA“.

Vjerodajnice sadržaja pomažu ljudima da provjere odakle sadržaj potiče. Ne koriste se samo za sadržaj generiran umjetnom inteligencijom: proizvođači kamera, novinske organizacije i drugi također koriste ovaj standard za potvrđivanje izvora i historije svojih medijskih sadržaja. Saznajte više o C2PA.

Šta je SynthID i šta omogućava?

SynthID je tehnologija označavanja nevidljivim vodenim žigom koju je razvio Google DeepMind, a koja ugrađuje signal direktno u generirane medijske sadržaje. Za razliku od metapodataka, signal je dio samog sadržaja i može ostati sačuvan nakon nekih izmjena ili transformacija. SynthID pruža dodatni signal porijekla uz metapodatke C2PA. Naprimjer, ako se metapodaci uklone iz datoteke, ugrađeni vodeni žig i dalje može ukazivati na to da je sadržaj generiran podržanim alatima kompanije OpenAI. Saznajte više o tehnologiji SynthID.

Zašto označavate generisani tekst vodenim žigom?

Uvodimo označavanje teksta vodenim žigom za korisnike usluge ChatGPT u EU-u radi usklađivanja s Aktom EU-a o AI-ju i u skladu s našim obavezama prema Kodeksu prakse EU-a o transparentnosti sadržaja generisanog AI-jem, koji su potpisali OpenAI i nekoliko drugih velikih pružalaca AI usluga.

Šta je textGrain i šta omogućava?

textGrain je tehnologija kompanije OpenAI za označavanje teksta vodenim žigom. Ona suptilno prilagođava način na koji model tokom pisanja nasumično bira između mogućih riječi ili dijelova riječi. Ti odabiri kroz tekst stvaraju obrazac koji detektor može tražiti, čak i nakon određenih izmjena.

Vodeni žig je dio samog načina na koji je tekst sročen i nije vidljiv čitaocima. Ne dodaje skrivene znakove, nevidljive razmake ni neuobičajenu interpunkciju. Označavanje teksta vodenim žigom pomaže u ispunjavanju zahtjeva Akta EU-a o AI-ju za označavanje generisanog teksta.

Više detalja o tome kako textGrain radi možete pronaći u našem tehničkom izvještaju⁠.

Alati kompanije OpenAI za provjeru

Kako mogu provjeriti je li sadržaj obrađen alatima kompanije OpenAI?

Posjetite openai.com/verify da provjerite sadrži li podržana slika, audiodatoteka ili PDF signale porijekla povezane sa sadržajem obrađenim alatima kompanije OpenAI. Nakon što otpremite podržanu datoteku, alat će potražiti podržane signale porijekla kompanije OpenAI, kao što su vodeni žig SynthID ili pouzdani C2PA manifest povezan s kompanijom OpenAI. Ako alat pronađe podržani signal porijekla kompanije OpenAI, to ukazuje na to da je sadržaj vjerovatno obrađen nekim od njenih alata.

Programeri i organizacije mogu koristiti i API kompanije OpenAI za porijeklo sadržaja kako bi provjerili sadrže li slike, audiozapisi i PDF-ovi signale porijekla kompanije OpenAI te ugradili provjeru u vlastite aplikacije ili radne procese. Organizacije čija namjena korištenja ispunjava uslove mogu podnijeti zahtjev za veće limite.

Kada je riječ o tekstu, u skladu s našim obavezama prema Aktu EU-a o AI-ju, organizacije čija namjena korištenja ispunjava uslove, poput istraživačkih, akademskih i sličnih ustanova koje proučavaju porijeklo teksta, pouzdanost detekcije ili način na koji ljudi razumiju rezultate provjere porijekla, mogu podnijeti zahtjev za pristup detektoru teksta. Zahtjeve organizacija koje ispunjavaju uslove razmotrit ćemo pojedinačno te im se, prema potrebi, javiti s novim informacijama ili zahtjevom za dodatne informacije. Naš pristup odobravanju pristupa može se mijenjati kako budemo sticali nova saznanja i unapređivali tehnologiju.

Trenutno sarađujemo s ograničenom grupom istraživača, među kojima su John Thickstun, docent računarstva na Univerzitetu Cornell, Martin Vechev, profesor računarstva na ETH Zurich i naučni direktor instituta INSAIT, te istraživači s Instituta za inteligentne tehnologije Kempelen (KInIT), kako bismo bolje razumjeli mogućnosti i ograničenja ove tehnologije i na osnovu tih saznanja unaprijedili označavanje teksta vodenim žigom.

Ko ispunjava uslove za veća ograničenja broja provjera i naplaćuju li se provjere?

Provjere putem API-ja za porijeklo sadržaja trenutno su besplatne i podliježu ograničenjima korištenja. Program s većim ograničenjima namijenjen je projektima provjere porijekla od javnog interesa i radnim procesima za očuvanje integriteta informacija koji ispunjavaju uslove, poput provjere u redakcijama, provjere činjenica, istraživanja porijekla sadržaja i regulatornog nadzora.

Opće poslovne primjene trenutno nisu obuhvaćene programom, poput komercijalnog sprečavanja prevara, autentifikacije i provjere ili preprodaje u sklopu paketa usluga za porijeklo sadržaja i analizu podataka.

Organizacije čija namjena korištenja ispunjava uslove mogu podnijeti zahtjev za povećanje ograničenja, ali podnošenje zahtjeva ne garantira odobrenje. Javni API ostaje dostupan uz zadana ograničenja, uključujući i evaluacije manjeg obima. Aktuelna ograničenja korištenja potražite u dokumentaciji API-ja za porijeklo sadržaja.

Ko ispunjava uslove za pristup detektoru teksta i naplaćuju li se provjere?

Provjere detektorom teksta trenutno su besplatne. Zahtjev mogu podnijeti istraživačke, akademske i slične ustanove koje proučavaju porijeklo teksta, pouzdanost detekcije ili način na koji ljudi razumiju rezultate provjere porijekla. Ostali zahtjevi trenutno nisu obuhvaćeni programom.

Šta znače rezultati provjere?

Ako se signal otkrije putem stranice openai.com/verify ili API-ja kompanije OpenAI za porijeklo sadržaja, to znači da otpremljeni sadržaj sadrži podržani signal porijekla povezan s kompanijom OpenAI. To ukazuje na obradu nekim od alata kompanije OpenAI; sam signal ne pokazuje je li sadržaj generisan ili uređen tim alatima, niti u kojoj mjeri. Alat ne potvrđuje da je sadržaj tačan, neizmijenjen, u zakonitom vlasništvu ili prikazan u odgovarajućem kontekstu. Također ne utvrđuje ko je kreirao sadržaj ni zašto je kreiran.

Ako signal nije otkriven, to znači da alat u otpremljenoj datoteci nije pronašao signale porijekla koje je izdao OpenAI. Ipak, sadržaj je mogao biti obrađen alatima kompanije OpenAI ako:

  • Sadržaj je kreiran prije nego što su signali porijekla postali dostupni.

  • Sadržaj potiče iz nepodržanog proizvoda, modela, načina izvoza ili vrste datoteke.

  • Metapodaci su uklonjeni tokom otpremanja, preuzimanja, uređivanja, konverzije ili dijeljenja.

  • Vodeni žig je oslabljen kompresijom, izrezivanjem, šumom, izmjenama, konverzijom formata ili drugim transformacijama.

  • Audioisječak je prekratak ili je značajno izmijenjen.

Kako mogu dobiti najpouzdaniji rezultat provjere?

Otpremite jednu po jednu podržanu datoteku i, kada je moguće, koristite originalnu izvezenu datoteku. Kod slika izbjegavajte izrezivanje ili konverziju datoteke prije provjere. Kod audiozapisa, isječci u trajanju od 10 do 60 sekundi uglavnom daju najbolje rezultate. Čak i kada se signal ne otkrije, razmotrite izvor i kontekst datoteke prije nego što donesete zaključak.

Prikazuju li rezultati moj upit ili lične podatke?

Signali porijekla ne sadrže detalje o korisniku, organizaciji ili upitu. 

Šta se dešava sa sadržajem koji provjerim putem stranice openai.com/verify ili API-ja za porijeklo sadržaja?

Sadržaj otpremljen na openai.com/verify ili poslan našem API-ju za porijeklo sadržaja na provjeru obrađuje se isključivo radi provjere prisustva podržanih signala porijekla. Sadržaj se ne pohranjuje, osim kada je to zakonski obavezno, niti se koristi za obuku modela kompanije OpenAI. 

Može li OpenAI prepoznati sadržaj generiran drugim alatima umjetne inteligencije?

Naši alati za porijeklo sadržaja namijenjeni su otkrivanju podržanih signala porijekla povezanih sa sadržajem koji su generirali modeli kompanije OpenAI ili izvezli alati kompanije OpenAI. Nisu namijenjeni prepoznavanju sadržaja generiranog drugim modelima umjetne inteligencije, a mogu propustiti i sadržaj generiran modelima kompanije OpenAI ako odgovarajući signal nedostaje, nije podržan ili je oslabljen.

Kako funkcionira označavanje vodenim žigom

Utvrđuju li vodeni žigovi autorstvo, vlasništvo ili pravnu odgovornost?

Ne. Vodeni žig je dokaz da je model kompanije OpenAI vjerovatno generirao ili obradio sadržaj. Sam po sebi ne utvrđuje ko je autor ili vlasnik sadržaja, je li bilo obavezno navesti upotrebu umjetne inteligencije niti ko je pravno odgovoran. Također ne pokazuje je li model uređivao sadržaj koji je korisnik otpremio.

Pokazuju li vodeni žigovi u kojoj je mjeri model kompanije OpenAI učestvovao u stvaranju sadržaja?

Ne. Detektor prijavljuje je li pronašao vodeni žig. Pronalazak vodenog žiga je dokaz da je model kompanije OpenAI vjerovatno generirao ili obradio sadržaj, ali ne pokazuje je li model generirao dio ili cijeli sadržaj niti koliki je bio doprinos osobe.

Kako funkcionira označavanje teksta vodenim žigom?

Označavanje teksta vodenim žigom stvara tajni obrazac u izboru riječi i dijelova riječi, koji se nazivaju „tokeni“, dok model piše.

U svakom koraku model dodjeljuje vjerovatnoću svakom mogućem sljedećem tokenu. Sistem za označavanje vodenim žigom stvara nekoliko prilagođenih skupova tih vjerovatnoća, od kojih svaki daje prednost različitim izborima prema tajnom ključu. Skupovi su uravnoteženi tako da njihov prosjek odgovara izvornim vjerovatnoćama modela. Ključ određuje koji će se skup koristiti, a model zatim pravi novi nasumični izbor iz tog skupa.

Detektor s istim ključem i odgovarajućim postavkama kasnije može provjeriti prati li tekst tajni obrazac češće nego što bi se očekivalo slučajno.

Primjenjuju li se tekstualni vodeni žigovi na činjenični tekst i tekst koji dostavi korisnik?

Označavanje teksta vodenim žigom zavisi od toga ima li model različite načine da nešto kaže. Manje je fleksibilnosti kada odgovor mora biti strogo činjeničan ili precizan, poput odgovora na matematički zadatak, ili kada se od modela traži da prenese dostavljeni tekst bez izmjena. U tim slučajevima model ima manje prostora da promijeni formulaciju bez primjetne razlike, pa se vodeni žig možda neće otkriti.

Primjenjuju li se tekstualni vodeni žigovi na kratke odgovore i kod?

Kratki odlomci obično ne sadrže dovoljno teksta za pouzdano otkrivanje vodenog žiga. Kod je također teže označiti vodenim žigom jer postoji manje prihvatljivih mogućnosti za nastavak nego u običnom tekstu.

Uvažavajući ova ograničenja, Kodeks prakse o transparentnosti sadržaja generiranog umjetnom inteligencijom, u okviru Akta EU-a o umjetnoj inteligenciji, ne zahtijeva vodene žigove u izlaznim sadržajima kraćim od 200 tokena — otprilike 150 riječi na engleskom — niti u isječcima koda.

Kako se otkrivanje vodenih žigova u tekstu razlikuje od jezika do jezika?

Stope detekcije razlikuju se zavisno od jezika, a vodene žigove trenutno je lakše otkriti u nekim jezicima nego u drugima. Možemo prilagoditi jačinu vodenog žiga kako bismo poboljšali detekciju u jezicima u kojima je signal slabiji.

languages (1)

Ovaj grafikon prikazuje stope detekcije za sva 24 službena jezika EU-a. Prvo smo generisali 500 sintetičkih upita na engleskom jeziku o raznovrsnim temama, a zatim ih preveli na preostala 23 jezika. Pri stopi lažno pozitivnih rezultata od 1%, španski ima najvišu stopu detekcije (69,0%), a rumunski najnižu (42,2%). Naš vodeni žig ima podesivi parametar jačine — „regulator“ koji pojačava ili slabi signal vodenog žiga za različita područja primjene. Pomoću tog regulatora uspjeli smo povećati jačinu za jezike sa stopom detekcije ispod 60%; svijetloplavi dijelovi stubaca prikazuju postignuta poboljšanja.

Smanjuju li tekstualni vodeni žigovi kvalitet modela?

Prema našim testovima, ne. Na referentnim testovima koje koristimo za procjenu modela Astra, našeg najnovijeg graničnog modela, razlike u performansama s vodenim žigom i bez njega ostaju unutar uobičajenih oscilacija koje primjećujemo pri ponovljenim evaluacijama. Raniji testovi u usluzi ChatGPT također nisu pokazali promjenu u stopi negativnih ocjena ni drugim pokazateljima proizvoda nakon uvođenja vodenih žigova. 

Usporavaju li tekstualni vodeni žigovi modele?

Označavanje teksta vodenim žigom ima zanemariv utjecaj na brzinu naših modela. 

Po čemu se vodeni žigovi kompanije OpenAI za tekst razlikuju od alata trećih strana za otkrivanje sadržaja generisanog umjetnom inteligencijom?

Alati trećih strana za detekciju, poput alata Pangram, obično koriste klasifikatore za prepoznavanje teksta generisanog umjetnom inteligencijom na osnovu obrazaca kao što je izbor riječi. Tim pristupom tekst se analizira nakon generisanja, umjesto da se otkriva ugrađeni signal. Akt EU-a o umjetnoj inteligenciji izričito zahtijeva da se signal ugradi u generisani tekst. 

Zašto koristite vlastite tekstualne vodene žigove umjesto tehnologija TextSeal ili SynthID?

Razvili smo vlastitu metodu označavanja teksta vodenim žigom, nazvanu textGrain, kako bismo imali veću kontrolu nego uz SynthID ili TextSeal nad ravnotežom između mogućnosti otkrivanja vodenog žiga i raznolikosti odgovora generiranih iz istog upita. U našim testovima, naš pristup je ispravno prepoznao sličan ili veći udio uzoraka teksta označenih vodenim žigom nego SynthID za tekst. Planiramo objaviti textGrain kao tehnologiju otvorenog koda kako bi je drugi mogli nadograđivati i pomoći u unapređenju označavanja teksta vodenim žigom.

Dodaje li označavanje teksta vodenim žigom skrivene znakove, dodatne tokene ili vidljive promjene?

Ne. Označavanje teksta vodenim žigom mijenja statistički obrazac izbora riječi; ne umeće skrivene znakove niti dodaje tokene koji služe samo za vodeni žig. Vodeni žig nije vidljiv čitaocima, a kopiranje i lijepljenje teksta ne unosi skriveni sadržaj.

Smjernice za korisnike

Kako da kao korisnik API-ja uključim vodene žigove za tekst?

Korisnici OpenAI API-ja mogu uključiti označavanje teksta vodenim žigom za određeni projekt putem Postavki ili za cijelu organizaciju putem Postavki organizacije. U oba slučaja korisnici mogu odabrati modele čiji će tekst biti označen vodenim žigom. Kada uključite označavanje teksta vodenim žigom za podržani model, OpenAI dodaje vodeni žig tokom generisanja teksta. Korisnici ne moraju dodavati zasebnu oznaku svakom odgovoru.

Uključite opciju Dozvoli označavanje teksta vodenim žigom, odaberite modele, a zatim odaberite Sačuvaj.

  1. Zadana postavka za organizaciju: Idite na Postavke organizacije > Kontrole podataka.

  2. Odaberite Porijeklo teksta.

image (90)

Promjena zadane postavke za projekt: Idite na Postavke projekta > Porijeklo teksta.

image (91)

Za koje modele mogu uključiti vodene žigove?

U odjeljcima Postavke i Postavke organizacije korisnici mogu vidjeti listu modela za koje je trenutno dostupno označavanje vodenim žigom. U narednim sedmicama proširit ćemo podršku na sve starije modele.

Dobijam li uključivanjem tekstualnih vodenih žigova i pristup detektoru teksta?

Ne. Pristup detektoru teksta trenutno je ograničen na odobrene istraživačke i akademske organizacije koje rade na unapređenju pouzdanosti označavanja teksta vodenim žigom, jednostavnosti njegove upotrebe te jasnoće objašnjenja tehnologije i njenih rezultata. To je u skladu s našim obavezama prema Kodeksu prakse o transparentnosti sadržaja generiranog umjetnom inteligencijom, u okviru Akta EU-a o umjetnoj inteligenciji.

Hoće li signali ostati u sadržaju nakon što ga izmijenim?

Mogu ostati, ali to zavisi od signala i izmjena koje napravite.

Za podržane slike i audiosnimke sačuvajte originalnu kopiju i koristite API za porijeklo sadržaja da testirate reprezentativne datoteke nakon uređivanja, konverzije i objavljivanja. Kod slika, izrezivanje, dodavanje šuma, konverzija u JPEG i pravljenje snimaka ekrana mogu otežati otkrivanje signala. Tekst možete testirati na ovaj način samo ako vaša organizacija ima odobren pristup detektoru teksta.

Ako format datoteke i radni proces to podržavaju, sačuvajte postojeće C2PA metapodatke i uključite Content Credentials u datoteke koje kreirate. Možete razmotriti i dodavanje vlastitih oznaka kako bi informacije o porijeklu bile trajnije ili korisnije. Detalje o implementaciji potražite u tehničkoj dokumentaciji za C2PA.

Kod teksta, vodeni žig je dio načina na koji model bira riječi. Ako zadržite izvorne formulacije, očekuje se da će signal ostati prisutan i kada ponovo upotrijebite tekst, bez dodatnog rada na integraciji. Znatne izmjene teksta, parafraziranje ili prevođenje mogu smanjiti pouzdanost detekcije. Čak ni neizmijenjen tekst ne garantuje da će se vodeni žig moći otkriti, naročito u kratkim odlomcima ili tekstu u kojem nema mnogo prostora za drugačiji izbor riječi.

Modelima kompanije OpenAI pristupam putem usluge u oblaku. Sadrže li i ti izlazni sadržaji signale porijekla?

Pokrivenost vodenim žigovima za modele kompanije OpenAI dostupne putem platforme Azure razlikuje se zavisno od modela i modaliteta. Za informacije o trenutnoj dostupnosti i pokrivenosti obratite se kompaniji Microsoft. Radimo na proširenju upotrebe signala porijekla na izlazne sadržaje dostupne putem drugih usluga u oblaku.

Zamjenjuju li signali porijekla vidljive oznake umjetne inteligencije ili druga obavještenja?

Ne. Vodeni žigovi i metapodaci C2PA pružaju informacije koje softver može pročitati. Ne zamjenjuju vidljive oznake, banere ili druga obavještenja koja mogu biti obavezna.

Potreba za dodatnim obavještenjem zavisi od toga kako i gdje koristite sadržaj. OpenAI vam ne može dati savjet o vašim konkretnim zakonskim obavezama; vaš pravni tim treba procijeniti zahtjeve za vaš način korištenja.

Imam još pitanja o Aktu EU-a o AI-ju

Pošaljite upit o Aktu EU-a o AI-ju i javit ćemo vam se.

Da li je ovaj članak bio koristan?