Din il-paġna ġiet tradotta awtomatikament bl-IA. Ara l-artiklu oriġinali bl-Ingliż.

Sinjali ta’ provenjenza fil-kontenut iġġenerat minn OpenAI

Sir af kif il-Kredenzjali tal-Kontenut u l-marki tal-ilma inviżibbli jipprovdu sinjali ta’ provenjenza għal kontenut iġġenerat b’għodod ta’ OpenAI.

Aġġornat: yesterday

Bħala parti mill-impenn tagħha għal ekosistema tal-IA aktar sikura u trasparenti, OpenAI tuża sinjali ta’ provenjenza biex tgħin lin-nies jifhmu jekk il-kontenut ġiex iġġenerat b’mudell ta’ OpenAI.

Is-sinjali ta’ provenjenza jistgħu jipprovdu informazzjoni utli dwar l-oriġini, iżda ma jiggarantixxux li l-kontenut huwa preċiż, mhux editjat, miżmum minn sid leġittimu jew ippreżentat fil-kuntest korrett.

Is-sinjali ta’ provenjenza ta’ OpenAI

Liema sinjali ta’ provenjenza tuża OpenAI?

OpenAI tuża sinjali ta’ provenjenza differenti għal tipi differenti ta’ kontenut.

Tip ta’ kontenutFormati appoġġjatiSinjali ta’ provenjenzaNoti
ImmaġnijietPNG, JPEG/JPG, WebP, GIFKredenzjali tal-Kontenut u marki tal-ilma SynthIDL-immaġnijiet iġġenerati b’ChatGPT jew bl-API ta’ OpenAI jinkludu ż-żewġ sinjali.
AwdjoMP3, WAV, AAC, FLAC, OGG, Opus, PCMMarki tal-ilma SynthIDL-awdjo ġġenerat minn ChatGPT jew mill-API ta’ OpenAI jinkludi marka tal-ilma li ma tinstemax, inkorporata fl-awdjo nnifsu.
TestTest f’forma ħielsa; mhux marbut ma’ format ta’ fajlMarki tal-ilma textGrain (fl-UE biss)Fl-UE, it-test iġġenerat minn ChatGPT jinkludi bidla inviżibbli fil-każwalità li l-mudell juża meta jagħżel il-kliem, biex jikkonforma mal-Att tal-UE dwar l-IA. Il-klijenti tal-API madwar id-dinja jistgħu jattivaw il-marki tal-ilma għat-test iġġenerat mis-settings tal-proġett jew tal-organizzazzjoni tagħhom. Sir af aktar.
VidjoMhux applikabbliMhux applikabbliSora m’għadux disponibbli.Sir af aktar.
PDFsPDF (.pdf)Kredenzjali tal-Kontenut (metadata C2PA)Il-PDFs esportati minn għodod appoġġjati ta’ OpenAI jinkludu metadata C2PA inkorporata fil-fajl.

Il-kopertura tista’ tvarja skont il-prodott, il-mudell, il-metodu ta’ esportazzjoni, it-tip ta’ fajl u meta nħoloq il-kontenut. Il-kontenut iġġenerat mill-API huwa kopert, ħlief fil-każ ta’ mudelli li huma ppjanati li jitneħħew mill-użu dalwaqt, fosthom gpt-image-1, gpt-image-1.5 u sora-2.

Għaliex xi tipi ta’ kontenut jużaw diversi sinjali?

Meta jkun teknikament fattibbli, OpenAI tgħaqqad il-metadata u l-marki tal-ilma biex kull waħda tkun tista’ tindirizza l-limitazzjonijiet tal-oħra. Il-metadata tista’ ġġorr informazzjoni dettaljata, iżda l-pjattaformi, l-għodod tal-editjar u l-konverżjonijiet tal-fajls jistgħu jneħħuha. Il-marki tal-ilma jġorru inqas kuntest, iżda peress li jiddaħħlu fil-kontenut iġġenerat innifsu, jistgħu jibqgħu jeżistu wara xi trasformazzjonijiet li jneħħu l-metadata. 

Kemm jifilħu s-sinjali ta’ provenjenza għall-modifiki fil-kontenut?

Il-marki tal-ilma SynthID għall-immaġnijiet u l-awdjo u l-marki tal-ilma textGrain għat-test huma mfassla biex jifilħu għal bidliet komuni. Skont it-tip ta’ kontenut, dawn jistgħu jinkludu modifiki żgħar, ikkupjar u twaħħil, qtugħ ta’ immaġnijiet jew ritratti tal-iskrin. Bidliet aktar estensivi — bħal qtugħ kbir ta’ immaġnijiet, kompressjoni ta’ fajls, parafrażi sostanzjali jew traduzzjoni — jistgħu jagħmlu marka tal-ilma impossibbli li tinstab. Wara bidliet estensivi, jista’ jkun ukoll anqas sinifikanti li r-riżultat jiġi deskritt bħala “ġġenerat minn OpenAI”.

Il-Kredenzjali tal-Kontenut, żviluppati mill- Koalizzjoni għall-Provenjenza u l-Awtentiċità tal-Kontenut, jistgħu jintilfu permezz ta’ azzjonijiet ta’ kuljum, bħal meta jittieħed ritratt tal-iskrin jew jiġi kkonvertit fajl. Meta jibqgħu disponibbli, jistgħu jipprovdu aktar dettalji dwar l-oriġini u l-istorja ta’ fajl milli tipprovdi marka tal-ilma waħedha.

Fejn ikun teknikament possibbli, nużaw iż-żewġ metodi biex inżidu l-probabbiltà li l-informazzjoni dwar il-provenjenza tibqa’ teżisti wara bidliet fil-kontenut.

X’inhuma l-Kredenzjali tal-Kontenut u x’jippermettu?

Il-Kredenzjali tal-Kontenut jehmżu informazzjoni dwar l-oriġini u l-istorja ta’ fajl, bħal liema għodda ħolqitu u meta. Jużaw standard miftuħ żviluppat mill-Koalizzjoni għall-Provenjenza u l-Awtentiċità tal-Kontenut (C2PA), u għalhekk xi drabi jissejħu “metadata C2PA”.

Il-Kredenzjali tal-Kontenut jgħinu lin-nies jivverifikaw minn fejn ġie l-kontenut. Ma jintużawx biss għal kontenut iġġenerat mill-IA: il-manifatturi tal-kameras, l-organizzazzjonijiet tal-aħbarijiet u oħrajn jużaw ukoll l-istandard biex jiċċertifikaw is-sors u l-istorja tal-midja tagħhom. Sir af aktar dwar C2PA.

X’inhu SynthID u x’jippermetti?

SynthID hija teknoloġija ta’ mmarkar b’marki tal-ilma inviżibbli żviluppata minn Google DeepMind li ddaħħal sinjal direttament fil-midja ġġenerata. B’differenza mill-metadata, is-sinjal huwa parti mill-kontenut innifsu u jista’ jibqa’ jeżisti wara xi editjar jew trasformazzjonijiet. SynthID jipprovdi sinjal ta’ provenjenza addizzjonali flimkien mal-metadata C2PA. Pereżempju, jekk il-metadata titneħħa minn fajl, marka tal-ilma inkorporata xorta tista’ tipprovdi sinjal li l-kontenut ġie ġġenerat b’għodod ta’ OpenAI appoġġjati. Sir af aktar dwar SynthID.

Għaliex qed timmarkaw it-test iġġenerat b’marki tal-ilma?

Qed nimplimentaw l-immarkar tat-test b’marki tal-ilma għall-utenti ta’ ChatGPT fl-UE biex nikkonformaw mal-Att tal-UE dwar l-IA, u f’konformità mal-impenji tagħna skont il-Kodiċi ta’ Prattika tal-UE dwar it-Trasparenza tal-Kontenut Iġġenerat mill-IA, li ffirmaw OpenAI u diversi fornituri ewlenin oħra tal-IA.

X’inhu textGrain u x’jippermetti li jsir?

textGrain hija t-teknoloġija ta’ OpenAI għall-immarkar tat-test b’marki tal-ilma. Tagħmel aġġustamenti żgħar fil-mod kif il-mudell jagħżel b’mod każwali bejn kliem jew partijiet ta’ kliem possibbli waqt li jikteb. F’silta ta’ test, dawn l-għażliet joħolqu xejra li detettur jista’ jfittex, anki wara xi modifiki.

Il-marka tal-ilma hija parti mill-kliem innifsu u mhijiex viżibbli għall-qarrejja. Ma żżidx karattri moħbija, spazji inviżibbli jew punteġġjatura mhux tas-soltu. L-immarkar tat-test b’marki tal-ilma jgħin biex jiġi ssodisfat ir-rekwiżit tal-Att tal-UE dwar l-IA li t-test iġġenerat jiġi mmarkat.

Aktar dettalji dwar kif jaħdem textGrain jinsabu fir-rapport tekniku tagħna⁠.

L-għodod ta’ verifika ta’ OpenAI

Kif nista’ niċċekkja jekk il-kontenut ġiex ipproċessat b’għodod ta’ OpenAI?

Tista’ żżur openai.com/verify biex tiċċekkja jekk immaġni, fajl awdjo jew PDF appoġġjat fihx sinjali ta’ provenjenza assoċjati ma’ kontenut ipproċessat b’għodod ta’ OpenAI. Wara li ttella’ fajl appoġġjat, l-għodda tfittex sinjali ta’ provenjenza ta’ OpenAI appoġġjati, bħal marka tal-ilma SynthID jew manifest C2PA fdat assoċjat ma’ OpenAI. Jekk l-għodda ssib sinjal ta’ provenjenza ta’ OpenAI appoġġjat, dan jindika li l-kontenut x’aktarx ġie pproċessat b’għodda ta’ OpenAI.

L-iżviluppaturi u l-organizzazzjonijiet jistgħu jużaw ukoll l-API ta’ OpenAI għall-Provenjenza tal-Kontenut biex jiċċekkjaw immaġnijiet, awdjo u PDFs għal sinjali ta’ provenjenza ta’ OpenAI u jintegraw il-verifika fl-applikazzjonijiet jew fil-flussi tax-xogħol tagħhom stess. Organizzazzjonijiet b’każ ta’ użu li jissodisfa l-kriterji jistgħu japplikaw għal limiti ogħla.

Għat-test, f’konformità mal-obbligi tagħna skont l-Att tal-UE dwar l-IA, organizzazzjonijiet b’każ ta’ użu li jissodisfa l-kriterji jistgħu japplikaw għal aċċess għad-detettur tat-test. Dawn jinkludu istituzzjonijiet tar-riċerka, akkademiċi u simili li jistudjaw il-provenjenza tat-test, l-affidabbiltà tad-detezzjoni jew kif in-nies jifhmu r-riżultati tal-provenjenza. Se nirrevedu l-applikazzjonijiet minn organizzazzjonijiet li jissodisfaw il-kriterji fuq bażi ta’ każ b’każ u nsegwu, kif xieraq, b’aġġornamenti jew talbiet għal aktar informazzjoni. L-approċċ tagħna għall-aċċess jista’ jevolvi hekk kif nitgħallmu aktar u ntejbu t-teknoloġija.

Bħalissa qed nikkollaboraw ma’ grupp limitat ta’ riċerkaturi, fosthom John Thickstun, Assistent Professur tax-Xjenza tal-Kompjuter fl-Università ta’ Cornell, Martin Vechev, Professur tax-Xjenza tal-Kompjuter fl-ETH Zurich u Direttur Xjentifiku ta’ INSAIT, u riċerkaturi fl-Istitut Kempelen tat-Teknoloġiji Intelliġenti (KInIT), biex nifhmu aħjar il-kapaċitajiet u l-limitazzjonijiet tat-teknoloġija u niggwidaw it-titjib fl-immarkar tat-test b’marki tal-ilma.

Min hu eliġibbli għal limiti ta’ verifika ogħla, u l-kontrolli jsiru bi ħlas?

Il-kontrolli bl-API tal-Provenjenza tal-Kontenut bħalissa huma bla ħlas u soġġetti għal limiti ta’ użu. Il-programm għal limiti ogħla jiffoka fuq proġetti eliġibbli ta’ provenjenza fl-interess pubbliku u flussi tax-xogħol għall-integrità tal-informazzjoni, bħall-verifika fil-kmamar tal-aħbarijiet, il-verifika tal-fatti, ir-riċerka dwar il-provenjenza tal-kontenut u s-sorveljanza regolatorja.

L-użi ġenerali fin-negozju bħalissa huma barra mill-ambitu tal-programm, bħall-prevenzjoni tal-frodi, l-awtentikazzjoni u l-verifika għal skopijiet kummerċjali, jew il-bejgħ mill-ġdid bħala parti minn pakketti ta’ servizzi ta’ provenjenza u analiżi tad-data.

Organizzazzjonijiet b’każ ta’ użu eliġibbli jistgħu japplikaw għal limiti ogħla, iżda s-sottomissjoni ta’ applikazzjoni ma tiggarantixxix l-approvazzjoni. L-API pubblika tibqa’ disponibbli taħt il-limiti predefiniti tagħha, inkluż għal evalwazzjonijiet fuq skala iżgħar. Ikkonsulta d-dokumentazzjoni tal-API tal-Provenjenza tal-Kontenut għal-limiti attwali tal-użu.

Min jikkwalifika għall-aċċess għad-detettur tat-test, u l-verifiki jsiru bi ħlas?

Il-verifiki bid-detettur tat-test bħalissa huma bla ħlas. L-applikanti eliġibbli jinkludu istituzzjonijiet tar-riċerka, akkademiċi u simili li jistudjaw il-provenjenza tat-test, l-affidabbiltà tad-detezzjoni jew kif in-nies jifhmu r-riżultati tal-provenjenza. Applikazzjonijiet oħra bħalissa ma jaqgħux fl-ambitu tal-programm.

Xi jfissru r-riżultati tal-verifika?

Jekk jinstab sinjal permezz ta’ openai.com/verify jew tal-API ta’ OpenAI għall-Provenjenza tal-Kontenut, dan ifisser li l-kontenut imtella’ fih sinjal ta’ provenjenza appoġġjat assoċjat ma’ OpenAI. Dan jindika li l-kontenut ġie pproċessat b’għodda ta’ OpenAI; is-sinjal waħdu ma jurix jekk il-kontenut ġiex iġġenerat jew editjat bl-għodod ta’ OpenAI, jew sa liema punt. L-għodda ma tikkonfermax li l-kontenut huwa preċiż, mhux editjat, miżmum legalment mis-sid tiegħu jew ippreżentat fil-kuntest korrett. Lanqas ma tidentifika min ħoloq il-kontenut jew għaliex inħoloq.

Jekk ma jinstab ebda sinjal, dan ifisser li l-għodda ma sabitx sinjali ta’ provenjenza maħruġa minn OpenAI fil-fajl imtella’. Il-kontenut xorta jista’ jkun ġie pproċessat minn OpenAI jekk:

  • Il-kontenut inħoloq qabel ma saru disponibbli s-sinjali ta’ provenjenza.

  • Il-kontenut ġie minn prodott, mudell, metodu ta’ esportazzjoni jew tip ta’ fajl mhux appoġġjat.

  • Il-metadata tneħħiet waqt it-tlugħ, it-tniżżil, l-editjar, il-konverżjoni jew il-qsim.

  • Marka tal-ilma ddgħajfet minħabba kompressjoni, qtugħ, storbju, modifiki, konverżjoni tal-format jew trasformazzjonijiet oħra.

  • Silta awdjo hija qasira wisq jew ġiet modifikata b’mod sinifikanti.

Kif nista’ nikseb l-aktar riżultat ta’ verifika affidabbli?

Tella’ fajl appoġġjat wieħed kull darba u, meta jkun possibbli, uża l-fajl oriġinali esportat. Għall-immaġnijiet, evita li taqta’ t-truf jew tikkonverti l-fajl qabel tiċċekkjah. Għall-awdjo, siltiet ta’ bejn 10 u 60 sekonda ġeneralment jagħtu l-aħjar riżultati. Anki meta ma jinstab l-ebda sinjal, ikkunsidra s-sors u l-kuntest tal-fajl qabel tasal għal konklużjoni.

Ir-riżultati juru l-prompt jew l-informazzjoni personali tiegħi?

Is-sinjali ta’ provenjenza ma jinkludux dettalji dwar l-utent, l-organizzazzjoni jew il-prompt. 

X’jiġri mill-kontenut li nivverifika permezz ta’ openai.com/verify jew l-API għall-Provenjenza tal-Kontenut?

Il-kontenut imtella’ fuq openai.com/verify, jew sottomess lill-API tagħna għall-Provenjenza tal-Kontenut għall-verifika, jiġi pproċessat biss biex jiġi ċċekkjat għal sinjali appoġġjati ta’ provenjenza. Il-kontenut ma jinħażinx sakemm dan ma jkunx meħtieġ bil-liġi u ma jintużax biex jitħarrġu l-mudelli ta’ OpenAI. 

OpenAI tista’ tidentifika kontenut iġġenerat b’għodod oħra tal-IA?

L-għodod tagħna għall-provenjenza tal-kontenut huma mfassla biex isibu sinjali ta’ provenjenza appoġġjati assoċjati ma’ kontenut iġġenerat minn mudelli ta’ OpenAI jew esportat b’għodod ta’ OpenAI. Mhumiex imfassla biex jidentifikaw kontenut iġġenerat minn mudelli oħra tal-IA, u jistgħu wkoll ma jidentifikawx kontenut iġġenerat minn OpenAI jekk is-sinjal rilevanti jkun nieqes, mhux appoġġjat jew degradat.

Kif jaħdem l-immarkar b’marki tal-ilma

Il-marki tal-ilma jiddeterminaw l-awtur, is-sjieda jew ir-responsabbiltà legali?

Le. Marka tal-ilma hija evidenza li mudell ta’ OpenAI x’aktarx iġġenera jew ipproċessa l-kontenut. Waħedha, ma tistabbilixxix min ħoloq il-kontenut jew ta’ min hu, jekk kienx meħtieġ żvelar, jew min hu legalment responsabbli. Lanqas ma tindika jekk il-mudell kienx qed jeditja kontenut imtella’ minn utent.

Il-marki tal-ilma jindikaw sa liema punt kien involut mudell ta’ OpenAI?

Le. Ir-rilevatur jirrapporta jekk sabx marka tal-ilma. Jekk tinstab waħda, din hija evidenza li mudell ta’ OpenAI x’aktarx iġġenera jew ipproċessa l-kontenut, iżda ma turix jekk il-mudell iġġenerax parti minnu jew kollu, jew kemm ikkontribwiet persuna.

Kif jaħdem l-immarkar tat-test b’marki tal-ilma?

L-immarkar tat-test b’marki tal-ilma joħloq xejra sigrieta fl-għażliet tal-mudell ta’ kliem u biċċiet ta’ kliem, imsejħa “tokens”, waqt li jikteb.

F’kull pass, il-mudell jassenja probabbiltà lil kull token possibbli li jmiss. Is-sistema tal-immarkar b’marki tal-ilma toħloq diversi settijiet aġġustati ta’ dawk il-probabbiltajiet, u kull wieħed jiffavorixxi għażliet differenti skont ċavetta sigrieta. Is-settijiet huma bbilanċjati b’tali mod li, meta tittieħed il-medja tagħhom flimkien, jaqblu mal-probabbiltajiet oriġinali tal-mudell. Iċ-ċavetta tagħżel liema sett jintuża, u l-mudell imbagħad jagħmel għażla każwali ġdida minn dak is-sett.

Rilevatur bl-istess ċavetta u settings li jaqblu jista’ aktar tard jiċċekkja jekk it-test isegwix ix-xejra sigrieta aktar spiss milli jkun mistenni b’kumbinazzjoni.

Il-marki tal-ilma fit-test japplikaw għal test fattwali u test ipprovdut mill-utent?

L-immarkar tat-test b’marki tal-ilma jiddependi fuq jekk il-mudell għandux modi differenti kif jgħid xi ħaġa. Hemm inqas flessibbiltà meta tweġiba trid tkun strettament fattwali jew preċiża, bħal tweġiba għal problema tal-matematika, jew meta l-mudell jintalab jirriproduċi test ipprovdut mingħajr ma jbiddlu. F’dawn il-każijiet, il-mudell għandu inqas lok biex ibiddel il-kliem mingħajr differenza li tinħass, u għalhekk il-marka tal-ilma tista’ ma tinstabx.

Il-marki tal-ilma fit-test japplikaw għal tweġibiet qosra u kodiċi?

Siltiet qosra normalment ma jkunx fihom biżżejjed test biex marka tal-ilma tinstab b’mod affidabbli. Huwa wkoll aktar diffiċli li tiddaħħal marka tal-ilma fil-kodiċi, għax hemm inqas għażliet plawżibbli għal dak li jiġi wara milli fi proża ordinarja.

Biex iqis dawn il-limitazzjonijiet, il-Kodiċi ta’ Prattika dwar it-Trasparenza tal-Kontenut Iġġenerat mill-IA skont l-Att tal-UE dwar l-IA ma jirrikjedix marki tal-ilma f’outputs iqsar minn 200 token—madwar 150 kelma bl-Ingliż—jew f’siltiet ta’ kodiċi.

Kif tvarja d-detezzjoni tal-marki tal-ilma fit-test skont il-lingwa?

Ir-rati ta’ detezzjoni jvarjaw skont il-lingwa, u bħalissa huwa aktar faċli li jinstabu marki f’ċerti lingwi milli f’oħrajn. Nistgħu naġġustaw is-saħħa tal-marka tal-ilma biex intejbu d-detezzjoni f’lingwi fejn is-sinjal ikun aktar dgħajjef.

languages (1)

Din il-graff tevalwa r-rata ta’ detezzjoni fl-24 lingwa uffiċjali kollha tal-UE. L-ewwel iġġenerajna 500 prompt sintetiku bl-Ingliż dwar suġġetti differenti, imbagħad ittraduċejniehom fit-23 lingwa l-oħra. B’rata ta’ pożittivi foloz ta’ 1%, l-Ispanjol għandu l-ogħla rata ta’ detezzjoni (69.0%), filwaqt li r-Rumen għandu l-aktar waħda baxxa (42.2%). Il-marka tal-ilma tagħna għandha parametru aġġustabbli tas-saħħa — “regolatur” li jsaħħaħ jew idgħajjef is-sinjal tal-marka tal-ilma għal oqsma differenti. B’dan ir-regolatur, stajna nżidu s-saħħa għal lingwi b’rati ta’ detezzjoni taħt is-60%; il-partijiet blu ċar tal-kolonni juru t-titjib li rriżulta.

Il-marki tal-ilma fit-test inaqqsu l-kwalità tal-mudell?

Skont it-testijiet tagħna, le. Fit-testijiet ta’ referenza li nużaw biex nivvalutaw Astra, l-aħħar mudell avvanzat tagħna, id-differenzi fil-prestazzjoni bil-marki tal-ilma u mingħajrhom jaqgħu fil-limiti tal-varjazzjoni każwali li normalment nosservaw bejn evalwazzjoni u oħra. Testijiet preċedenti f’ChatGPT ukoll ma wrew l-ebda bidla fir-rati ta’ valutazzjonijiet negattivi jew f’miżuri oħra tal-prodott wara l-introduzzjoni tal-marki tal-ilma. 

Il-marki tal-ilma fit-test inaqqsu l-veloċità tal-mudell?

L-immarkar tat-test b’marki tal-ilma għandu impatt negliġibbli fuq il-veloċità tal-mudelli tagħna. 

Kif ivarjaw il-filigrani tat-test ta’ OpenAI mill-għodod ta’ partijiet terzi għad-detezzjoni tal-IA?

L-għodod ta’ detezzjoni ta’ partijiet terzi bħal Pangram tipikament jużaw klassifikaturi biex jidentifikaw test iġġenerat mill-IA minn xejriet bħall-għażla tal-kliem. Dak l-approċċ janalizza t-test wara li jiġi ġġenerat minflok ma jfittex sinjal inkorporat fih. L-Att tal-UE dwar l-IA jirrikjedi speċifikament li jiġi inkorporat sinjal fit-test iġġenerat. 

Għaliex qed tużaw il-marki tal-ilma tagħkom stess għat-test minflok TextSeal jew SynthID?

Żviluppajna l-metodu tagħna stess għall-immarkar tat-test b’marki tal-ilma, imsejjaħ textGrain, biex jagħtina aktar kontroll minn SynthID jew TextSeal fuq il-bilanċ bejn kemm il-marka tal-ilma tista’ tinstab u l-varjetà ta’ tweġibiet iġġenerati mill-istess prompt. Fit-testijiet tagħna, l-approċċ tagħna identifika b’mod korrett proporzjon simili jew ogħla ta’ kampjuni ta’ test b’marki tal-ilma meta mqabbel ma’ SynthID għat-test. Qed nippjanaw li noħorġu textGrain bħala teknoloġija b’sors miftuħ sabiex oħrajn ikunu jistgħu jibnu fuqha u jgħinu biex itejbu l-immarkar tat-test b’marki tal-ilma.

L-immarkar tat-test b’marki tal-ilma jżid karattri moħbija, tokens żejda jew bidliet viżibbli?

Le. L-immarkar tat-test b’marki tal-ilma jibdel ix-xejra statistika tal-għażliet tal-kliem; ma jdaħħalx karattri moħbija jew iżid tokens apposta għall-marka tal-ilma. Il-marka tal-ilma mhijiex viżibbli għall-qarrejja, u l-ikkupjar u t-twaħħil tat-test ma jintroduċux materjal moħbi.

Gwida għall-klijenti

Bħala klijent tal-API, kif nattiva l-marki tal-ilma għat-test?

Il-klijenti tal-API ta’ OpenAI jistgħu jattivaw l-immarkar tat-test b’marki tal-ilma għal proġett speċifiku permezz tas-Settings, jew għall-organizzazzjoni kollha tagħhom permezz tas-Settings tal-organizzazzjoni. F’kull każ, il-klijenti jistgħu jagħżlu għal liema mudell jew mudelli tiġi applikata marka tal-ilma fit-test. Meta tattiva l-immarkar tat-test b’marki tal-ilma għal mudell appoġġjat, OpenAI żżid il-marka tal-ilma waqt il-ġenerazzjoni tat-test. Il-klijenti m’għandhomx għalfejn iżidu marka separata ma’ kull tweġiba.

Attiva Ħalli t-test jiġi mmarkat b’marki tal-ilma, agħżel il-mudelli tiegħek, imbagħad agħżel Issejvja.

  1. Issettjar predefinit tal-organizzazzjoni: Mur f’Settings tal-organizzazzjoni > Kontrolli tad-data.

  2. Agħżel Provenjenza tat-test.

image (90)

Issettjar speċifiku għall-proġett: Mur f’Settings tal-proġett > Provenjenza tat-test.

image (91)

Għal liema mudelli nista’ nattiva l-filigrani?

Minn Issettjar u Issettjar tal-organizzazzjoni, il-klijenti jistgħu jaraw il-lista ta’ mudelli li bħalissa jappoġġjaw il-filigrani. Matul il-ġimgħat li ġejjin, se nestendu l-appoġġ għall-mudelli preċedenti kollha.

Meta nattiva l-marki tal-ilma fit-test, nikseb ukoll aċċess għar-rilevatur tat-test?

Le. L-aċċess għar-rilevatur tat-test bħalissa huwa limitat għal organizzazzjonijiet ta’ riċerka u akkademiċi approvati li jaħdmu biex itejbu l-affidabbiltà tal-immarkar tat-test b’marki tal-ilma, il-faċilità tal-użu tiegħu, u ċ-ċarezza tal-ispjegazzjonijiet tat-teknoloġija u tar-riżultati tagħha. Dan huwa konformi mal-impenji tagħna skont il-Kodiċi ta’ Prattika dwar it-Trasparenza tal-Kontenut Iġġenerat mill-IA tal-Att tal-UE dwar l-IA.

Is-sinjali jibqgħu marbuta mal-kontenut wara li nittrasformah?

Jistgħu jibqgħu, iżda dan jiddependi fuq is-sinjal u l-bidliet li tagħmel.

Għall-immaġnijiet u l-awdjo appoġġjati, żomm kopja oriġinali u uża l-API għall-Provenjenza tal-Kontenut biex tittestja fajls rappreżentattivi wara l-editjar, il-konverżjoni u l-pubblikazzjoni. Fl-immaġnijiet, il-qtugħ tat-truf, iż-żieda tal-istorbju, il-konverżjoni għal JPEG u t-teħid ta’ screenshots jistgħu jagħmlu s-sinjali aktar diffiċli biex jinstabu. Tista’ tittestja t-test b’dan il-mod biss jekk l-organizzazzjoni tiegħek għandha aċċess approvat għad-dettettur tat-test.

Fejn il-format tal-fajl u l-fluss tax-xogħol tiegħek jappoġġjaw dan, ippreserva l-metadata C2PA eżistenti u inkludi l-Kredenzjali tal-Kontenut fil-fajls li tipproduċi. Tista’ wkoll tikkunsidra li żżid il-marki tiegħek stess biex l-informazzjoni dwar il-provenjenza tibqa’ disponibbli għal aktar żmien jew tkun aktar utli. Ara d-dokumentazzjoni teknika ta’ C2PA għad-dettalji tal-implimentazzjoni.

Fit-test, il-filigrana hija parti mill-għażliet tal-kliem tal-mudell. Jekk iżżomm l-istess kliem, is-sinjal mistenni jibqa’ meta terġa’ tuża t-test, mingħajr xogħol addizzjonali ta’ integrazzjoni. Kitba mill-ġdid sostanzjali, parafrażi jew traduzzjoni jistgħu jagħmlu d-detezzjoni inqas affidabbli. Anki jekk il-kliem jibqa’ l-istess, dan ma jiggarantixxix li l-filigrana tkun tista’ tinstab, speċjalment f’siltiet qosra jew f’test li ftit jippermetti għażliet differenti ta’ kliem.

Naċċessa l-mudelli ta’ OpenAI permezz ta’ servizz tal-cloud. Il-kontenut iġġenerat b’dan il-mod fih ukoll sinjali ta’ provenjenza?

Il-kopertura tal-marki tal-ilma għall-mudelli ta’ OpenAI distribwiti permezz ta’ Azure tvarja skont il-mudell u l-modalità. Ikkuntattja lil Microsoft għall-informazzjoni attwali dwar id-disponibbiltà u l-kopertura. Qed naħdmu biex nestendu l-kopertura tas-sinjali ta’ provenjenza għall-kontenut iġġenerat li jitqassam permezz ta’ servizzi oħra tal-cloud.

Is-sinjali ta’ provenjenza jieħdu post it-tikketti viżibbli tal-IA jew żvelar ieħor?

Le. Il-marki tal-ilma u l-metadata C2PA jipprovdu informazzjoni li s-software jista’ jaqra. Ma jiħdux post tikketti viżibbli, banners jew avviżi oħra li jistgħu jkunu meħtieġa.

Jekk għandekx bżonn żvelar addizzjonali jiddependi minn kif u fejn tuża l-kontenut. OpenAI ma tistax tagħtik parir dwar l-obbligi legali speċifiċi tiegħek; it-tim legali tiegħek għandu jivvaluta r-rekwiżiti għall-użu tiegħek.

Għandi aktar mistoqsijiet dwar l-Att tal-UE dwar l-IA

Jekk jogħġbok ibgħat mistoqsija dwar l-Att tal-UE dwar l-IA, u nwieġbuk.

Dan l-artiklu kien ta’ għajnuna?