Како дел од својата заложба за побезбеден и потранспарентен екосистем на ВИ, OpenAI користи сигнали за потекло за да им помогне на луѓето да разберат дали содржината е генерирана со модел на OpenAI.

Сигналите за потекло може да дадат корисни информации за потеклото, но не гарантираат дека содржината е точна, неизменета, во законска сопственост или претставена во соодветен контекст.

Сигналите за потекло на OpenAI

Кои сигнали за потекло ги користи OpenAI?

OpenAI користи различни сигнали за потекло за различни видови содржина.

Опфатот може да се разликува според производот, моделот, начинот на извоз, видот на датотеката и времето кога е создадена содржината. Излезните содржини од API се опфатени, освен кај моделите планирани за наскоро да бидат повлечени од употреба, вклучувајќи ги gpt-image-1, gpt-image-1.5 и sora-2. 

Зошто за некои видови содржина се користат повеќе сигнали?

Кога е технички изводливо, OpenAI комбинира метаподатоци и водени жигови за меѓусебно да ги надополнат своите ограничувања. Метаподатоците може да содржат детални информации, но платформите, алатките за уредување и конверзиите на датотеки може да ги отстранат. Водените жигови даваат помалку контекст, но бидејќи се вградени во самата генерирана содржина, може да опстојат по некои трансформации што ги отстрануваат метаподатоците. 

Колку се отпорни сигналите за потекло на измени на содржината?

Водените жигови SynthID за слики и аудио и водените жигови textGrain за текст се осмислени да издржат вообичаени измени. Во зависност од видот на содржината, тоа може да вклучува мали уредувања, копирање и лепење, отсекување или правење слики од екранот. Пообемните измени — како значително отсекување на сликата, компресија на датотеката, обемно парафразирање или преведување — може да го направат водениот жиг неоткрилив. По обемни измени, и опишувањето на резултатот како „генериран од OpenAI“ може да има помала смисла.

Потврдите за содржина, развиени од Коалицијата за потекло и автентичност на содржината, може да се изгубат при секојдневни дејства, како правење слика од екранот или конверзија на датотека. Кога ќе се зачуваат, тие може да дадат повеќе детали за потеклото и историјата на датотеката отколку сам воден жиг.

Кога е технички можно, ги користиме двата метода за да ја зголемиме веројатноста информациите за потеклото да останат и по измени на содржината.

Што се Потврди за содржина и што овозможуваат?

Потврдите за содржина приложуваат информации за потеклото и историјата на датотеката, како на пример со која алатка е создадена и кога. Тие користат отворен стандард развиен од Коалицијата за потекло и автентичност на содржината (C2PA), поради што понекогаш се нарекуваат „метаподатоци C2PA“.

Потврдите за содржина им помагаат на луѓето да проверат од каде потекнува содржината. Не се користат само за содржина генерирана со ВИ: производителите на камери, новинските организации и други го користат стандардот за да ги потврдат изворот и историјата на своите медиумски содржини. Дознајте повеќе за C2PA.

Што е SynthID и што овозможува?

SynthID е технологија за невидливи водени жигови развиена од Google DeepMind, која вградува сигнал директно во генерираната медиумска содржина. За разлика од метаподатоците, сигналот е дел од самата содржина и може да остане по одредени измени или трансформации. SynthID обезбедува дополнителен сигнал за потекло покрај метаподатоците C2PA. На пример, ако метаподатоците се отстранат од датотека, вградениот воден жиг сепак може да укаже дека содржината е генерирана со поддржани алатки на OpenAI. Дознајте повеќе за SynthID.

Зошто вградувате водени жигови во текстуалните излезни содржини?

Воведуваме водени жигови во текст за корисниците на ChatGPT во ЕУ за да го почитуваме Законот за ВИ на ЕУ и во согласност со нашите обврски според Кодексот на практики на ЕУ за транспарентност на содржината генерирана со ВИ, кој OpenAI го потпиша заедно со неколку други големи даватели на ВИ. 

Што е textGrain и што овозможува?

textGrain е технологијата на OpenAI за вградување водени жигови во текст. Таа суптилно го приспособува начинот на кој моделот по случаен избор избира меѓу можните зборови или делови од зборови додека пишува. Во рамките на еден пасус, овие избори создаваат образец што детекторот може да го бара, дури и по одредени измени.

Водениот жиг е дел од самата формулација на текстот и не е видлив за читателите. Не додава скриени знаци, невидливи празни места или необична интерпункција. Вградувањето водени жигови во текст помага во исполнувањето на барањето од Законот за ВИ на ЕУ за означување на генериран текст.

Алатките за проверка на OpenAI

Како можам да проверам дали содржината е генерирана со алатки на OpenAI?

Може да ја посетите страницата openai.com/verify за да проверите дали поддржана слика или аудиодатотека содржи сигнали за потекло поврзани со содржина генерирана или извезена со алатки на OpenAI. Откако ќе прикачите поддржана датотека, алатката ќе побара поддржани сигнали за потекло од OpenAI, како воден жиг SynthID или доверлив манифест C2PA поврзан со OpenAI. Ако алатката најде поддржан сигнал за потекло од OpenAI, тоа укажува дека содржината веројатно е генерирана од модел на OpenAI.

Програмерите и организациите може да го користат и API за потекло на содржина на OpenAI за да проверуваат слики и аудио за сигнали за потекло од OpenAI и да ја интегрираат проверката во своите апликации или работни процеси. Организациите со намена што ги исполнува условите може да поднесат барање за повисоки лимити. 

За текст, во согласност со нашите обврски според Законот за ВИ на ЕУ, организациите со намена што ги исполнува условите, како академски и истражувачки организации што го проучуваат потеклото на текстот, сигурноста на откривањето или начинот на кој луѓето ги разбираат резултатите за потеклото, може да поднесат барање за пристап до детекторот за текст. Барањата од организациите што ги исполнуваат условите ќе ги разгледуваме поединечно и, по потреба, ќе им испратиме новости или ќе побараме дополнителни информации. Нашиот пристап кон одобрувањето пристап може да се менува со новите сознанија и подобрувањето на технологијата.

Во моментов соработуваме со ограничена група истражувачи, меѓу кои се Џон Тикстун, доцент по компјутерски науки на Универзитетот Корнел, Мартин Вечев, професор по компјутерски науки на ETH Цирих и научен директор на INSAIT, и истражувачи од Институтот за интелигентни технологии Кемпелен (KInIT), за подобро да ги разбереме можностите и ограничувањата на технологијата и да ги искористиме сознанијата за подобрување на водените жигови во текст.

Кој ги исполнува условите за повисоки лимити за проверка и дали проверките се наплаќаат?

Проверките преку API за потекло на содржина во моментов се бесплатни и подлежат на лимити за користење. Програмата за повисоки лимити е наменета за проекти од јавен интерес за потекло на содржината и работни процеси за интегритет на информациите што ги исполнуваат условите, како проверки во редакции, проверка на факти, истражување на потеклото на содржината и регулаторен надзор.

Општите деловни примени се во моментов надвор од опфатот на програмата, како комерцијално спречување измами, автентикација и верификација или препродажба во рамки на пакети услуги за потекло на содржина и анализа на податоци.

Организациите со намена што ги исполнува условите може да поднесат барање за повисоки лимити, но поднесувањето барање не гарантира одобрување. Јавниот API останува достапен со своите стандардни лимити, вклучително и за евалуации од помал обем. За тековните лимити за користење, погледнете ја документацијата за API за потекло на содржина.

Кој ги исполнува условите за пристап до детекторот за текст и дали проверките се наплаќаат?

Проверките со детекторот за текст во моментов се бесплатни. Условите ги исполнуваат намени на академски и истражувачки организации што го проучуваат потеклото на текстот, сигурноста на откривањето или начинот на кој луѓето ги разбираат резултатите за потеклото.

Општите деловни примени се во моментов надвор од опфатот на програмата, како комерцијално спречување измами, автентикација и верификација или препродажба во рамки на пакети услуги за потекло на содржина и анализа на податоци.

Примените за академски интегритет, како проверка на студентски трудови за употреба на ВИ (на пр. при пишување есеи или тези), исто така се во моментов надвор од опфатот на програмата.

Што значат резултатите од проверката?

Ако е откриен сигнал преку openai.com/verify или API за потекло на содржина на OpenAI, тоа значи дека прикачената содржина содржи поддржан сигнал за потекло поврзан со OpenAI. Алатката не потврдува дека содржината е точна, неизменета, во законска сопственост или претставена во соодветен контекст. Исто така, не утврдува кој ја создал содржината или зошто е создадена.

Ако не е откриен сигнал, тоа значи дека алатката не нашла сигнали за потекло издадени од OpenAI во прикачената датотека. Содржината сепак би можела да биде генерирана или извезена со OpenAI ако:

• Содржината е создадена пред да станат достапни сигналите за потекло.

• Содржината потекнува од неподдржан производ, модел, начин на извоз или вид на датотека.

• Метаподатоците се отстранети при прикачување, преземање, уредување, конверзија или споделување.

• Водениот жиг е ослабен поради компресија, отсекување, шум, уредувања, конверзија на форматот или други трансформации.

• Аудиоисечокот е прекраток или е значително изменет.

Како можам да добијам најсигурен резултат од проверката?

Прикачувајте по една поддржана датотека и, кога е можно, користете ја оригиналната извезена датотека. Кај сликите, избегнувајте отсекување или конверзија на датотеката пред проверката. Кај аудиото, исечоците од 10 до 60 секунди обично даваат најдобри резултати. Дури и кога не е откриен сигнал, земете ги предвид изворот и контекстот на датотеката пред да донесете заклучок.

Дали резултатите го прикажуваат мојот промпт или моите лични податоци?

Сигналите за потекло не содржат детали за корисникот, организацијата или промптот. 

Што се случува со содржината што ја проверувам преку openai.com/verify или API за потекло на содржина?

Содржината прикачена на openai.com/verify или испратена на проверка до нашиот API за потекло на содржина се обработува само за да се провери дали има поддржани сигнали за потекло. Содржината не се чува освен ако тоа не е законски задолжително и не се користи за обучување на моделите на OpenAI. 

Може ли OpenAI да открие содржина генерирана со други алатки за ВИ?

Нашите алатки за потекло на содржината се наменети за откривање поддржани сигнали за потекло поврзани со содржина генерирана од модели на OpenAI или извезена со алатки на OpenAI. Тие не се наменети за откривање содржина генерирана од други модели за ВИ, а може да не откријат ни содржина генерирана од OpenAI ако соодветниот сигнал недостасува, не е поддржан или е ослабен.

Како функционира вградувањето водени жигови

Дали водените жигови го утврдуваат авторството, сопственоста или правната одговорност?

Не. Водениот жиг е доказ дека модел на OpenAI веројатно ја генерирал или обработил содржината. Сам по себе, тој не утврдува кој е автор или сопственик на содржината, дали било задолжително да се објави известување за употребата на ВИ или кој е правно одговорен. Исто така, не покажува дали моделот уредувал содржина прикачена од корисник.

Дали водените жигови покажуваат во колкава мера учествувал модел на OpenAI?

Не. Детекторот пријавува дали нашол воден жиг. Наоѓањето воден жиг е доказ дека модел на OpenAI веројатно ја генерирал или обработил содржината, но не покажува дали моделот генерирал дел од неа или целата содржина, ниту колкав бил човечкиот придонес.

Како функционира вградувањето водени жигови во текст?

Вградувањето воден жиг во текст создава таен образец во изборот на зборови и делови од зборови, наречени „токени“, што моделот го прави додека пишува.

На секој чекор, моделот доделува веројатност за секој можен следен токен. Системот за водени жигови создава неколку приспособени множества од тие веројатности, од кои секое им дава предност на различни избори според таен клуч. Множествата се урамнотежени така што нивните просечни вредности се совпаѓаат со првичните веројатности на моделот. Клучот одредува кое множество ќе се користи, а моделот потоа прави нов случаен избор од тоа множество.

Детектор со истиот клуч и соодветни поставки подоцна може да провери дали текстот го следи тајниот образец почесто отколку што би се очекувало по случајност.

Дали текстуалните водени жигови се применуваат на фактички текст и на текст доставен од корисник?

Вградувањето воден жиг во текст зависи од тоа дали моделот има различни начини да изрази нешто. Има помалку флексибилност кога одговорот мора строго да се држи до фактите или да биде прецизен, како решението на математичка задача, или кога од моделот се бара да го пренесе доставениот текст без измени. Во овие случаи, моделот има помалку простор да ја промени формулацијата без забележлива разлика, па водениот жиг можеби нема да биде откриен.

Дали текстуалните водени жигови се применуваат на кратки одговори и код?

Кратките пасуси обично не содржат доволно текст за сигурно откривање на воден жиг. И во кодот е потешко да се вгради воден жиг, бидејќи има помалку соодветни можности за тоа што следува отколку во обичен текст.

Земајќи ги предвид овие ограничувања, Кодексот на практики за транспарентност на содржината генерирана со ВИ во рамките на Законот за ВИ на ЕУ не бара водени жигови во излезни содржини пократки од 200 токени — околу 150 зборови на англиски — ниту во исечоци од код.

Како се разликува откривањето текстуални водени жигови според јазикот?

Стапките на откривање се разликуваат според јазикот, а во моментов водените жигови полесно се откриваат на некои јазици отколку на други. Можеме да ја приспособиме јачината на водениот жиг за да го подобриме откривањето на јазиците кај кои сигналот е послаб.

Овој графикон ја прикажува стапката на откривање за сите 24 службени јазици на ЕУ. Прво генериравме 500 синтетички промптови на англиски на различни теми, а потоа ги преведовме на другите 23 јазици. При стапка на лажно позитивни резултати од 1%, шпанскиот има највисока стапка на откривање (69,0%), а романскиот најниска (42,2%). Нашиот воден жиг има приспособлив параметар за јачина — „регулатор“ што го засилува или ослабува сигналот на водениот жиг за различни области. Со овој регулатор успеавме да ја зголемиме јачината за јазиците со стапка на откривање под 60%; светлосините делови од столбовите го покажуваат постигнатото подобрување.

Дали текстуалните водени жигови го намалуваат квалитетот на моделот?

Според нашите тестови, не. Во референтните тестови што ги користиме за оценување на Astra, нашиот најнов граничен модел, разликите во перформансите со и без водени жигови се во рамките на случајните варијации што обично ги забележуваме меѓу повторените евалуации. И претходните тестови во ChatGPT не покажаа промена во стапките на негативни оценки или во другите показатели за производот по воведувањето водени жигови. 

Дали текстуалните водени жигови ја намалуваат брзината на моделот?

Вградувањето водени жигови во текст има занемарливо влијание врз брзината на нашите модели. 

По што текстуалните водени жигови на OpenAI се разликуваат од алатките на трети страни за откривање содржина генерирана со ВИ?

Алатките за откривање од трети страни, како Pangram, обично користат класификатори за да препознаат текст генериран со ВИ врз основа на обрасци како изборот на зборови. Тој пристап го анализира текстот по генерирањето наместо да открива вграден сигнал. Законот за ВИ на ЕУ изречно бара во генерираниот текст да се вгради сигнал. 

Зошто користите сопствени текстуални водени жигови наместо TextSeal или SynthID?

Развивме сопствен метод за вградување водени жигови во текст, наречен textGrain, за да имаме поголема контрола отколку со SynthID или TextSeal врз рамнотежата меѓу можноста за откривање на водениот жиг и разновидноста на одговорите генерирани од истиот промпт. Во нашите тестови, нашиот пристап правилно препозна сличен или поголем удел од текстуалните примероци со воден жиг во споредба со SynthID за текст. Планираме да го објавиме textGrain како технологија со отворен код за и други да можат да ја надградуваат и да помогнат во подобрувањето на водените жигови во текст.

Дали вградувањето водени жигови во текст додава скриени знаци, дополнителни токени или видливи промени?

Не. Вградувањето водени жигови во текст го менува статистичкиот образец на изборот на зборови; не вметнува скриени знаци ниту додава токени што служат само за водениот жиг. Водениот жиг не е видлив за читателите, а копирањето и лепењето на текстот не внесува скриена содржина.

Насоки за клиентите

Јас сум клиент на API. Како да вклучам текстуални водени жигови?

Клиентите на API на OpenAI може да активираат водени жигови во текст за одреден проект преку Поставки или за целата организација преку Поставки на организацијата. Во двата случаи, клиентите може да изберат за кои модели ќе се вградува текстуален воден жиг. Откако ќе се вклучи за поддржан модел, OpenAI го додава водениот жиг при генерирањето на текстот. Клиентите не треба да додаваат посебна ознака на секој одговор.

Вклучете „Дозволи водени жигови во текст“, изберете ги моделите, а потоа изберете „Зачувај“.

Стандардна поставка за организацијата: Поставки на организацијата → Контроли за податоци → Потекло на текст.

Посебна поставка за проектот: Поставки на проектот → Потекло на текст.

За кои модели можам да активирам водени жигови?

Во Поставки и Поставки на организацијата, клиентите може да ја видат листата на модели за кои во моментов е достапно вградување водени жигови. Во текот на следните недели ќе ја прошириме поддршката на сите постари модели.

Дали со вклучување на текстуалните водени жигови добивам и пристап до детекторот за текст?

Не. Пристапот до детекторот за текст во моментов е ограничен на одобрени истражувачки и академски организации што работат на подобрување на сигурноста и леснотијата на користење на водените жигови во текст, како и на појасно објаснување на технологијата и нејзините резултати. Ова е во согласност со нашите обврски според Кодексот на практики за транспарентност на содржината генерирана со ВИ во рамките на Законот за ВИ на ЕУ.

Дали сигналите ќе останат во содржината откако ќе ја изменам?

Можно е, но тоа зависи од сигналот и од измените што ќе ги направите.

За поддржаните слики и аудио, зачувајте оригинална копија и користете го API за потекло на содржина за да тестирате репрезентативни датотеки по уредување, конверзија и објавување. Кај сликите, отсекувањето, додавањето шум, конверзијата во JPEG и правењето слики од екранот може да го отежнат откривањето на сигналите. На овој начин може да тестирате текст само ако вашата организација има одобрен пристап до детекторот за текст.

Кога форматот на датотеката и работниот процес го дозволуваат тоа, зачувајте ги постојните метаподатоци C2PA и вклучете Потврди за содржина во датотеките што ги создавате. Може да размислите и за додавање сопствени ознаки за информациите за потеклото да бидат потрајни или покорисни. За детали за имплементацијата, погледнете ја техничката документација за C2PA.

Кај текстот, водениот жиг е дел од изборот на зборови на моделот. Ако ја зачувате формулацијата, се очекува сигналот да остане при повторното користење на текстот, без дополнителна работа за интеграција. Значително преработување, парафразирање или преведување може да ја намали сигурноста на откривањето. Дури и непроменетата формулација не гарантира дека водениот жиг ќе може да се открие, особено кај кратки пасуси или текст со малку простор за поинаков избор на зборови.

Пристапувам до моделите на OpenAI преку услуга во облак. Дали и тие излезни содржини содржат сигнали за потекло?

Соработуваме со сите наши даватели на услуги во облак и дистрибутивни партнери за да обезбедиме вградување сигнали за потекло, вклучувајќи водени жигови, во сите соодветни излезни содржини, вклучувајќи слики, аудио и текст. Достапноста може да се разликува во зависност од излезната содржина и партнерот. 

Дали сигналите за потекло ги заменуваат видливите ознаки за ВИ или другите известувања?

Не. Водените жигови и метаподатоците C2PA даваат информации што софтверот може да ги прочита. Тие не ги заменуваат видливите ознаки, банери или други известувања што може да бидат задолжителни.

Дали ви е потребно дополнително известување зависи од тоа како и каде ја користите содржината. OpenAI не може да ве советува за вашите конкретни законски обврски; вашиот правен тим треба да ги процени барањата за вашата употреба.

Имам дополнителни прашања за Законот за ВИ на ЕУ

Ве молиме поднесете прашање за Законот за ВИ на ЕУ и ќе ви одговориме.