OpenAI използва сигнали за произход, като водни знаци SynthID и Content Credentials (C2PA), за да помага на хората да разберат дали съдържанието е генерирано с инструменти на OpenAI. Сигналите за произход могат да бъдат полезни показатели за източника, но не гарантират, че съдържанието е точно, нередактирано, законно притежавано или представено в правилния контекст.
Какво представлява стандартът C2PA и какво позволява?
C2PA е отворен технически стандарт, който позволява на издатели, компании и други организации да вграждат метаданни в медийно съдържание за проверка на неговия произход и свързаната информация. C2PA не е предназначен само за съдържание, генерирано с ИИ. Същият стандарт се възприема и от производители на фотоапарати, новинарски организации и други, за да удостоверяват източника и историята, тоест произхода, на медийното съдържание.
Метаданните на C2PA могат да включват информация като инструмента или услугата, създали даден файл, момента на създаването му и други подробности за неговия произход или история.
Научете повече за C2PA.
Какво представлява SynthID и какво позволява?
SynthID е технология за невидими водни знаци, която вгражда сигнал директно в генерираното медийно съдържание. За разлика от метаданните, сигналът е част от самото съдържание и може да се запази след някои редакции или преобразувания.
SynthID предоставя допълнителен сигнал за произход наред с метаданните на C2PA. Например, ако метаданните бъдат премахнати от даден файл, вграденият воден знак може все още да показва, че съдържанието е генерирано с поддържани инструменти на OpenAI.
Какви видове съдържание, генерирано от OpenAI, включват сигнали за произход?
OpenAI използва различни сигнали за произход за различните типове съдържание.
| Тип съдържание | Сигнали за произход | Бележки |
|---|---|---|
| Изображения | Метаданни на C2PA и водни знаци SynthID | Поддържаните изображения, генерирани с ChatGPT, Codex и API на OpenAI, включват и двата сигнала. |
| Аудио | Водни знаци SynthID | Поддържаното аудио, генерирано от OpenAI, включва недоловим воден знак, вграден в самия звукозапис. |
Обхватът може да варира според продукта, модела, начина на експортиране, типа на файла и момента на създаване на съдържанието.
Защо някои типове съдържание използват различни сигнали за произход?
Различните медийни формати съхраняват информацията за произход по различни начини.
Метаданните, като C2PA Content Credentials, могат да съдържат по-подробна информация, но понякога могат да бъдат премахнати от платформи, инструменти за редактиране или при конвертиране на файлове.
Водните знаци, като SynthID, се вграждат в самото генерирано медийно съдържание и могат да се запазят по-добре при някои преобразувания. Водните знаци обаче обикновено предоставят по-малко контекст от метаданните.
Когато е технически възможно, подходящото съчетаване на двата метода осигурява по-надеждни сигнали за произход.
Как мога да добавя видим воден знак към изображение, генерирано с инструменти на OpenAI?
Можете да поискате към изображенията, генерирани с ChatGPT, Codex и API на OpenAI, да бъде добавено видимо обозначение, като инструктирате модела да го включи. Например при генериране на изображение можете да кажете: „Include a visible OpenAI watermark in the image.“
Видимите водни знаци са отделни от вградените сигнали за произход, като метаданните на C2PA и водните знаци SynthID. Те могат да помогнат на зрителите да разпознаят, че изображението е генерирано с инструменти на OpenAI, но не са същото като машинночетимите сигнали за произход.
Как мога да проверя дали съдържанието е генерирано с инструменти на OpenAI?
Можете да посетите openai.com/verify, за да проверите дали поддържано изображение или аудиофайл съдържа сигнали за произход, свързани със съдържание, генерирано или експортирано чрез инструменти на OpenAI.
След като качите поддържан файл, инструментът ще потърси поддържани сигнали за произход на OpenAI, като воден знак SynthID или надежден C2PA манифест, свързан с OpenAI.
Ако инструментът открие поддържан сигнал за произход на OpenAI, това показва, че съдържанието е генерирано или експортирано чрез инструменти на OpenAI.
Какво означава резултатът от проверката?
Ако бъде открит сигнал, инструментът може да помогне да се потвърди, че каченото съдържание включва поддържан сигнал за произход, свързан с OpenAI.
Инструментът не потвърждава, че съдържанието е точно, нередактирано, законно притежавано или представено в правилния контекст. Той също така не установява кой е създал съдържанието или защо е било създадено.
Какво означава, ако не бъде открит сигнал?
Ако не бъде открит сигнал, това означава, че инструментът не е намерил в качения файл сигнали за произход, издадени от OpenAI.
Съдържанието все пак може да е било генерирано или експортирано от OpenAI, ако:
Съдържанието е създадено, преди сигналите за произход да станат достъпни.
Съдържанието е от неподдържан продукт, модел, начин на експортиране или тип файл.
Метаданните са премахнати при качване, изтегляне, редактиране, конвертиране или споделяне.
Водният знак е влошен поради компресиране, изрязване, шум, редакции, конвертиране на формата или други преобразувания.
Аудиоклипът е твърде кратък или е значително променен.
Планирате ли да поддържате текстови резултати?
В съответствие с нашите ангажименти по Кодекса за добри практики на Европейската комисия относно прозрачността на съдържанието, генерирано с ИИ, целта ни е да разширим сигналите за произход до всички модалности, включително текста. Така клиентите и разработчиците ще разполагат с ясни начини да изпълняват собствените си задължения за прозрачност с развитието на стандартите и инструментите.
Може ли OpenAI Verify да открива съдържание от други инструменти с ИИ?
OpenAI Verify е предназначен да открива поддържани сигнали за произход, свързани със съдържание, генерирано или експортирано чрез инструменти на OpenAI.
Той не е предназначен да открива съдържание, генерирано от други услуги с ИИ, и може да не открие съдържание, генерирано от OpenAI, ако съответният сигнал липсва, не се поддържа или е влошен.
Могат ли разработчиците да проверяват съдържание чрез API?
Разработчиците и организациите могат да използват API за проверка на OpenAI, за да проверяват поддържано съдържание за сигнали за произход на OpenAI и да интегрират проверката в собствените си приложения или работни процеси. Посетете openai.com/verify за информация относно достъпа до API. Организациите, които се нуждаят от по-високи лимити за използване, могат да кандидатстват за увеличаването им. За повече информация посетете openai.com/verify.