OpenAI использует сигналы о происхождении, такие как водяные знаки SynthID и Content Credentials (C2PA), чтобы помочь людям понять, был ли контент создан с помощью инструментов OpenAI. Сигналы о происхождении могут указывать на источник контента, но не гарантируют, что он достоверен, не редактировался, принадлежит кому-либо на законных основаниях или представлен в правильном контексте.
Что такое стандарт C2PA и какие возможности он предоставляет?
C2PA — это открытый технический стандарт, который позволяет издателям, компаниям и другим организациям встраивать в медиаматериалы метаданные для проверки их происхождения и связанных сведений. C2PA предназначен не только для контента, созданного ИИ. Этот стандарт также внедряют производители камер, новостные организации и другие участники, чтобы подтверждать источник и историю происхождения медиаматериалов.
Метаданные C2PA могут включать сведения о том, какой инструмент или сервис создал файл, когда он был создан, а также другие данные о его источнике или истории.
Подробнее о C2PA.
Что такое SynthID и какие возможности он предоставляет?
SynthID — это технология невидимых водяных знаков, которая встраивает сигнал непосредственно в созданные медиаматериалы. В отличие от метаданных, такой сигнал является частью самого контента и может сохраняться после некоторых изменений или преобразований.
SynthID служит дополнительным сигналом о происхождении наряду с метаданными C2PA. Например, если из файла удалить метаданные, встроенный водяной знак всё ещё может указывать на то, что контент был создан с помощью поддерживаемых инструментов OpenAI.
Какие виды контента, созданного OpenAI, содержат сигналы о происхождении?
OpenAI использует разные сигналы о происхождении для разных видов контента.
| Вид контента | Сигналы о происхождении | Примечания |
|---|---|---|
| Изображения | Метаданные C2PA и водяные знаки SynthID | Поддерживаемые изображения, созданные с помощью ChatGPT, Codex и API OpenAI, содержат оба сигнала. |
| Аудио | Водяные знаки SynthID | Поддерживаемые аудиоматериалы, созданные OpenAI, содержат неслышимый водяной знак, встроенный непосредственно в аудиодорожку. |
Охват зависит от продукта, модели, способа экспорта, типа файла и времени создания контента.
Почему для разных видов контента используются разные сигналы о происхождении?
Разные медиаформаты сохраняют сведения о происхождении по-разному.
Метаданные, например C2PA Content Credentials, могут содержать более подробную информацию, но иногда удаляются платформами, инструментами редактирования или при преобразовании файлов.
Водяные знаки, например SynthID, встраиваются непосредственно в созданные медиаматериалы и могут лучше сохраняться после некоторых преобразований. Однако водяные знаки обычно содержат меньше контекстной информации, чем метаданные.
Когда это технически возможно и уместно, сочетание обоих подходов позволяет обеспечить более надёжные сигналы о происхождении.
Как добавить видимый водяной знак на изображение, созданное с помощью инструментов OpenAI?
Чтобы на изображении, созданном с помощью ChatGPT, Codex или API OpenAI, появилась видимая отметка, попросите модель добавить её. Например, при создании изображения можно указать: «Include a visible OpenAI watermark in the image.»
Видимые водяные знаки отличаются от встроенных сигналов о происхождении, таких как метаданные C2PA и водяные знаки SynthID. Они могут помочь зрителям понять, что изображение создано с помощью инструментов OpenAI, однако это не машиночитаемые сигналы о происхождении.
Как проверить, был ли контент создан с помощью инструментов OpenAI?
На сайте openai.com/verify можно проверить, содержит ли поддерживаемое изображение или аудиофайл сигналы о происхождении, связанные с контентом, созданным или экспортированным с помощью инструментов OpenAI.
После загрузки поддерживаемого файла инструмент проверит наличие поддерживаемых сигналов OpenAI о происхождении, например водяного знака SynthID или доверенного манифеста C2PA, связанного с OpenAI.
Если инструмент обнаружит поддерживаемый сигнал OpenAI о происхождении, это указывает на то, что контент был создан или экспортирован с помощью инструментов OpenAI.
Что означает результат проверки?
Если сигнал обнаружен, инструмент помогает подтвердить, что загруженный контент содержит поддерживаемый сигнал о происхождении, связанный с OpenAI.
Инструмент не подтверждает, что контент достоверен, не редактировался, принадлежит кому-либо на законных основаниях или представлен в правильном контексте. Он также не определяет, кто и зачем создал контент.
Что означает отсутствие сигнала?
Если сигнал не обнаружен, это означает, что инструмент не нашёл в загруженном файле сигналов о происхождении, выпущенных OpenAI.
Контент всё равно мог быть создан или экспортирован с помощью OpenAI, если:
Контент был создан до появления сигналов о происхождении.
Контент получен из неподдерживаемого продукта или модели либо с использованием неподдерживаемого способа экспорта или типа файла.
Метаданные были удалены при загрузке, скачивании, редактировании, преобразовании или передаче файла.
Водяной знак был повреждён при сжатии, обрезке, добавлении шума, редактировании, преобразовании формата или других изменениях.
Аудиофрагмент слишком короткий или был существенно изменён.
Планируете ли вы поддерживать текстовые материалы?
В соответствии с нашими обязательствами по Кодексу практики Европейской комиссии в области прозрачности контента, созданного ИИ, мы стремимся распространить сигналы о происхождении на все форматы, включая текст. Это даст клиентам и разработчикам понятные способы выполнять собственные обязательства по обеспечению прозрачности по мере развития стандартов и инструментов.
Может ли OpenAI Verify обнаруживать контент, созданный другими инструментами ИИ?
OpenAI Verify предназначен для обнаружения поддерживаемых сигналов о происхождении контента, созданного или экспортированного с помощью инструментов OpenAI.
Он не предназначен для обнаружения контента, созданного другими сервисами ИИ. Кроме того, он может не обнаружить контент, созданный OpenAI, если соответствующий сигнал отсутствует, не поддерживается или был повреждён.
Могут ли разработчики проверять контент через API?
Разработчики и организации могут использовать API проверки OpenAI, чтобы проверять поддерживаемый контент на наличие сигналов OpenAI о происхождении и интегрировать проверку в свои приложения или рабочие процессы. Информация о доступе к API приведена на странице openai.com/verify. Организации, которым нужны более высокие лимиты использования, могут подать заявку на их увеличение. Подробнее см. на странице openai.com/verify.