OpenAI использует такие сигналы о происхождении, как водяные знаки SynthID и учётные данные контента (C2PA), чтобы помочь людям понять, был ли контент создан с помощью инструментов OpenAI. Сигналы о происхождении могут быть полезными индикаторами источника, но они не гарантируют, что контент достоверен, не редактировался, находится в законном владении или представлен в правильном контексте.
Что такое стандарт C2PA и какие возможности он предоставляет?
C2PA — это открытый технический стандарт, который позволяет издателям, компаниям и другим организациям встраивать в медиаконтент метаданные для проверки его происхождения и связанной с ним информации. C2PA предназначен не только для контента, созданного ИИ. Этот стандарт также внедряют производители камер, новостные организации и другие стороны, чтобы подтверждать источник и историю медиаконтента, то есть его происхождение.
Метаданные C2PA могут содержать сведения об инструменте или сервисе, с помощью которого был создан файл, времени его создания и другие данные о его происхождении или истории.
Подробнее о C2PA.
Что такое SynthID и какие возможности предоставляет эта технология?
SynthID — это технология невидимых водяных знаков, которая встраивает сигнал непосредственно в созданный медиаконтент. В отличие от метаданных, этот сигнал является частью самого контента и может сохраняться после некоторых видов редактирования или преобразования.
SynthID служит дополнительным сигналом о происхождении наряду с метаданными C2PA. Например, если из файла удалить метаданные, встроенный водяной знак всё ещё может указывать на то, что контент был создан с помощью поддерживаемых инструментов OpenAI.
Какие типы созданного OpenAI контента содержат сигналы о происхождении?
OpenAI использует разные сигналы о происхождении для разных типов контента.
| Тип контента | Сигналы о происхождении | Примечания |
|---|---|---|
| Изображения | Метаданные C2PA и водяные знаки SynthID | Поддерживаемые изображения, созданные с помощью ChatGPT, Codex и API OpenAI, содержат оба сигнала. |
| Аудио | Водяные знаки SynthID | Поддерживаемые аудиоматериалы, созданные OpenAI, содержат неслышимый водяной знак, встроенный непосредственно в аудио. |
Охват может зависеть от продукта, модели, способа экспорта, типа файла и времени создания контента.
Почему для разных типов контента используются разные сигналы о происхождении?
Разные медиаформаты сохраняют сведения о происхождении по-разному.
Метаданные, например учётные данные контента C2PA, могут содержать более подробную информацию, но иногда удаляются платформами, средствами редактирования или при преобразовании файлов.
Водяные знаки, например SynthID, встраиваются непосредственно в созданный медиаконтент и могут лучше сохраняться после некоторых преобразований. Однако водяные знаки обычно предоставляют меньше контекста, чем метаданные.
Когда это технически возможно и уместно, сочетание обоих подходов помогает обеспечить более надёжные сигналы о происхождении.
Как добавить видимый водяной знак на изображение, созданное с помощью инструментов OpenAI?
Чтобы на изображении, созданном с помощью ChatGPT, Codex или API OpenAI, появилась видимая отметка, попросите модель добавить её. Например, при создании изображения можно сказать: «Include a visible OpenAI watermark in the image.»
Видимые водяные знаки не относятся к встроенным сигналам о происхождении, таким как метаданные C2PA и водяные знаки SynthID. Они могут помочь зрителям понять, что изображение создано с помощью инструментов OpenAI, но это не машиночитаемые сигналы о происхождении.
Как проверить, был ли контент создан с помощью инструментов OpenAI?
На сайте openai.com/verify можно проверить, содержит ли поддерживаемое изображение или аудиофайл сигналы о происхождении, связанные с контентом, который был создан или экспортирован инструментами OpenAI.
После загрузки поддерживаемого файла инструмент проверит наличие поддерживаемых сигналов OpenAI о происхождении, например водяного знака SynthID или доверенного манифеста C2PA, связанного с OpenAI.
Если инструмент обнаружит поддерживаемый сигнал OpenAI о происхождении, это указывает на то, что контент был создан или экспортирован с помощью инструментов OpenAI.
Что означает результат проверки?
Если сигнал обнаружен, инструмент помогает подтвердить, что загруженный контент содержит поддерживаемый сигнал о происхождении, связанный с OpenAI.
Инструмент не подтверждает, что контент достоверен, не редактировался, находится в законном владении или представлен в правильном контексте. Он также не определяет, кто и зачем создал контент.
Что означает отсутствие сигнала?
Если сигнал не обнаружен, это означает, что инструмент не нашёл в загруженном файле сигналов о происхождении, добавленных OpenAI.
Контент всё равно мог быть создан или экспортирован OpenAI, если:
Контент был создан до появления сигналов о происхождении.
Контент был получен из неподдерживаемого продукта, модели, способа экспорта или типа файла.
Метаданные были удалены при загрузке, скачивании, редактировании, преобразовании или передаче файла.
Водяной знак был повреждён из-за сжатия, обрезки, шума, редактирования, преобразования формата или других изменений.
Аудиофрагмент слишком короткий или был значительно изменён.
Планируется ли поддержка текстовых результатов?
В соответствии с нашими обязательствами по Кодексу практики Европейской комиссии в отношении прозрачности контента, созданного ИИ, мы стремимся распространить сигналы о происхождении на все модальности, включая текст. Это позволит клиентам и разработчикам выполнять собственные требования к прозрачности по мере развития стандартов и инструментов.
Может ли OpenAI Verify обнаруживать контент из других инструментов ИИ?
OpenAI Verify предназначен для обнаружения поддерживаемых сигналов о происхождении, связанных с контентом, созданным или экспортированным с помощью инструментов OpenAI.
Он не предназначен для обнаружения контента, созданного другими сервисами ИИ. Кроме того, он может не обнаружить созданный OpenAI контент, если соответствующий сигнал отсутствует, не поддерживается или повреждён.
Могут ли разработчики проверять контент через API?
Разработчики и организации могут использовать API проверки OpenAI, чтобы проверять поддерживаемый контент на наличие сигналов OpenAI о происхождении и интегрировать проверку в свои приложения или рабочие процессы. Информацию о доступе к API см. на сайте openai.com/verify. Организации, которым нужны более высокие лимиты использования, могут подать заявку на их увеличение. Дополнительную информацию см. на странице openai.com/verify.