OpenAI використовує такі сигнали походження, як водяні знаки SynthID і Content Credentials (C2PA), щоб допомогти людям зрозуміти, чи було контент створено за допомогою інструментів OpenAI. Сигнали походження можуть бути корисними показниками джерела, але вони не гарантують, що контент точний, не редагувався, належить на законних підставах або поданий у правильному контексті.
Що таке стандарт C2PA і які можливості він надає?
C2PA — це відкритий технічний стандарт, що дає видавцям, компаніям та іншим сторонам змогу вбудовувати в медіаматеріали метадані для перевірки їхнього походження й пов’язаної інформації. C2PA призначений не лише для контенту, створеного ШІ. Цей стандарт також упроваджують виробники камер, новинні організації та інші сторони, щоб засвідчувати джерело й історію, тобто походження, медіаконтенту.
Метадані C2PA можуть містити інформацію про інструмент або сервіс, за допомогою якого створено файл, дату його створення та інші відомості про його походження чи історію.
Докладніше про C2PA.
Що таке SynthID і які можливості надає ця технологія?
SynthID — це технологія невидимих водяних знаків, яка вбудовує сигнал безпосередньо у створені медіаматеріали. На відміну від метаданих, сигнал є частиною самого контенту й може зберігатися після деяких редагувань або перетворень.
SynthID надає додатковий сигнал походження разом із метаданими C2PA. Наприклад, якщо з файлу видалено метадані, вбудований водяний знак усе одно може вказувати, що контент створено за допомогою підтримуваних інструментів OpenAI.
Які типи контенту, створеного OpenAI, містять сигнали походження?
OpenAI використовує різні сигнали походження для різних типів контенту.
| Тип контенту | Сигнали походження | Примітки |
|---|---|---|
| Зображення | Метадані C2PA та водяні знаки SynthID | Підтримувані зображення, створені за допомогою ChatGPT, Codex і API OpenAI, містять обидва сигнали. |
| Аудіо | Водяні знаки SynthID | Підтримувані аудіоматеріали, створені OpenAI, містять нечутний водяний знак, вбудований безпосередньо в аудіо. |
Охоплення може залежати від продукту, моделі, способу експорту, типу файлу та часу створення контенту.
Чому для деяких типів контенту використовуються різні сигнали походження?
Різні медіаформати зберігають інформацію про походження по-різному.
Метадані, як-от Content Credentials C2PA, можуть містити докладнішу інформацію, але іноді платформи, засоби редагування або перетворення файлів можуть їх видалити.
Водяні знаки, як-от SynthID, вбудовуються безпосередньо у створені медіаматеріали й можуть краще зберігатися після деяких перетворень. Однак водяні знаки зазвичай надають менше контексту, ніж метадані.
Коли це технічно можливо й доречно, поєднання обох підходів допомагає забезпечити надійніші сигнали походження.
Як додати видимий водяний знак до зображення, створеного за допомогою інструментів OpenAI?
Щоб додати видиму позначку до зображень, створених за допомогою ChatGPT, Codex і API OpenAI, попросіть модель включити її. Наприклад, під час створення зображення можна вказати: «Include a visible OpenAI watermark in the image.»
Видимі водяні знаки не пов’язані з вбудованими сигналами походження, як-от метадані C2PA та водяні знаки SynthID. Вони можуть допомогти глядачам розпізнати, що зображення створено за допомогою інструментів OpenAI, але це не те саме, що машинозчитувані сигнали походження.
Як перевірити, чи створено контент за допомогою інструментів OpenAI?
Перейдіть на сайт openai.com/verify, щоб перевірити, чи містить підтримуване зображення або аудіофайл сигнали походження, пов’язані з контентом, який створено або експортовано за допомогою інструментів OpenAI.
Після завантаження підтримуваного файлу інструмент шукатиме підтримувані сигнали походження OpenAI, як-от водяний знак SynthID або довірений маніфест C2PA, пов’язаний з OpenAI.
Якщо інструмент знайде підтримуваний сигнал походження OpenAI, це означатиме, що контент створено або експортовано за допомогою інструментів OpenAI.
Що означає результат перевірки?
Якщо сигнал виявлено, інструмент допоможе підтвердити, що завантажений контент містить підтримуваний сигнал походження, пов’язаний з OpenAI.
Інструмент не підтверджує, що контент точний, не редагувався, належить на законних підставах або поданий у правильному контексті. Він також не визначає, хто й навіщо створив контент.
Що означає відсутність сигналу?
Якщо сигнал не виявлено, це означає, що інструмент не знайшов у завантаженому файлі сигналів походження, виданих OpenAI.
Контент усе одно міг бути створений або експортований OpenAI, якщо:
Контент створено до появи сигналів походження.
Контент отримано з непідтримуваного продукту, моделі, способу експорту або типу файлу.
Метадані видалено під час завантаження, редагування, перетворення або поширення файлу.
Водяний знак пошкоджено через стиснення, обрізання, шум, редагування, зміну формату або інші перетворення.
Аудіофрагмент надто короткий або зазнав значних змін.
Чи плануєте ви підтримувати текстові результати?
Відповідно до наших зобов’язань у межах Кодексу практики Європейської комісії щодо прозорості контенту, створеного ШІ, ми прагнемо поширити сигнали походження на всі модальності, зокрема текст. Це дасть клієнтам і розробникам чіткі способи виконувати власні зобов’язання щодо прозорості в міру розвитку стандартів та інструментів.
Чи може OpenAI Verify виявляти контент з інших інструментів ШІ?
OpenAI Verify призначений для виявлення підтримуваних сигналів походження, пов’язаних із контентом, який створено або експортовано за допомогою інструментів OpenAI.
Він не призначений для виявлення контенту, створеного іншими сервісами ШІ. Крім того, він може не виявити контент, створений OpenAI, якщо відповідний сигнал відсутній, не підтримується або пошкоджений.
Чи можуть розробники перевіряти контент за допомогою API?
Розробники й організації можуть використовувати API перевірки OpenAI, щоб перевіряти підтримуваний контент на наявність сигналів походження OpenAI та інтегрувати перевірку у власні застосунки або робочі процеси. Інформацію про доступ до API наведено на сайті openai.com/verify. Організації, яким потрібні вищі ліміти використання, можуть подати заявку на їх збільшення. Докладнішу інформацію дивіться на сайті openai.com/verify.