OpenAI використовує сигнали походження, як-от водяні знаки SynthID і облікові дані контенту (C2PA), щоб допомогти людям зрозуміти, чи створено контент за допомогою інструментів OpenAI. Сигнали походження можуть бути корисними індикаторами джерела, але вони не гарантують, що контент точний, не редагувався, належить комусь на законних підставах або поданий у правильному контексті.
Що таке стандарт C2PA та які можливості він надає?
C2PA — це відкритий технічний стандарт, який дає видавцям, компаніям та іншим сторонам змогу вбудовувати в медіафайли метадані для перевірки їхнього походження й пов’язаної інформації. C2PA призначений не лише для контенту, створеного ШІ. Цей стандарт також упроваджують виробники камер, новинні організації та інші сторони, щоб засвідчувати джерело й історію, тобто походження, медіаконтенту.
Метадані C2PA можуть містити відомості про інструмент або сервіс, за допомогою якого створено файл, час його створення та інші подробиці про його походження чи історію.
Докладніше про C2PA.
Що таке SynthID та які можливості він надає?
SynthID — це технологія невидимих водяних знаків, яка вбудовує сигнал безпосередньо в створений медіаконтент. На відміну від метаданих, цей сигнал є частиною самого контенту й може зберігатися після деяких редагувань або перетворень.
SynthID надає додатковий сигнал походження на додачу до метаданих C2PA. Наприклад, якщо з файлу видалити метадані, вбудований водяний знак усе одно може сигналізувати, що контент створено за допомогою підтримуваних інструментів OpenAI.
Які типи контенту, створеного OpenAI, містять сигнали походження?
OpenAI використовує різні сигнали походження для різних типів контенту.
| Тип контенту | Сигнали походження | Примітки |
|---|---|---|
| Зображення | Метадані C2PA та водяні знаки SynthID | Підтримувані зображення, створені за допомогою ChatGPT, Codex і API OpenAI, містять обидва сигнали. |
| Аудіо | Водяні знаки SynthID | Підтримувані аудіоматеріали, створені OpenAI, містять нечутний водяний знак, вбудований безпосередньо в аудіо. |
Охоплення може різнитися залежно від продукту, моделі, способу експорту, типу файлу та часу створення контенту.
Чому для різних типів контенту використовуються різні сигнали походження?
Різні медіаформати зберігають інформацію про походження по-різному.
Метадані, як-от облікові дані контенту C2PA, можуть містити докладнішу інформацію, але іноді платформи, інструменти редагування або конвертація файлів можуть видалити їх.
Водяні знаки, як-от SynthID, вбудовуються безпосередньо в створений медіаконтент і можуть краще зберігатися після деяких перетворень. Однак водяні знаки зазвичай надають менше контексту, ніж метадані.
Коли це технічно можливо й доречно, поєднання обох підходів дає змогу посилити сигнали походження.
Як додати видимий водяний знак до зображення, створеного за допомогою інструментів OpenAI?
Можна попросити додати видиме позначення до зображень, створених за допомогою ChatGPT, Codex і API OpenAI, зазначивши це в запиті до моделі. Наприклад, під час створення зображення можна вказати: «Include a visible OpenAI watermark in the image.»
Видимі водяні знаки не є вбудованими сигналами походження, як-от метадані C2PA та водяні знаки SynthID. Вони можуть допомогти глядачам зрозуміти, що зображення створено за допомогою інструментів OpenAI, але це не те саме, що машинозчитувані сигнали походження.
Як перевірити, чи створено контент за допомогою інструментів OpenAI?
На сайті openai.com/verify можна перевірити, чи містить підтримуване зображення або аудіофайл сигнали походження, пов’язані з контентом, який створено або експортовано інструментами OpenAI.
Після завантаження підтримуваного файлу інструмент шукатиме підтримувані сигнали походження OpenAI, як-от водяний знак SynthID або довірений маніфест C2PA, пов’язаний з OpenAI.
Якщо інструмент знайде підтримуваний сигнал походження OpenAI, це означатиме, що контент створено або експортовано за допомогою інструментів OpenAI.
Що означає результат перевірки?
Якщо сигнал виявлено, інструмент допомагає підтвердити, що завантажений контент містить підтримуваний сигнал походження, пов’язаний з OpenAI.
Інструмент не підтверджує, що контент точний, не редагувався, належить комусь на законних підставах або поданий у правильному контексті. Він також не визначає, хто й навіщо створив контент.
Що означає відсутність сигналу?
Якщо сигнал не виявлено, це означає, що інструмент не знайшов у завантаженому файлі сигналів походження, наданих OpenAI.
Контент усе одно міг бути створений або експортований OpenAI, якщо:
Контент було створено до появи сигналів походження.
Контент походить із непідтримуваного продукту, моделі, способу експорту або типу файлу.
Метадані було видалено під час завантаження, викачування, редагування, конвертації або поширення.
Водяний знак було пошкоджено через стиснення, обтинання, шум, редагування, зміну формату або інші перетворення.
Аудіофрагмент надто короткий або зазнав значних змін.
Чи плануєте ви підтримувати текстові результати?
Відповідно до наших зобов’язань за Кодексом практики Європейської комісії щодо прозорості контенту, створеного ШІ, ми прагнемо поширити сигнали походження на всі модальності, зокрема текст, щоб у міру розвитку стандартів та інструментів клієнти й розробники мали зрозумілі способи виконувати власні зобов’язання щодо прозорості.
Чи може OpenAI Verify виявляти контент з інших інструментів ШІ?
OpenAI Verify призначений для виявлення підтримуваних сигналів походження, пов’язаних із контентом, який створено або експортовано інструментами OpenAI.
Він не призначений для виявлення контенту, створеного іншими сервісами ШІ, а також може не виявити контент, створений OpenAI, якщо відповідний сигнал відсутній, не підтримується або пошкоджений.
Чи можуть розробники перевіряти контент через API?
Розробники й організації можуть використовувати API перевірки OpenAI, щоб перевіряти підтримуваний контент на наявність сигналів походження OpenAI та інтегрувати перевірку у власні застосунки або робочі процеси. Інформацію про доступ до API наведено на сайті openai.com/verify. Організації, яким потрібні вищі ліміти використання, можуть подати запит на їх збільшення. Докладнішу інформацію наведено на сайті openai.com/verify.