OpenAI wykorzystuje sygnały pochodzenia, takie jak znaki wodne SynthID i Content Credentials (C2PA), aby ułatwić użytkownikom ustalenie, czy treść wygenerowano za pomocą narzędzi OpenAI. Sygnały pochodzenia mogą być pomocnymi wskaźnikami źródła, ale nie gwarantują, że treść jest poprawna, nieedytowana, stanowi czyjąś legalną własność ani że przedstawiono ją we właściwym kontekście.
Czym jest standard C2PA i co umożliwia?
C2PA to otwarty standard techniczny, który umożliwia wydawcom, firmom i innym podmiotom osadzanie w multimediach metadanych pozwalających zweryfikować ich źródło i powiązane informacje. C2PA nie służy wyłącznie do oznaczania treści wygenerowanych przez AI. Ten sam standard wdrażają również producenci aparatów, organizacje informacyjne i inne podmioty, aby poświadczać źródło i historię, czyli pochodzenie, treści multimedialnych.
Metadane C2PA mogą obejmować takie informacje jak narzędzie lub usługa użyte do utworzenia pliku, data jego utworzenia oraz inne szczegóły dotyczące jego źródła lub historii.
Dowiedz się więcej o C2PA.
Czym jest SynthID i co umożliwia?
SynthID to technologia niewidocznych znaków wodnych, która osadza sygnał bezpośrednio w wygenerowanych multimediach. W przeciwieństwie do metadanych sygnał jest częścią samej treści i może przetrwać niektóre modyfikacje lub przekształcenia.
SynthID stanowi dodatkowy sygnał pochodzenia obok metadanych C2PA. Jeśli na przykład metadane zostaną usunięte z pliku, osadzony znak wodny może nadal wskazywać, że treść wygenerowano za pomocą obsługiwanych narzędzi OpenAI.
Jakie rodzaje treści wygenerowanych przez OpenAI zawierają sygnały pochodzenia?
OpenAI stosuje różne sygnały pochodzenia w zależności od rodzaju treści.
| Rodzaj treści | Sygnały pochodzenia | Uwagi |
|---|---|---|
| Obrazy | Metadane C2PA i znaki wodne SynthID | Obsługiwane obrazy wygenerowane za pomocą ChatGPT, Codex i interfejsu API OpenAI zawierają oba sygnały. |
| Dźwięk | Znaki wodne SynthID | Obsługiwane nagrania dźwiękowe wygenerowane przez OpenAI zawierają niesłyszalny znak wodny osadzony bezpośrednio w dźwięku. |
Zakres obsługi może zależeć od produktu, modelu, sposobu eksportu, typu pliku oraz daty utworzenia treści.
Dlaczego niektóre rodzaje treści wykorzystują różne sygnały pochodzenia?
Poszczególne formaty multimediów zachowują informacje o pochodzeniu na różne sposoby.
Metadane, takie jak Content Credentials C2PA, mogą zawierać bardziej szczegółowe informacje, ale czasami są usuwane przez platformy, narzędzia do edycji lub podczas konwersji plików.
Znaki wodne, takie jak SynthID, są osadzane w samych wygenerowanych multimediach i mogą być bardziej odporne na niektóre przekształcenia. Znaki wodne zwykle dostarczają jednak mniej informacji kontekstowych niż metadane.
Gdy jest to technicznie możliwe, odpowiednie łączenie obu metod pozwala uzyskać silniejsze sygnały pochodzenia.
Jak dodać widoczny znak wodny do obrazu wygenerowanego za pomocą narzędzi OpenAI?
Możesz poprosić o umieszczenie widocznej informacji na obrazach generowanych za pomocą ChatGPT, Codex i interfejsu API OpenAI, wydając modelowi odpowiednie polecenie. Na przykład podczas generowania obrazu możesz powiedzieć: „Include a visible OpenAI watermark in the image.”
Widoczne znaki wodne są niezależne od osadzonych sygnałów pochodzenia, takich jak metadane C2PA i znaki wodne SynthID. Mogą pomóc odbiorcom rozpoznać, że obraz wygenerowano za pomocą narzędzi OpenAI, ale nie są tym samym co sygnały pochodzenia odczytywane maszynowo.
Jak sprawdzić, czy treść wygenerowano za pomocą narzędzi OpenAI?
Odwiedź openai.com/verify, aby sprawdzić, czy obsługiwany obraz lub plik audio zawiera sygnały pochodzenia powiązane z treścią wygenerowaną lub wyeksportowaną za pomocą narzędzi OpenAI.
Po przesłaniu obsługiwanego pliku narzędzie wyszuka obsługiwane sygnały pochodzenia OpenAI, takie jak znak wodny SynthID lub zaufany manifest C2PA powiązany z OpenAI.
Jeśli narzędzie znajdzie obsługiwany sygnał pochodzenia OpenAI, oznacza to, że treść wygenerowano lub wyeksportowano za pomocą narzędzi OpenAI.
Co oznacza wynik weryfikacji?
Wykrycie sygnału może pomóc potwierdzić, że przesłana treść zawiera obsługiwany sygnał pochodzenia powiązany z OpenAI.
Narzędzie nie potwierdza, że treść jest poprawna, nieedytowana, stanowi czyjąś legalną własność ani że przedstawiono ją we właściwym kontekście. Nie pozwala też ustalić, kto utworzył treść ani w jakim celu.
Co oznacza brak sygnału?
Jeśli nie wykryto sygnału, oznacza to, że narzędzie nie znalazło w przesłanym pliku sygnałów pochodzenia wydanych przez OpenAI.
Treść mogła mimo to zostać wygenerowana lub wyeksportowana przez OpenAI, jeśli:
Treść utworzono, zanim sygnały pochodzenia stały się dostępne.
Treść pochodzi z nieobsługiwanego produktu lub typu pliku, została utworzona przez nieobsługiwany model albo wyeksportowana w nieobsługiwany sposób.
Metadane usunięto podczas przesyłania, pobierania, edytowania, konwersji lub udostępniania.
Jakość znaku wodnego pogorszyła się wskutek kompresji, kadrowania, szumu, edycji, konwersji formatu lub innych przekształceń.
Klip audio jest zbyt krótki lub został znacząco zmodyfikowany.
Czy planujecie obsługiwać treści tekstowe?
Zgodnie z naszymi zobowiązaniami wynikającymi z kodeksu postępowania Komisji Europejskiego w zakresie przejrzystości treści generowanych przez AI dążymy do rozszerzenia sygnałów pochodzenia na wszystkie formy treści, w tym tekst. Dzięki temu, w miarę rozwoju standardów i narzędzi, klienci i deweloperzy będą mogli w jasny sposób wywiązywać się z własnych obowiązków dotyczących przejrzystości.
Czy OpenAI Verify może wykrywać treści pochodzące z innych narzędzi AI?
OpenAI Verify służy do wykrywania obsługiwanych sygnałów pochodzenia powiązanych z treścią wygenerowaną lub wyeksportowaną za pomocą narzędzi OpenAI.
Nie służy do wykrywania treści wygenerowanych przez inne usługi AI. Może również nie wykryć treści wygenerowanych przez OpenAI, jeśli odpowiedniego sygnału brakuje, nie jest on obsługiwany lub jego jakość uległa pogorszeniu.
Czy deweloperzy mogą weryfikować treści za pomocą interfejsu API?
Deweloperzy i organizacje mogą używać interfejsu API OpenAI do weryfikacji, aby sprawdzać obsługiwane treści pod kątem sygnałów pochodzenia OpenAI i integrować weryfikację z własnymi aplikacjami lub procesami roboczymi. Informacje o dostępie do interfejsu API znajdziesz na stronie openai.com/verify. Organizacje, które potrzebują wyższych limitów użycia, mogą złożyć wniosek o ich zwiększenie. Więcej informacji znajdziesz na stronie openai.com/verify.