OpenAI używa sygnałów pochodzenia, takich jak znaki wodne SynthID i Content Credentials (C2PA), aby ułatwić odbiorcom ustalenie, czy treść wygenerowano za pomocą narzędzi OpenAI. Sygnały pochodzenia mogą dostarczać przydatnych informacji o źródle, ale nie gwarantują, że treść jest prawdziwa, nieedytowana, należy do określonego podmiotu ani że przedstawiono ją we właściwym kontekście.
Czym jest standard C2PA i co umożliwia?
C2PA to otwarty standard techniczny, który umożliwia wydawcom, firmom i innym podmiotom osadzanie w multimediach metadanych pozwalających zweryfikować ich źródło i powiązane informacje. C2PA nie służy wyłącznie do oznaczania treści generowanych przez AI. Ten sam standard wdrażają również producenci aparatów, organizacje informacyjne i inne podmioty, aby poświadczać źródło i historię, czyli pochodzenie, treści multimedialnych.
Metadane C2PA mogą zawierać informacje między innymi o narzędziu lub usłudze użytych do utworzenia pliku, dacie jego utworzenia oraz inne szczegóły dotyczące jego źródła lub historii.
Dowiedz się więcej o C2PA.
Czym jest SynthID i co umożliwia?
SynthID to technologia niewidocznych znaków wodnych, która osadza sygnał bezpośrednio w wygenerowanych multimediach. W przeciwieństwie do metadanych sygnał jest częścią samej treści i może przetrwać niektóre modyfikacje lub przekształcenia.
SynthID zapewnia dodatkowy sygnał pochodzenia obok metadanych C2PA. Jeśli na przykład metadane zostaną usunięte z pliku, osadzony znak wodny może nadal wskazywać, że treść wygenerowano za pomocą obsługiwanych narzędzi OpenAI.
Jakie rodzaje treści wygenerowanych przez OpenAI zawierają sygnały pochodzenia?
OpenAI używa różnych sygnałów pochodzenia w zależności od rodzaju treści.
| Rodzaj treści | Sygnały pochodzenia | Uwagi |
|---|---|---|
| Obrazy | Metadane C2PA i znaki wodne SynthID | Obsługiwane obrazy generowane za pomocą ChatGPT, Codex i interfejsu API OpenAI zawierają oba sygnały. |
| Dźwięk | Znaki wodne SynthID | Obsługiwane nagrania dźwiękowe wygenerowane przez OpenAI zawierają niesłyszalny znak wodny osadzony bezpośrednio w dźwięku. |
Zakres obsługi może zależeć od produktu, modelu, sposobu eksportu, typu pliku i daty utworzenia treści.
Dlaczego różne rodzaje treści korzystają z różnych sygnałów pochodzenia?
Różne formaty multimediów przechowują informacje o pochodzeniu na różne sposoby.
Metadane, takie jak Content Credentials C2PA, mogą zawierać bardziej szczegółowe informacje, ale czasami są usuwane przez platformy, narzędzia do edycji lub podczas konwersji plików.
Znaki wodne, takie jak SynthID, są osadzane bezpośrednio w wygenerowanych multimediach i mogą przetrwać niektóre przekształcenia. Znaki wodne zwykle dostarczają jednak mniej kontekstu niż metadane.
Gdy jest to technicznie możliwe i zasadne, połączenie obu metod pozwala uzyskać silniejsze sygnały pochodzenia.
Jak dodać widoczny znak wodny do obrazu wygenerowanego za pomocą narzędzi OpenAI?
Możesz poprosić model o umieszczenie widocznej informacji na obrazach generowanych za pomocą ChatGPT, Codex i interfejsu API OpenAI. Na przykład podczas generowania obrazu możesz napisać: “Include a visible OpenAI watermark in the image.”
Widoczne znaki wodne są czymś innym niż osadzone sygnały pochodzenia, takie jak metadane C2PA i znaki wodne SynthID. Mogą pomóc odbiorcom rozpoznać, że obraz wygenerowano za pomocą narzędzi OpenAI, ale nie są tym samym co sygnały pochodzenia przeznaczone do odczytu maszynowego.
Jak sprawdzić, czy treść wygenerowano za pomocą narzędzi OpenAI?
Odwiedź openai.com/verify, aby sprawdzić, czy obsługiwany obraz lub plik dźwiękowy zawiera sygnały pochodzenia powiązane z treściami wygenerowanymi lub wyeksportowanymi przez narzędzia OpenAI.
Po przesłaniu obsługiwanego pliku narzędzie wyszuka obsługiwane sygnały pochodzenia OpenAI, takie jak znak wodny SynthID lub zaufany manifest C2PA powiązany z OpenAI.
Jeśli narzędzie znajdzie obsługiwany sygnał pochodzenia OpenAI, oznacza to, że treść została wygenerowana przez narzędzia OpenAI lub z nich wyeksportowana.
Co oznacza wynik weryfikacji?
Jeśli wykryto sygnał, narzędzie może pomóc potwierdzić, że przesłana treść zawiera obsługiwany sygnał pochodzenia powiązany z OpenAI.
Narzędzie nie potwierdza, że treść jest prawdziwa, nieedytowana, należy do określonego podmiotu ani że przedstawiono ją we właściwym kontekście. Nie ustala też, kto utworzył treść ani w jakim celu.
Co oznacza brak sygnału?
Jeśli nie wykryto sygnału, oznacza to, że narzędzie nie znalazło w przesłanym pliku sygnałów pochodzenia wydanych przez OpenAI.
Treść mogła mimo to zostać wygenerowana lub wyeksportowana przez OpenAI, jeśli:
Utworzono ją, zanim sygnały pochodzenia stały się dostępne.
Pochodzi z nieobsługiwanego produktu lub modelu albo została wyeksportowana w nieobsługiwany sposób lub typ pliku.
Metadane usunięto podczas przesyłania, pobierania, edycji, konwersji lub udostępniania.
Znak wodny został osłabiony wskutek kompresji, kadrowania, szumu, edycji, konwersji formatu lub innych przekształceń.
Klip dźwiękowy jest zbyt krótki lub został znacznie zmodyfikowany.
Czy planujecie obsługę treści tekstowych?
Zgodnie z naszymi zobowiązaniami wynikającymi z kodeksu postępowania Komisji Europej dotyczącego przejrzystości treści generowanych przez AI chcemy objąć sygnałami pochodzenia wszystkie rodzaje treści, w tym tekst. Dzięki temu, w miarę rozwoju standardów i narzędzi, klienci i deweloperzy będą mogli w przejrzysty sposób wywiązywać się z własnych obowiązków w zakresie transparentności.
Czy OpenAI Verify wykrywa treści z innych narzędzi AI?
OpenAI Verify służy do wykrywania obsługiwanych sygnałów pochodzenia powiązanych z treściami wygenerowanymi lub wyeksportowanymi przez narzędzia OpenAI.
Nie służy do wykrywania treści wygenerowanych przez inne usługi AI. Może również nie wykryć treści wygenerowanych przez OpenAI, jeśli odpowiedni sygnał jest niedostępny, nieobsługiwany lub osłabiony.
Czy deweloperzy mogą weryfikować treści za pomocą interfejsu API?
Deweloperzy i organizacje mogą używać interfejsu API OpenAI do weryfikacji, aby sprawdzać obsługiwane treści pod kątem sygnałów pochodzenia OpenAI oraz integrować weryfikację z własnymi aplikacjami i procesami roboczymi. Informacje o dostępie do interfejsu API znajdziesz na stronie openai.com/verify. Organizacje potrzebujące wyższych limitów użycia mogą złożyć wniosek o ich zwiększenie. Więcej informacji znajdziesz na stronie openai.com/verify.