OpenAI folosește semnale de proveniență, precum filigranele SynthID și Acreditările de conținut (C2PA), pentru a ajuta oamenii să înțeleagă dacă un conținut a fost generat cu instrumente OpenAI. Semnalele de proveniență pot oferi indicii utile despre origine, dar nu garantează că un conținut este corect, nemodificat, deținut legal sau prezentat în contextul potrivit.
Ce este standardul C2PA și ce permite acesta?
C2PA este un standard tehnic deschis care le permite editorilor, companiilor și altor entități să încorporeze metadate în conținutul media pentru verificarea originii și a informațiilor asociate. C2PA nu este destinat exclusiv conținutului generat de IA. Același standard este adoptat și de producători de camere, organizații de presă și alte entități pentru a certifica sursa și istoricul, adică proveniența, conținutului media.
Metadatele C2PA pot include informații precum instrumentul sau serviciul care a creat un fișier, data creării și alte detalii despre originea sau istoricul acestuia.
Aflați mai multe despre C2PA.
Ce este SynthID și ce permite această tehnologie?
SynthID este o tehnologie de aplicare a filigranelor invizibile, care încorporează un semnal direct în conținutul media generat. Spre deosebire de metadate, semnalul face parte din conținutul propriu-zis și poate persista după anumite editări sau transformări.
SynthID oferă un semnal de proveniență suplimentar, pe lângă metadatele C2PA. De exemplu, dacă metadatele sunt eliminate dintr-un fișier, un filigran încorporat poate indica în continuare că acel conținut a fost generat cu instrumente OpenAI compatibile.
Ce tipuri de conținut generat de OpenAI includ semnale de proveniență?
OpenAI folosește semnale de proveniență diferite pentru diverse tipuri de conținut.
| Tip de conținut | Semnale de proveniență | Observații |
|---|---|---|
| Imagini | Metadate C2PA și filigrane SynthID | Imaginile compatibile generate cu ChatGPT, Codex și API-ul OpenAI includ ambele semnale. |
| Conținut audio | Filigrane SynthID | Conținutul audio compatibil generat de OpenAI include un filigran inaudibil, încorporat în materialul audio propriu-zis. |
Disponibilitatea poate varia în funcție de produs, model, metoda de export, tipul fișierului și data creării conținutului.
De ce unele tipuri de conținut folosesc semnale de proveniență diferite?
Diferitele formate media păstrează informațiile despre proveniență în moduri diferite.
Metadatele, precum Acreditările de conținut C2PA, pot conține informații mai detaliate, dar uneori pot fi eliminate de platforme, instrumente de editare sau conversii de fișiere.
Filigranele, precum SynthID, sunt încorporate în conținutul media generat și pot rezista mai bine la anumite transformări. Totuși, filigranele oferă, în general, mai puține informații contextuale decât metadatele.
Atunci când este posibil din punct de vedere tehnic, folosirea ambelor abordări acolo unde este cazul contribuie la furnizarea unor semnale de proveniență mai solide.
Cum pot adăuga un filigran vizibil unei imagini generate cu instrumente OpenAI?
Puteți solicita adăugarea unei mențiuni vizibile pe imaginile generate cu ChatGPT, Codex și API-ul OpenAI, cerându-i modelului să o includă. De exemplu, când generați o imagine, puteți spune: „Include a visible OpenAI watermark in the image.”
Filigranele vizibile sunt distincte de semnalele de proveniență încorporate, precum metadatele C2PA și filigranele SynthID. Acestea pot ajuta publicul să recunoască faptul că o imagine a fost generată cu instrumente OpenAI, dar nu sunt echivalente cu semnalele de proveniență prelucrabile automat.
Cum pot verifica dacă un conținut a fost generat cu instrumente OpenAI?
Puteți accesa openai.com/verify pentru a verifica dacă o imagine sau un fișier audio compatibil conține semnale de proveniență asociate conținutului generat ori exportat de instrumentele OpenAI.
După ce încărcați un fișier compatibil, instrumentul va căuta semnale de proveniență OpenAI acceptate, precum un filigran SynthID sau un manifest C2PA de încredere asociat cu OpenAI.
Dacă instrumentul găsește un semnal de proveniență OpenAI acceptat, înseamnă că acel conținut a fost generat de instrumentele OpenAI sau exportat din acestea.
Ce înseamnă rezultatul unei verificări?
Dacă este detectat un semnal, instrumentul poate ajuta la confirmarea faptului că materialul încărcat conține un semnal de proveniență compatibil asociat cu OpenAI.
Instrumentul nu confirmă că materialul este corect, nemodificat, deținut legal sau prezentat în contextul potrivit. De asemenea, nu identifică persoana care a creat conținutul și nici motivul creării acestuia.
Ce se întâmplă dacă nu este găsit niciun semnal?
Dacă nu este detectat niciun semnal, înseamnă că instrumentul nu a găsit în fișierul încărcat semnale de proveniență emise de OpenAI.
Este totuși posibil ca materialul să fi fost generat sau exportat de OpenAI dacă:
Materialul a fost creat înainte ca semnalele de proveniență să devină disponibile.
Materialul provine de la un produs, model, o metodă de export sau un tip de fișier incompatibil.
Metadatele au fost eliminate în timpul încărcării, descărcării, editării, conversiei sau distribuirii.
Un filigran a fost degradat prin comprimare, decupare, zgomot, editări, conversia formatului sau alte transformări.
Un fragment audio este prea scurt sau a fost modificat semnificativ.
Intenționați să oferiți compatibilitate și pentru rezultatele text?
În conformitate cu angajamentele noastre asumate în temeiul Codului de bune practici al Comisiei Europene privind transparența conținutului generat de IA, obiectivul nostru este să extindem semnalele de proveniență la toate modalitățile, inclusiv la text, astfel încât clienții și dezvoltatorii să dispună de metode clare pentru a-și îndeplini propriile obligații de transparență, pe măsură ce standardele și instrumentele continuă să evolueze.
OpenAI Verify poate detecta conținut provenit de la alte instrumente de IA?
OpenAI Verify este conceput pentru a detecta semnalele de proveniență compatibile asociate conținutului generat sau exportat de instrumentele OpenAI.
Nu este conceput pentru a detecta conținutul generat de alte servicii de IA și este posibil să nu detecteze nici conținutul generat de OpenAI dacă semnalul relevant lipsește, nu este acceptat sau a fost degradat.
Dezvoltatorii pot verifica un conținut folosind un API?
Dezvoltatorii și organizațiile pot folosi API-ul de verificare OpenAI pentru a căuta semnale de proveniență OpenAI în conținutul compatibil și pentru a integra verificarea în propriile aplicații sau fluxuri de lucru. Accesați openai.com/verify pentru informații despre accesul la API. Organizațiile care au nevoie de limite de utilizare mai mari pot solicita majorarea acestora. Pentru mai multe informații, accesați openai.com/verify.