OpenAI folosește semnale de proveniență, precum filigranele SynthID și Content Credentials (C2PA), pentru a ajuta oamenii să înțeleagă dacă un conținut a fost generat cu instrumentele OpenAI. Semnalele de proveniență pot fi indicatori utili ai originii, dar nu garantează că un conținut este corect, needitat, deținut legal sau prezentat în contextul potrivit.
Ce este standardul C2PA și ce permite acesta?
C2PA este un standard tehnic deschis care le permite editorilor, companiilor și altor entități să încorporeze în conținutul media metadate pentru verificarea originii și a informațiilor conexe. C2PA nu este destinat exclusiv conținutului generat de IA. Același standard este adoptat și de producători de camere, organizații de presă și alte entități pentru a certifica sursa și istoricul, adică proveniența, conținutului media.
Metadatele C2PA pot include informații precum instrumentul sau serviciul care a creat un fișier, data creării și alte detalii despre originea ori istoricul acestuia.
Aflați mai multe despre C2PA.
Ce este SynthID și ce permite acesta?
SynthID este o tehnologie de aplicare a filigranelor invizibile, care încorporează un semnal direct în conținutul media generat. Spre deosebire de metadate, semnalul face parte din conținutul propriu-zis și se poate păstra în urma anumitor editări sau transformări.
SynthID oferă un semnal de proveniență suplimentar, alături de metadatele C2PA. De exemplu, dacă metadatele sunt eliminate dintr-un fișier, un filigran încorporat poate oferi în continuare un semnal că respectivul conținut a fost generat cu instrumente OpenAI acceptate.
Ce tipuri de conținut generat de OpenAI includ semnale de proveniență?
OpenAI folosește semnale de proveniență diferite pentru diverse tipuri de conținut.
| Tip de conținut | Semnale de proveniență | Observații |
|---|---|---|
| Imagini | Metadate C2PA și filigrane SynthID | Imaginile acceptate, generate cu ChatGPT, Codex și API-ul OpenAI, includ ambele semnale. |
| Audio | Filigrane SynthID | Conținutul audio acceptat, generat de OpenAI, include un filigran inaudibil încorporat în materialul audio propriu-zis. |
Acoperirea poate varia în funcție de produs, model, metoda de export, tipul de fișier și data creării conținutului.
De ce unele tipuri de conținut folosesc semnale de proveniență diferite?
Diferitele formate media păstrează informațiile de proveniență în moduri diferite.
Metadatele, precum Content Credentials C2PA, pot conține informații mai detaliate, însă uneori pot fi eliminate de platforme, instrumente de editare sau în urma conversiei fișierelor.
Filigranele, precum SynthID, sunt încorporate în conținutul media generat și pot rezista mai bine anumitor transformări. Totuși, filigranele oferă în general mai puțin context decât metadatele.
Atunci când este fezabil din punct de vedere tehnic, folosirea ambelor metode, după caz, contribuie la furnizarea unor semnale de proveniență mai solide.
Cum pot adăuga un filigran vizibil unei imagini generate cu instrumentele OpenAI?
Puteți solicita adăugarea unei mențiuni vizibile pe imaginile generate cu ChatGPT, Codex și API-ul OpenAI, cerându-i modelului să includă una. De exemplu, când generați o imagine, puteți spune: „Include un filigran OpenAI vizibil în imagine.”
Filigranele vizibile sunt distincte de semnalele de proveniență încorporate, precum metadatele C2PA și filigranele SynthID. Acestea pot ajuta utilizatorii să recunoască faptul că o imagine a fost generată cu instrumentele OpenAI, dar nu sunt echivalente cu semnalele de proveniență prelucrabile automat.
Cum pot verifica dacă un conținut a fost generat cu instrumentele OpenAI?
Puteți accesa openai.com/verify pentru a verifica dacă o imagine sau un fișier audio acceptat conține semnale de proveniență asociate conținutului generat sau exportat de instrumentele OpenAI.
După ce încărcați un fișier acceptat, instrumentul va căuta semnale de proveniență OpenAI acceptate, precum un filigran SynthID sau un manifest C2PA de încredere asociat cu OpenAI.
Dacă instrumentul găsește un semnal de proveniență OpenAI acceptat, acesta indică faptul că respectivul conținut a fost generat de instrumentele OpenAI sau exportat din acestea.
Ce înseamnă rezultatul unei verificări?
Dacă este detectat un semnal, instrumentul poate ajuta la confirmarea faptului că materialul încărcat conține un semnal de proveniență acceptat, asociat cu OpenAI.
Instrumentul nu confirmă că respectivul conținut este corect, needitat, deținut legal sau prezentat în contextul potrivit. De asemenea, nu identifică cine a creat conținutul sau motivul pentru care a fost creat.
Ce se întâmplă dacă nu este găsit niciun semnal?
Dacă nu este detectat niciun semnal, înseamnă că instrumentul nu a găsit în fișierul încărcat semnale de proveniență emise de OpenAI.
Este totuși posibil ca respectivul conținut să fi fost generat sau exportat de OpenAI dacă:
Conținutul a fost creat înainte ca semnalele de proveniență să fie disponibile.
Conținutul provine de la un produs, model, o metodă de export sau un tip de fișier neacceptat.
Metadatele au fost eliminate în timpul încărcării, descărcării, editării, conversiei sau distribuirii.
Un filigran a fost deteriorat prin compresie, decupare, zgomot, editări, conversia formatului sau alte transformări.
Un clip audio este prea scurt sau a fost modificat semnificativ.
Aveți în plan să acceptați rezultate sub formă de text?
În conformitate cu angajamentele noastre asumate în temeiul Codului de bune practici al Comisiei Europene privind transparența conținutului generat de IA, ne propunem să extindem semnalele de proveniență la toate modalitățile, inclusiv la text, astfel încât clienții și dezvoltatorii să dispună de modalități clare de a-și îndeplini propriile obligații de transparență pe măsură ce standardele și instrumentele continuă să evolueze.
OpenAI Verify poate detecta conținutul provenit de la alte instrumente de IA?
OpenAI Verify este conceput să detecteze semnalele de proveniență acceptate, asociate conținutului generat sau exportat de instrumentele OpenAI.
Nu este conceput să detecteze conținutul generat de alte servicii de IA și este posibil să nu detecteze nici conținutul generat de OpenAI dacă semnalul relevant lipsește, nu este acceptat sau este deteriorat.
Dezvoltatorii pot verifica un conținut folosind un API?
Dezvoltatorii și organizațiile pot folosi API-ul de verificare OpenAI pentru a căuta semnale de proveniență OpenAI în conținutul acceptat și pentru a integra verificarea în propriile aplicații sau fluxuri de lucru. Accesați openai.com/verify pentru informații despre accesul la API. Organizațiile care au nevoie de limite de utilizare mai mari pot solicita majorarea acestora. Pentru mai multe informații, accesați openai.com/verify.