OpenAI utilitza senyals de procedència, com ara les marques d'aigua SynthID i les credencials de contingut (C2PA), per ajudar les persones a saber si el contingut s'ha generat amb eines d'OpenAI. Els senyals de procedència poden ser indicadors útils de l'origen, però no garanteixen que el contingut sigui precís, no s'hagi editat, sigui de propietat legal o es presenti en el context correcte.
Què és l'estàndard C2PA i què permet fer?
C2PA és un estàndard tècnic obert que permet als editors, les empreses i altres entitats incorporar metadades als continguts multimèdia per verificar-ne l'origen i la informació relacionada. C2PA no serveix només per al contingut generat per IA. Els fabricants de càmeres, les organitzacions de notícies i altres entitats també estan adoptant aquest estàndard per certificar la font i l'historial, o procedència, del contingut multimèdia.
Les metadades C2PA poden incloure informació com ara l'eina o el servei que ha creat un fitxer, quan es va crear i altres detalls sobre el seu origen o historial.
Més informació sobre C2PA.
Què és SynthID i què permet fer?
SynthID és una tecnologia de marques d'aigua invisibles que incorpora un senyal directament als continguts multimèdia generats. A diferència de les metadades, el senyal forma part del contingut mateix i pot persistir després d'algunes modificacions o transformacions.
SynthID proporciona un senyal de procedència addicional, juntament amb les metadades C2PA. Per exemple, si s'eliminen les metadades d'un fitxer, una marca d'aigua incorporada encara pot proporcionar un senyal que el contingut s'ha generat amb eines compatibles d'OpenAI.
Quins tipus de contingut generat per OpenAI inclouen senyals de procedència?
OpenAI utilitza diferents senyals de procedència segons el tipus de contingut.
| Tipus de contingut | Senyals de procedència | Notes |
|---|---|---|
| Imatges | Metadades C2PA i marques d'aigua SynthID | Les imatges compatibles generades amb ChatGPT, Codex i l'API d'OpenAI inclouen tots dos senyals. |
| Àudio | Marques d'aigua SynthID | L'àudio compatible generat per OpenAI inclou una marca d'aigua inaudible incorporada a l'àudio mateix. |
La cobertura pot variar segons el producte, el model, la via d'exportació, el tipus de fitxer i el moment en què es va crear el contingut.
Per què alguns tipus de contingut utilitzen senyals de procedència diferents?
Els diferents formats multimèdia conserven la informació de procedència de maneres diferents.
Les metadades, com ara les credencials de contingut C2PA, poden incloure informació més detallada, però de vegades les plataformes, les eines d'edició o les conversions de fitxers poden eliminar-les.
Les marques d'aigua, com ara SynthID, s'incorporen als continguts multimèdia generats i poden resistir millor algunes transformacions. Tanmateix, les marques d'aigua solen proporcionar menys context que les metadades.
Quan és tècnicament viable, fer servir tots dos mètodes quan correspongui ajuda a proporcionar senyals de procedència més sòlids.
Com puc afegir una marca d'aigua visible a una imatge generada amb eines d'OpenAI?
Podeu demanar que s'inclogui un avís visible a les imatges generades amb ChatGPT, Codex i l'API d'OpenAI indicant-ho al model. Per exemple, quan genereu una imatge, podeu dir: "Include a visible OpenAI watermark in the image."
Les marques d'aigua visibles són diferents dels senyals de procedència incorporats, com ara les metadades C2PA i les marques d'aigua SynthID. Poden ajudar els usuaris a reconèixer que una imatge s'ha generat amb eines d'OpenAI, però no són el mateix que els senyals de procedència llegibles per màquina.
Com puc comprovar si un contingut s'ha generat amb eines d'OpenAI?
Podeu visitar openai.com/verify per comprovar si una imatge o un fitxer d'àudio compatible conté senyals de procedència associats al contingut generat o exportat amb eines d'OpenAI.
Després de pujar un fitxer compatible, l'eina cercarà senyals de procedència compatibles d'OpenAI, com ara una marca d'aigua SynthID o un manifest C2PA de confiança associat a OpenAI.
Si l'eina troba un senyal de procedència compatible d'OpenAI, indica que el contingut s'ha generat o exportat amb eines d'OpenAI.
Què significa el resultat d'una verificació?
Si es detecta un senyal, l'eina pot ajudar a confirmar que el contingut pujat conté un senyal de procedència compatible associat a OpenAI.
L'eina no confirma que el contingut sigui precís, no s'hagi editat, sigui de propietat legal o es presenti en el context correcte. Tampoc identifica qui ha creat el contingut ni per què s'ha creat.
Què passa si no es troba cap senyal?
Si no es detecta cap senyal, vol dir que l'eina no ha trobat senyals de procedència emesos per OpenAI al fitxer pujat.
Tot i això, el contingut podria haver estat generat o exportat per OpenAI si:
El contingut es va crear abans que els senyals de procedència estiguessin disponibles.
El contingut prové d'un producte, un model, una via d'exportació o un tipus de fitxer no compatible.
Les metadades es van eliminar durant la pujada, la baixada, l'edició, la conversió o l'ús compartit.
Una marca d'aigua s'ha degradat per la compressió, la retallada, el soroll, les edicions, la conversió de format o altres transformacions.
Un clip d'àudio és massa curt o s'ha modificat considerablement.
Teniu previst admetre resultats de text?
D'acord amb els nostres compromisos en virtut del Codi de bones pràctiques sobre transparència del contingut generat per IA de la Comissió Europea, el nostre objectiu és ampliar els senyals de procedència a totes les modalitats, inclòs el text, perquè els clients i els desenvolupadors disposin de maneres clares de complir les seves obligacions de transparència a mesura que els estàndards i les eines continuïn madurant.
OpenAI Verify pot detectar contingut d'altres eines d'IA?
OpenAI Verify està dissenyat per detectar els senyals de procedència compatibles associats al contingut generat o exportat amb eines d'OpenAI.
No està dissenyat per detectar contingut generat per altres serveis d'IA i és possible que tampoc detecti contingut generat per OpenAI si el senyal corresponent no hi és, no és compatible o s'ha degradat.
Els desenvolupadors poden verificar contingut mitjançant una API?
Els desenvolupadors i les organitzacions poden utilitzar l'API de verificació d'OpenAI per cercar senyals de procedència d'OpenAI en contingut compatible i integrar la verificació a les seves aplicacions o fluxos de treball. Visiteu openai.com/verify per obtenir informació sobre l'accés a l'API. Les organitzacions que necessitin límits d'ús més alts poden sol·licitar-ne un augment. Visiteu openai.com/verify per obtenir més informació.