OpenAI utilitza senyals de procedència, com ara les marques d'aigua SynthID i les Credencials de contingut (C2PA), per ajudar a saber si un contingut s'ha generat amb eines d'OpenAI. Els senyals de procedència poden ser indicadors útils de l'origen, però no garanteixen que el contingut sigui exacte, no s'hagi editat, sigui de propietat legal o es presenti en el context correcte.
Què és l'estàndard C2PA i què permet fer?
C2PA és un estàndard tècnic obert que permet als editors, les empreses i altres entitats inserir metadades en continguts multimèdia per verificar-ne l'origen i la informació relacionada. C2PA no és només per a contingut generat amb IA. Els fabricants de càmeres, les organitzacions de notícies i altres entitats també estan adoptant el mateix estàndard per certificar la font i l'historial, o procedència, dels continguts multimèdia.
Les metadades C2PA poden incloure informació com ara l'eina o el servei que ha creat un fitxer, quan s'ha creat i altres detalls sobre el seu origen o historial.
Més informació sobre C2PA.
Què és SynthID i què permet fer?
SynthID és una tecnologia de marques d'aigua invisibles que insereix un senyal directament en els continguts multimèdia generats. A diferència de les metadades, el senyal forma part del contingut i pot persistir després d'algunes edicions o transformacions.
SynthID proporciona un senyal de procedència addicional juntament amb les metadades C2PA. Per exemple, si s'eliminen les metadades d'un fitxer, una marca d'aigua inserida encara pot indicar que el contingut s'ha generat amb eines d'OpenAI compatibles.
Quins tipus de contingut generat per OpenAI inclouen senyals de procedència?
OpenAI utilitza diferents senyals de procedència segons el tipus de contingut.
| Tipus de contingut | Senyals de procedència | Notes |
|---|---|---|
| Imatges | Metadades C2PA i marques d'aigua SynthID | Les imatges compatibles generades amb ChatGPT, Codex i l'API d'OpenAI inclouen tots dos senyals. |
| Àudio | Marques d'aigua SynthID | Els àudios compatibles generats per OpenAI inclouen una marca d'aigua inaudible inserida en el mateix àudio. |
La cobertura pot variar segons el producte, el model, la via d'exportació, el tipus de fitxer i el moment en què es va crear el contingut.
Per què alguns tipus de contingut utilitzen senyals de procedència diferents?
Els diferents formats multimèdia conserven la informació de procedència de maneres diferents.
Les metadades, com ara les Credencials de contingut C2PA, poden contenir informació més detallada, però de vegades les plataformes, les eines d'edició o les conversions de fitxers poden eliminar-les.
Les marques d'aigua, com ara SynthID, s'insereixen en els mateixos continguts multimèdia generats i poden resistir millor algunes transformacions. Tanmateix, les marques d'aigua solen proporcionar menys context que les metadades.
Quan és tècnicament viable, utilitzar tots dos mètodes quan correspongui ajuda a proporcionar senyals de procedència més sòlids.
Com puc afegir una marca d'aigua visible a una imatge generada amb eines d'OpenAI?
Podeu demanar que les imatges generades amb ChatGPT, Codex i l'API d'OpenAI incloguin una indicació visible sol·licitant al model que n'hi afegeixi una. Per exemple, quan genereu una imatge, podeu dir: "Include a visible OpenAI watermark in the image."
Les marques d'aigua visibles són independents dels senyals de procedència inserits, com ara les metadades C2PA i les marques d'aigua SynthID. Poden ajudar els usuaris a reconèixer que una imatge s'ha generat amb eines d'OpenAI, però no són el mateix que els senyals de procedència llegibles per màquina.
Com puc comprovar si un contingut s'ha generat amb eines d'OpenAI?
Podeu visitar openai.com/verify per comprovar si una imatge o un fitxer d'àudio compatible conté senyals de procedència associats amb contingut generat o exportat per eines d'OpenAI.
Un cop hàgiu pujat un fitxer compatible, l'eina hi cercarà senyals de procedència d'OpenAI compatibles, com ara una marca d'aigua SynthID o un manifest C2PA de confiança associat amb OpenAI.
Si l'eina troba un senyal de procedència d'OpenAI compatible, indica que el contingut s'ha generat o exportat amb eines d'OpenAI.
Què significa el resultat d'una verificació?
Si es detecta un senyal, l'eina pot ajudar a confirmar que el contingut pujat inclou un senyal de procedència compatible associat amb OpenAI.
L'eina no confirma que el contingut sigui exacte, no s'hagi editat, sigui de propietat legal o es presenti en el context correcte. Tampoc no identifica qui ha creat el contingut ni per què s'ha creat.
Què passa si no es troba cap senyal?
Si no es detecta cap senyal, vol dir que l'eina no ha trobat senyals de procedència emesos per OpenAI al fitxer pujat.
Tot i així, OpenAI podria haver generat o exportat el contingut si:
El contingut es va crear abans que els senyals de procedència estiguessin disponibles.
El contingut provenia d'un producte, model, via d'exportació o tipus de fitxer no compatible.
Les metadades es van eliminar durant la pujada, la baixada, l'edició, la conversió o la compartició.
La compressió, la retallada, el soroll, les edicions, la conversió de format o altres transformacions van degradar una marca d'aigua.
Un clip d'àudio és massa curt o s'ha modificat considerablement.
Teniu previst admetre les sortides de text?
D'acord amb els nostres compromisos en virtut del Codi de bones pràctiques sobre la transparència del contingut generat amb IA de la Comissió Europea, el nostre objectiu és ampliar els senyals de procedència a totes les modalitats, inclòs el text, perquè els clients i els desenvolupadors disposin de vies clares per complir les seves obligacions de transparència a mesura que els estàndards i les eines continuïn avançant.
OpenAI Verify pot detectar contingut d'altres eines d'IA?
OpenAI Verify està dissenyat per detectar senyals de procedència compatibles associats amb contingut generat o exportat per eines d'OpenAI.
No està dissenyat per detectar contingut generat per altres serveis d'IA i és possible que tampoc detecti contingut generat per OpenAI si el senyal corresponent no hi és, no és compatible o s'ha degradat.
Els desenvolupadors poden verificar contingut mitjançant una API?
Els desenvolupadors i les organitzacions poden utilitzar l'API de verificació d'OpenAI per comprovar si els continguts compatibles contenen senyals de procedència d'OpenAI i integrar la verificació en les seves aplicacions o fluxos de treball. Visiteu openai.com/verify per obtenir informació sobre l'accés a l'API. Les organitzacions que necessitin límits d'ús més elevats poden sol·licitar-ne un augment. Visiteu openai.com/verify per obtenir més informació.