OpenAI utilise des signaux de provenance, comme les filigranes SynthID et les justificatifs de contenu (C2PA), pour aider les gens à déterminer si du contenu a été généré avec des outils d’OpenAI. Les signaux de provenance peuvent fournir des indications utiles sur l’origine, mais ils ne garantissent pas que le contenu est exact, non modifié, détenu légalement ou présenté dans le bon contexte.
Qu’est-ce que la norme C2PA et que permet-elle?
C2PA est une norme technique ouverte qui permet aux éditeurs, aux entreprises et à d’autres intervenants d’intégrer des métadonnées aux médias afin d’en vérifier l’origine et les renseignements connexes. C2PA ne s’applique pas uniquement au contenu généré par l’IA. La même norme est également adoptée par des fabricants d’appareils photo, des organismes de presse et d’autres intervenants afin de certifier la source et l’historique, ou la provenance, du contenu multimédia.
Les métadonnées C2PA peuvent comprendre des renseignements comme l’outil ou le service ayant créé un fichier, sa date de création et d’autres détails sur son origine ou son historique.
En savoir plus sur C2PA.
Qu’est-ce que SynthID et que permet cette technologie?
SynthID est une technologie de filigrane invisible qui intègre un signal directement au contenu multimédia généré. Contrairement aux métadonnées, le signal fait partie du contenu lui-même et peut persister après certaines modifications ou transformations.
SynthID fournit un signal de provenance supplémentaire qui accompagne les métadonnées C2PA. Par exemple, si les métadonnées sont supprimées d’un fichier, un filigrane intégré peut tout de même indiquer que le contenu a été généré avec des outils d’OpenAI pris en charge.
Quels types de contenu généré par OpenAI comprennent des signaux de provenance?
OpenAI utilise différents signaux de provenance selon le type de contenu.
| Type de contenu | Signaux de provenance | Remarques |
|---|---|---|
| Images | Métadonnées C2PA et filigranes SynthID | Les images prises en charge générées avec ChatGPT, Codex et l’API d’OpenAI comprennent les deux signaux. |
| Audio | Filigranes SynthID | Le contenu audio pris en charge généré par OpenAI comprend un filigrane inaudible intégré directement à l’audio. |
La couverture peut varier selon le produit, le modèle, le mode d’exportation, le type de fichier et la date de création du contenu.
Pourquoi certains types de contenu utilisent-ils différents signaux de provenance?
Les différents formats multimédias préservent les renseignements sur la provenance de différentes façons.
Les métadonnées, comme les justificatifs de contenu C2PA, peuvent contenir des renseignements plus détaillés, mais elles peuvent parfois être supprimées par des plateformes, des outils de modification ou des conversions de fichiers.
Les filigranes, comme SynthID, sont intégrés directement au contenu multimédia généré et peuvent mieux résister à certaines transformations. Toutefois, les filigranes fournissent généralement moins de contexte que les métadonnées.
Lorsque cela est techniquement possible, l’utilisation conjointe des deux approches, là où elles sont appropriées, permet de fournir des signaux de provenance plus fiables.
Comment puis-je ajouter un filigrane visible à une image générée avec des outils d’OpenAI?
Vous pouvez demander l’ajout d’une mention visible aux images générées avec ChatGPT, Codex et l’API d’OpenAI en indiquant au modèle d’en inclure une. Par exemple, lorsque vous générez une image, vous pouvez dire : « Ajoute un filigrane OpenAI visible à l’image. »
Les filigranes visibles sont distincts des signaux de provenance intégrés, comme les métadonnées C2PA et les filigranes SynthID. Ils peuvent aider les gens à reconnaître qu’une image a été générée avec des outils d’OpenAI, mais ils ne sont pas équivalents aux signaux de provenance lisibles par machine.
Comment puis-je vérifier si du contenu a été généré avec des outils d’OpenAI?
Vous pouvez consulter openai.com/verify pour vérifier si une image ou un fichier audio pris en charge contient des signaux de provenance associés à du contenu généré ou exporté par des outils d’OpenAI.
Après le téléversement d’un fichier pris en charge, l’outil recherchera les signaux de provenance d’OpenAI pris en charge, comme un filigrane SynthID ou un manifeste C2PA fiable associé à OpenAI.
Si l’outil trouve un signal de provenance d’OpenAI pris en charge, cela indique que le contenu a été généré par des outils d’OpenAI ou exporté à partir de ceux-ci.
Que signifie un résultat de vérification?
Si un signal est détecté, l’outil peut aider à confirmer que le contenu téléversé renferme un signal de provenance pris en charge associé à OpenAI.
L’outil ne confirme pas que le contenu est exact, non modifié, détenu légalement ou présenté dans le bon contexte. Il ne permet pas non plus de déterminer qui a créé le contenu ni pourquoi il a été créé.
Que se passe-t-il si aucun signal n’est trouvé?
Si aucun signal n’est détecté, cela signifie que l’outil n’a trouvé aucun signal de provenance émis par OpenAI dans le fichier téléversé.
Le contenu pourrait tout de même avoir été généré ou exporté par OpenAI si :
Le contenu a été créé avant que les signaux de provenance soient disponibles.
Le contenu provient d’un produit, d’un modèle, d’un mode d’exportation ou d’un type de fichier non pris en charge.
Les métadonnées ont été supprimées pendant le téléversement, le téléchargement, la modification, la conversion ou le partage.
Un filigrane a été dégradé par la compression, le recadrage, le bruit, des modifications, une conversion de format ou d’autres transformations.
Un extrait audio est trop court ou a été considérablement modifié.
Prévoyez-vous prendre en charge les sorties de texte?
Conformément à nos engagements en vertu du Code de bonnes pratiques de la Commission européenne sur la transparence du contenu généré par l’IA, notre objectif est d’étendre les signaux de provenance à toutes les modalités, y compris le texte, afin que les clients et les développeurs disposent de moyens clairs pour respecter leurs propres obligations de transparence à mesure que les normes et les outils continuent d’évoluer.
OpenAI Verify peut-il détecter du contenu provenant d’autres outils d’IA?
OpenAI Verify est conçu pour détecter les signaux de provenance pris en charge associés au contenu généré ou exporté par des outils d’OpenAI.
Il n’est pas conçu pour détecter le contenu généré par d’autres services d’IA et pourrait également ne pas détecter du contenu généré par OpenAI si le signal pertinent est absent, non pris en charge ou dégradé.
Les développeurs peuvent-ils vérifier du contenu au moyen d’une API?
Les développeurs et les organisations peuvent utiliser l’API de vérification d’OpenAI pour rechercher les signaux de provenance d’OpenAI dans le contenu pris en charge et intégrer la vérification à leurs propres applications ou flux de travail. Consultez openai.com/verify pour obtenir des renseignements sur l’accès à l’API. Les organisations qui ont besoin de limites d’utilisation plus élevées peuvent demander une augmentation de leurs limites. Veuillez consulter openai.com/verify pour en savoir plus.