OpenAI utilise des signaux de provenance, comme les filigranes SynthID et les Content Credentials (C2PA), pour aider les gens à déterminer si du contenu a été généré avec des outils OpenAI. Les signaux de provenance peuvent être des indicateurs d’origine utiles, mais ils ne garantissent pas que le contenu est exact, non modifié, détenu légalement ou présenté dans le bon contexte.
Qu’est-ce que la norme C2PA et que permet-elle de faire?
C2PA est une norme technique ouverte qui permet aux éditeurs, aux entreprises et à d’autres intervenants d’intégrer des métadonnées aux contenus multimédias afin d’en vérifier l’origine et les renseignements connexes. C2PA ne s’applique pas uniquement au contenu généré par l’IA. La même norme est également adoptée par des fabricants d’appareils photo, des organismes de presse et d’autres intervenants pour certifier la source et l’historique, ou la provenance, du contenu multimédia.
Les métadonnées C2PA peuvent comprendre des renseignements comme l’outil ou le service ayant créé un fichier, sa date de création et d’autres détails sur son origine ou son historique.
En savoir plus sur C2PA.
Qu’est-ce que SynthID et que permet-il de faire?
SynthID est une technologie de filigrane invisible qui intègre un signal directement dans le contenu multimédia généré. Contrairement aux métadonnées, le signal fait partie du contenu lui-même et peut persister après certaines modifications ou transformations.
SynthID fournit un signal de provenance supplémentaire qui complète les métadonnées C2PA. Par exemple, si les métadonnées sont supprimées d’un fichier, un filigrane intégré peut encore indiquer que le contenu a été généré avec des outils OpenAI pris en charge.
Quels types de contenu généré par OpenAI comprennent des signaux de provenance?
OpenAI utilise différents signaux de provenance selon le type de contenu.
| Type de contenu | Signaux de provenance | Remarques |
|---|---|---|
| Images | Métadonnées C2PA et filigranes SynthID | Les images prises en charge qui sont générées avec ChatGPT, Codex et l’API OpenAI comprennent les deux signaux. |
| Audio | Filigranes SynthID | Les fichiers audio pris en charge qui sont générés par OpenAI comprennent un filigrane inaudible intégré au contenu audio lui-même. |
La couverture peut varier selon le produit, le modèle, le mode d’exportation, le type de fichier et la date de création du contenu.
Pourquoi certains types de contenu utilisent-ils différents signaux de provenance?
Les différents formats multimédias préservent les renseignements de provenance de différentes façons.
Les métadonnées, comme les Content Credentials C2PA, peuvent contenir des renseignements plus détaillés, mais elles peuvent parfois être supprimées par des plateformes, des outils de modification ou des conversions de fichiers.
Les filigranes, comme SynthID, sont intégrés au contenu multimédia généré et peuvent mieux résister à certaines transformations. Toutefois, les filigranes fournissent généralement moins de contexte que les métadonnées.
Lorsque cela est techniquement possible, l’utilisation appropriée des deux méthodes aide à fournir des signaux de provenance plus fiables.
Comment puis-je ajouter un filigrane visible à une image générée avec les outils OpenAI?
Vous pouvez demander l’ajout d’une mention visible aux images générées avec ChatGPT, Codex et l’API OpenAI en demandant au modèle d’en inclure une. Par exemple, lorsque vous générez une image, vous pouvez dire : « Inclure un filigrane OpenAI visible dans l’image. »
Les filigranes visibles sont distincts des signaux de provenance intégrés, comme les métadonnées C2PA et les filigranes SynthID. Ils peuvent aider les gens à reconnaître qu’une image a été générée avec les outils OpenAI, mais ils ne sont pas équivalents aux signaux de provenance lisibles par machine.
Comment puis-je vérifier si du contenu a été généré avec les outils OpenAI?
Vous pouvez consulter openai.com/verify pour vérifier si une image ou un fichier audio pris en charge contient des signaux de provenance associés au contenu généré ou exporté par les outils OpenAI.
Après le téléversement d’un fichier pris en charge, l’outil recherchera des signaux de provenance OpenAI pris en charge, comme un filigrane SynthID ou un manifeste C2PA fiable associé à OpenAI.
Si l’outil trouve un signal de provenance OpenAI pris en charge, cela indique que le contenu a été généré ou exporté par les outils OpenAI.
Que signifie un résultat de vérification?
Si un signal est détecté, l’outil peut aider à confirmer que le contenu téléversé contient un signal de provenance pris en charge qui est associé à OpenAI.
L’outil ne confirme pas que le contenu est exact, non modifié, détenu légalement ou présenté dans le bon contexte. Il ne permet pas non plus de déterminer qui a créé le contenu ni pourquoi.
Que se passe-t-il si aucun signal n’est trouvé?
Si aucun signal n’est détecté, cela signifie que l’outil n’a trouvé aucun signal de provenance émis par OpenAI dans le fichier téléversé.
Le contenu pourrait tout de même avoir été généré ou exporté par OpenAI si :
Le contenu a été créé avant que les signaux de provenance soient disponibles.
Le contenu provenait d’un produit, d’un modèle, d’un mode d’exportation ou d’un type de fichier non pris en charge.
Les métadonnées ont été supprimées pendant le téléversement, le téléchargement, la modification, la conversion ou le partage.
Un filigrane a été dégradé par la compression, le recadrage, le bruit, des modifications, une conversion de format ou d’autres transformations.
Un extrait audio est trop court ou a été considérablement modifié.
Prévoyez-vous prendre en charge les sorties de texte?
Conformément à nos engagements au titre du Code de bonnes pratiques de la Commission européenne en matière de transparence du contenu généré par l’IA, notre objectif est d’étendre les signaux de provenance à toutes les modalités, y compris le texte, afin que les clients et les développeurs disposent de moyens clairs pour respecter leurs propres obligations de transparence à mesure que les normes et les outils évoluent.
OpenAI Verify peut-il détecter le contenu provenant d’autres outils d’IA?
OpenAI Verify est conçu pour détecter les signaux de provenance pris en charge qui sont associés au contenu généré ou exporté par les outils OpenAI.
Il n’est pas conçu pour détecter le contenu généré par d’autres services d’IA et pourrait également ne pas détecter du contenu généré par OpenAI si le signal pertinent est absent, non pris en charge ou dégradé.
Les développeurs peuvent-ils vérifier du contenu au moyen d’une API?
Les développeurs et les organisations peuvent utiliser l’API de vérification d’OpenAI pour rechercher les signaux de provenance OpenAI dans le contenu pris en charge et intégrer la vérification à leurs propres applications ou flux de travail. Consultez openai.com/verify pour obtenir des renseignements sur l’accès à l’API. Les organisations qui ont besoin de limites d’utilisation plus élevées peuvent demander une augmentation de leurs limites. Veuillez consulter openai.com/verify pour en savoir plus.