Nous croyons au développement et au déploiement responsables et itératifs comme moyen d’atteindre une intelligence artificielle générale sécuritaire. Nous effectuons un travail considérable de test et d’atténuation en matière de sécurité et d’alignement avant de lancer un modèle auprès du public, et nous disposons également de systèmes automatisés et humains pour nous aider à détecter le contenu problématique qui apparaît sur nos services destinés aux particuliers, comme ChatGPT et les GPTs. Nous décrivons certains de ces efforts ci-dessous.
ChatGPT et ChatGPT Images
Nous utilisons des outils automatisés, comme une version interne de notre API /moderations, pour détecter les contenus (invites, réponses, fichiers téléversés) qui pourraient être préjudiciables ou enfreindre nos politiques d’utilisation. Si nous détectons du contenu problématique, nous vous avertirons généralement que votre contenu pourrait enfreindre nos politiques d’utilisation ou nous empêcherons le modèle de répondre à votre invite. Nous pouvons aussi empêcher le partage de la conversation contenant l’invite ou la réponse problématique. Dans des circonstances très limitées, nous pouvons aussi bannir votre compte en cas de comportement particulièrement répréhensible.
Nous acceptons aussi les signalements de contenu problématique faits par des personnes sur ChatGPT. Nous faisons appel à la fois à des systèmes automatisés et à une équipe de spécialistes formés pour examiner ces signalements.
ChatGPT : Si quelqu’un partage une conversation qui, selon vous, contient du contenu problématique, vous pouvez aussi nous la signaler.
Pour en savoir plus sur la façon de signaler du contenu directement dans ChatGPT, consultez : Signaler du contenu dans ChatGPT et sur les plateformes OpenAI.
GPT
Nous utilisons aussi des outils automatisés comme notre API /moderations pour déterminer si un GPT est potentiellement problématique. Si nous détectons du contenu problématique associé au GPT, nous prendrons des mesures, par exemple pour empêcher sa diffusion. Le créateur peut modifier la configuration du GPT ou de l’API pour retirer le contenu problématique, ou faire appel de la décision au moyen d’une procédure intégrée au produit. Dans des circonstances très limitées, nous pouvons aussi bannir le compte du créateur en cas de comportement particulièrement répréhensible.
Nous acceptons aussi les signalements de GPT problématiques faits par des personnes. Si vous voyez un GPT qui, selon vous, enfreint nos politiques d’utilisation ou présente du contenu problématique d’une autre manière, vous pouvez aussi nous le signaler. Nous faisons appel à la fois à des systèmes automatisés et à une équipe de spécialistes formés pour examiner ces signalements.