Comment OpenAI détecte les contenus problématiques et y réagit

Découvrez comment OpenAI détecte les contenus potentiellement préjudiciables et y réagit dans ChatGPT, ChatGPT Images et les GPTs.

Dernière mise à jour : 8 days ago

Présentation

OpenAI utilise des systèmes automatisés et les signalements des utilisateurs pour détecter les contenus susceptibles d’être préjudiciables ou d’enfreindre ses Politiques d'utilisation. Selon la situation, ChatGPT peut limiter une réponse, restreindre le partage de contenu, mettre fin à une conversation ou suspendre temporairement l’accès au compte. OpenAI peut également prendre des mesures distinctes à l’égard d’un compte ou d’un GPT.

Ces mesures de protection s'appuient sur les tests et les mesures d'atténuation en matière de sécurité et d'alignement qu'OpenAI réalise avant de publier ses modèles.

Détection des contenus potentiellement préjudiciables

OpenAI utilise des outils de modération automatisés pour détecter les contenus potentiellement préjudiciables dans les prompts, les réponses, les fichiers importés et les GPTs.

ChatGPT peut prendre automatiquement certaines mesures de sécurité, sans qu’une personne ait préalablement examiné la conversation. Lorsqu’un utilisateur signale un contenu, OpenAI fait appel à des systèmes automatisés et à des équipes de modération formées pour examiner le signalement.

Actions dans ChatGPT et ChatGPT Images

Lorsqu'un contenu est susceptible d'enfreindre les politiques d'OpenAI ou soulève un problème de sécurité, ChatGPT peut :

  • Vous avertir que votre contenu est susceptible d’enfreindre les politiques d’utilisation d’OpenAI.

  • Refuser de répondre à un prompt.

  • Empêcher le partage d'une conversation

  • Mettre fin à une conversation qui soulève de sérieuses préoccupations concernant des actes de violence ou des préjudices à l’encontre d’autrui.

  • Suspendre temporairement votre compte si, après plusieurs fins de conversation, de nouvelles conversations suscitent de sérieuses inquiétudes au sujet de violences ou de préjudices envers autrui.

OpenAI peut également fermer définitivement un compte en cas de violations graves ou répétées de ses politiques.

Conversations terminées

Lorsqu’une conversation est interrompue par ChatGPT, elle n’apparaît plus dans votre historique de conversations ni dans les résultats de recherche. Vous pouvez démarrer une nouvelle conversation, sauf si votre compte est suspendu ou fait l’objet d’une autre restriction.

Suspensions temporaires de compte

Si ChatGPT suspend temporairement votre compte, vous êtes immédiatement déconnecté et ne pouvez plus vous connecter ni utiliser ChatGPT pendant toute la durée de la suspension. Une suspension temporaire est différente d’une fermeture définitive du compte.

Pour en savoir plus sur ces mesures, consultez : Pourquoi ChatGPT a mis fin à votre conversation ou suspendu temporairement votre compte en raison de préoccupations liées à la violence.

Fermeture définitive du compte

OpenAI peut fermer définitivement un compte en cas de violations graves ou répétées de ses politiques d’utilisation. Cette mesure est distincte de l’interruption d’une conversation ou de la suspension temporaire d’un compte.

Pour en savoir plus sur la fermeture définitive d’un compte et les possibilités de demander un réexamen, consultez : Fermetures de comptes OpenAI et suspensions pour raisons de sécurité.

Actions concernant les GPT

OpenAI utilise également des outils automatisés pour détecter les contenus potentiellement problématiques associés à un GPT. Si un GPT est susceptible d’enfreindre les politiques d’OpenAI, OpenAI peut en empêcher la diffusion.

Le créateur du GPT peut modifier sa configuration ou celle de l’API afin de remédier au problème. Si une procédure de recours est disponible directement dans le produit, le créateur du GPT peut l’utiliser pour demander un réexamen. Dans les cas particulièrement graves, OpenAI peut également fermer définitivement le compte du créateur du GPT.

Signaler un contenu problématique

Vous pouvez signaler tout contenu qui, selon vous, est susceptible d’enfreindre les politiques d’OpenAI ou de présenter un risque pour la sécurité. OpenAI utilise des systèmes automatisés et des équipes de modération formées pour examiner les signalements reçus.

Si une personne semble être en danger immédiat, contactez les services d’urgence locaux. Signaler un contenu à OpenAI ne remplace pas le recours aux services d’urgence.

Cet article vous a-t-il été utile ?