Présentation
OpenAI utilise des systèmes automatisés et les signalements des utilisateurs pour détecter les contenus susceptibles d’être préjudiciables ou d’enfreindre ses Politiques d'utilisation. Selon la situation, ChatGPT peut limiter une réponse, restreindre le partage de contenu, mettre fin à une conversation ou suspendre temporairement l’accès au compte. OpenAI peut également prendre des mesures distinctes à l’égard d’un compte ou d’un GPT.
Ces mesures de protection s'appuient sur les tests et les mesures d'atténuation en matière de sécurité et d'alignement qu'OpenAI réalise avant de publier ses modèles.
Détection des contenus potentiellement préjudiciables
OpenAI utilise des outils de modération automatisés pour détecter les contenus potentiellement préjudiciables dans les prompts, les réponses, les fichiers importés et les GPTs.
ChatGPT peut prendre automatiquement certaines mesures de sécurité, sans qu’une personne ait préalablement examiné la conversation. Lorsqu’un utilisateur signale un contenu, OpenAI fait appel à des systèmes automatisés et à des équipes de modération formées pour examiner le signalement.
Actions dans ChatGPT et ChatGPT Images
Lorsqu'un contenu est susceptible d'enfreindre les politiques d'OpenAI ou soulève un problème de sécurité, ChatGPT peut :
Vous avertir que votre contenu est susceptible d’enfreindre les politiques d’utilisation d’OpenAI.
Refuser de répondre à un prompt.
Empêcher le partage d'une conversation
Mettre fin à une conversation qui soulève de sérieuses préoccupations concernant des actes de violence ou des préjudices à l’encontre d’autrui.
Suspendre temporairement votre compte si, après plusieurs fins de conversation, de nouvelles conversations suscitent de sérieuses inquiétudes au sujet de violences ou de préjudices envers autrui.
OpenAI peut également fermer définitivement un compte en cas de violations graves ou répétées de ses politiques.
Conversations terminées
Lorsqu’une conversation est interrompue par ChatGPT, elle n’apparaît plus dans votre historique de conversations ni dans les résultats de recherche. Vous pouvez démarrer une nouvelle conversation, sauf si votre compte est suspendu ou fait l’objet d’une autre restriction.
Suspensions temporaires de compte
Si ChatGPT suspend temporairement votre compte, vous êtes immédiatement déconnecté et ne pouvez plus vous connecter ni utiliser ChatGPT pendant toute la durée de la suspension. Une suspension temporaire est différente d’une fermeture définitive du compte.
Pour en savoir plus sur ces mesures, consultez : Pourquoi ChatGPT a mis fin à votre conversation ou suspendu temporairement votre compte en raison de préoccupations liées à la violence.
Fermeture définitive du compte
OpenAI peut fermer définitivement un compte en cas de violations graves ou répétées de ses politiques d’utilisation. Cette mesure est distincte de l’interruption d’une conversation ou de la suspension temporaire d’un compte.
Pour en savoir plus sur la fermeture définitive d’un compte et les possibilités de demander un réexamen, consultez : Fermetures de comptes OpenAI et suspensions pour raisons de sécurité.
Actions concernant les GPT
OpenAI utilise également des outils automatisés pour détecter les contenus potentiellement problématiques associés à un GPT. Si un GPT est susceptible d’enfreindre les politiques d’OpenAI, OpenAI peut en empêcher la diffusion.
Le créateur du GPT peut modifier sa configuration ou celle de l’API afin de remédier au problème. Si une procédure de recours est disponible directement dans le produit, le créateur du GPT peut l’utiliser pour demander un réexamen. Dans les cas particulièrement graves, OpenAI peut également fermer définitivement le compte du créateur du GPT.
Signaler un contenu problématique
Vous pouvez signaler tout contenu qui, selon vous, est susceptible d’enfreindre les politiques d’OpenAI ou de présenter un risque pour la sécurité. OpenAI utilise des systèmes automatisés et des équipes de modération formées pour examiner les signalements reçus.
Pour signaler du contenu directement dans ChatGPT, consultez : Signaler du contenu sur ChatGPT et les plateformes OpenAI.
Pour une conversation ChatGPT partagée, consultez : Signaler un contenu nuisible ou illégal dans un lien partagé.
Pour un GPT, consultez : Signaler un GPT.
Si une personne semble être en danger immédiat, contactez les services d’urgence locaux. Signaler un contenu à OpenAI ne remplace pas le recours aux services d’urgence.
