Aperçu
OpenAI utilise des systèmes automatisés et les signalements des utilisateurs pour détecter le contenu qui pourrait être préjudiciable ou enfreindre ses politiques d’utilisation. Selon la situation, ChatGPT peut limiter une réponse, restreindre le partage, mettre fin à une conversation ou suspendre temporairement l’accès au compte. OpenAI peut aussi prendre des mesures distinctes concernant un compte ou un GPT.
Ces protections s’appuient sur les tests et les mesures d’atténuation en matière de sécurité et d’alignement qu’OpenAI réalise avant de publier ses modèles.
Détection du contenu potentiellement préjudiciable
OpenAI utilise des outils de modération automatisés pour détecter le contenu potentiellement préjudiciable dans les invites, les réponses, les fichiers téléversés et les GPT.
ChatGPT peut prendre certaines mesures de sécurité automatiquement, sans qu’une personne examine d’abord la conversation. Lorsqu’une personne signale du contenu, OpenAI utilise des systèmes automatisés et du personnel formé pour évaluer ce signalement.
Mesures dans ChatGPT et ChatGPT Images
Lorsqu’un contenu pourrait enfreindre les politiques d’OpenAI ou soulève une préoccupation en matière de sécurité, ChatGPT peut :
Vous avertir que votre contenu pourrait enfreindre les politiques d’utilisation d’OpenAI.
Refuser de répondre à une invite.
Empêcher le partage d’une conversation.
Mettre fin à une conversation qui soulève une préoccupation sérieuse concernant la violence ou des préjudices envers autrui.
Suspendre temporairement votre compte si, après avoir mis fin à plusieurs conversations, d’autres conversations soulèvent des préoccupations sérieuses concernant la violence ou des préjudices envers autrui.
OpenAI peut, indépendamment de ces mesures, fermer définitivement un compte en cas d’infractions graves ou répétées à ses politiques.
Conversations interrompues
Si ChatGPT met fin à une conversation, celle-ci n’apparaît plus dans votre historique de conversations ni dans les résultats de recherche. Vous pouvez commencer une nouvelle conversation, à moins que votre compte soit suspendu ou fasse l’objet d’autres restrictions.
Suspensions temporaires de comptes
Si ChatGPT suspend temporairement votre compte, votre session est immédiatement fermée et vous ne pouvez ni vous connecter ni utiliser ChatGPT pendant la suspension. Une suspension temporaire est différente d’une fermeture définitive de compte.
Pour en savoir plus sur ces mesures, consultez : Pourquoi ChatGPT a mis fin à votre conversation ou suspendu temporairement votre compte en raison de préoccupations liées à la violence.
Fermeture définitive du compte
OpenAI peut fermer définitivement un compte en cas d’infractions graves ou répétées à ses politiques. Cette mesure est distincte de l’interruption d’une conversation ou de la suspension temporaire d’un compte.
Pour en savoir plus sur la fermeture définitive d’un compte et les options d’examen du compte offertes, consultez : Fermetures de comptes OpenAI et suspensions pour des raisons de sécurité.
Mesures concernant les GPT
OpenAI utilise aussi des outils automatisés pour détecter le contenu potentiellement problématique associé à un GPT. Si un GPT pourrait enfreindre les politiques d’OpenAI, OpenAI peut empêcher sa distribution.
La personne qui a créé le GPT peut mettre à jour le GPT ou la configuration de l’API pour corriger le problème. Si une option d’appel est offerte dans le produit, cette personne peut l’utiliser pour demander un examen. Dans les cas particulièrement graves, OpenAI peut aussi fermer définitivement le compte de la personne qui a créé le GPT.
Signalement de contenu problématique
Vous pouvez signaler du contenu qui, selon vous, pourrait enfreindre les politiques d’OpenAI ou soulever d’autres préoccupations en matière de sécurité. OpenAI utilise des systèmes automatisés et du personnel formé pour évaluer les signalements reçus.
Pour du contenu directement dans ChatGPT, consultez : Signalement de contenu dans ChatGPT et sur les plateformes d’OpenAI.
Pour une conversation ChatGPT partagée, consultez : Signalement de contenu préjudiciable ou illégal dans un lien partagé.
Pour un GPT, consultez : Signalement d’un GPT.
Si une personne risque d’être en danger immédiat, communiquez avec les services d’urgence locaux. Le signalement de contenu à OpenAI ne remplace pas l’aide des services d’urgence.