Visão geral
A OpenAI usa sistemas automatizados e denúncias de usuários para identificar conteúdos que possam ser prejudiciais ou violar suas Políticas de Uso. Dependendo da situação, o ChatGPT poderá limitar uma resposta, restringir o compartilhamento, encerrar uma conversa ou suspender temporariamente o acesso à conta. A OpenAI também poderá tomar medidas separadas em relação a uma conta ou a um GPT.
Essas salvaguardas se baseiam nos testes de segurança e alinhamento e nas medidas de mitigação que a OpenAI realiza antes de lançar seus modelos.
Identificação de conteúdo potencialmente prejudicial
A OpenAI usa ferramentas automatizadas de moderação para identificar conteúdos potencialmente prejudiciais em prompts, respostas, arquivos enviados e GPTs.
O ChatGPT pode tomar determinadas medidas de segurança automaticamente, sem que uma pessoa analise a conversa previamente. Quando alguém denuncia um conteúdo, a OpenAI usa sistemas automatizados e revisores treinados para avaliar a denúncia.
Ações no ChatGPT e no ChatGPT Imagens
Quando o conteúdo puder violar as políticas da OpenAI ou levantar uma preocupação de segurança, o ChatGPT poderá:
Avisar que o conteúdo pode violar as Políticas de Uso da OpenAI.
Recusar-se a responder a um prompt.
Impedir que uma conversa seja compartilhada.
Encerrar uma conversa que levante uma preocupação grave relacionada à violência ou à possibilidade de causar danos a outras pessoas.
Suspender temporariamente sua conta se conversas posteriores levantarem preocupações graves relacionadas à violência ou à possibilidade de causar danos a outras pessoas, após o encerramento repetido de conversas.
A OpenAI também poderá encerrar permanentemente uma conta em caso de violações graves ou repetidas das políticas.
Conversas encerradas
Se o ChatGPT encerrar uma conversa, ela não aparecerá mais no seu histórico de conversas nem nos resultados da pesquisa. Você poderá iniciar um novo chat, a menos que sua conta esteja suspensa ou sujeita a outras restrições.
Suspensões temporárias de conta
Se o ChatGPT suspender temporariamente sua conta, sua sessão será encerrada imediatamente, e você não poderá fazer login nem usar o ChatGPT enquanto a suspensão estiver ativa. A suspensão temporária é diferente do encerramento permanente da conta.
Para saber mais sobre essas medidas, consulte: Por que o ChatGPT encerrou sua conversa ou suspendeu sua conta temporariamente por preocupações com violência.
Encerramento permanente da conta
A OpenAI pode encerrar permanentemente uma conta em caso de violações graves ou repetidas de suas políticas. Essa medida é independente do encerramento de uma conversa ou da suspensão temporária da conta.
Para saber mais sobre o encerramento permanente de contas e as opções disponíveis para solicitar uma análise, consulte: Encerramentos de contas da OpenAI e suspensões por segurança.
Ações envolvendo GPTs
A OpenAI também usa ferramentas automatizadas para identificar conteúdo potencialmente problemático associado a um GPT. Se um GPT puder violar as políticas da OpenAI, a empresa poderá impedir que ele seja distribuído.
O criador do GPT poderá atualizar o GPT ou a configuração da API para resolver o problema. Se houver uma opção de contestação no produto, o criador poderá usá-la para solicitar uma análise. Em casos especialmente graves, a OpenAI também poderá encerrar permanentemente a conta do criador.
Denúncia de conteúdo problemático
Você pode denunciar conteúdos que acredita que possam violar as políticas da OpenAI ou representar outros riscos à segurança. A OpenAI usa sistemas automatizados e revisores treinados para avaliar as denúncias recebidas.
Para denunciar conteúdos diretamente no ChatGPT, consulte: Como denunciar conteúdo no ChatGPT e nas plataformas da OpenAI.
Para denunciar uma conversa compartilhada do ChatGPT, consulte: Como denunciar conteúdo prejudicial ou ilegal em um link compartilhado.
Para denunciar um GPT, consulte: Como denunciar um GPT.
Se alguém estiver em perigo imediato, entre em contato com os serviços de emergência locais. Denunciar conteúdo à OpenAI não substitui a assistência de emergência.