O Modo de Bloqueio está sendo implementado gradualmente em contas pessoais elegíveis, incluindo as contas Free, Go, Plus e Pro, além de contas comerciais ChatGPT de autoatendimento. Se você não encontrar o Modo de Bloqueio nas suas configurações, pode ser que ele ainda não esteja disponível para a sua conta.
Visão geral
O Modo de Bloqueio é uma configuração de segurança avançada opcional que limita muitas ferramentas e funcionalidades dos produtos OpenAI que podem se conectar à web ou a serviços externos. Ele foi projetado para reduzir o risco de exfiltração de dados por meio de ataques de injeção rápida , limitando as solicitações de rede de saída, à custa da desativação ou limitação de alguns recursos úteis.
O Modo de Bloqueio não é indicado para todos. É projetado para pessoas e organizações que lidam com dados sensíveis e desejam uma proteção mais rigorosa contra os riscos de exfiltração de dados relacionados à injeção imediata.
Disponibilidade
O Modo de Bloqueio está disponível para todos os tipos de conta e espaços de trabalho. Você precisa estar conectado para usar este recurso.
Como o Modo de Bloqueio ajuda a reduzir o risco de exfiltração de dados
A injeção de prompt é um problema de pesquisa inovador e desafiador, e estamos trabalhando continuamente para fortalecer nossos sistemas de segurança multicamadas a fim de proteger os usuários contra esses ataques.
O Modo de bloqueio amplia as proteções nos níveis de modelo, produto e sistema. Isso inclui sandboxing, proteções contra exfiltração de dados baseada em URL, monitoramento e aplicação de políticas, além de controles corporativos como acesso baseado em funções e registros de auditoria.
O Modo de Bloqueio foi projetado para ajudar a prevenir a etapa final de exfiltração de dados de um ataque de injeção rápida, limitando as solicitações de rede de saída que poderiam transferir dados confidenciais para um invasor. O Modo de Bloqueio não impede que injeções de prompts apareçam nos processos de conteúdo do ChatGPT. Por exemplo, uma injeção de prompt pode aparecer em conteúdo da web armazenado em cache ou em um arquivo carregado, e ainda assim afetar o comportamento ou a precisão de uma resposta.
Especificamente, para quem usa o Modo de bloqueio, as seguintes funcionalidades dos produtos da OpenAI estão desativadas:
Navegação na web em tempo real: A navegação na web está limitada ao acesso apenas a conteúdo armazenado em cache. Os resultados da pesquisa podem ser limitados, indisponíveis ou desatualizados.
Suporte a imagens: O ChatGPT pode não exibir imagens em respostas comuns ou recuperar imagens da web. Os usuários ainda podem enviar arquivos de imagem, e a geração de imagens permanece disponível onde normalmente está disponível.
Pesquisa aprofundada: A pesquisa aprofundada está desativada.
Modo agente: O modo agente está desativado.
Rede Canvas: Os usuários não podem aprovar o código gerado pelo Canvas para acessar a rede.
Download de arquivos: O ChatGPT não consegue baixar arquivos para análise de dados. O ChatGPT ainda pode funcionar com os arquivos que você carregou manualmente.
O Modo de Bloqueio não altera a memória, o upload de arquivos, a capacidade de compartilhar uma conversa ou se suas conversas podem ser usadas para aprimorar modelos. Muitas dessas configurações podem ser configuradas separadamente pelos administradores do workspace.
O Modo de Bloqueio não afeta o acesso à rede no Codex.
Aplicativos
O funcionamento de aplicativos e conectores no Modo de Bloqueio depende do seu tipo de conta e das configurações do seu espaço de trabalho.
Para contas pessoais e contas ChatGPT Business de autoatendimento, o Modo de Bloqueio permite conectores que usam dados sincronizados, mas bloqueia o acesso a conectores ativos e as ações de gravação em conectores. Algumas experiências conectadas, incluindo Finanças no ChatGPT e experiências com agentes de compras, não estão disponíveis no Modo de Bloqueio.
Em espaços de trabalho gerenciados, os aplicativos, MCPs e conectores são controlados pelas configurações do espaço de trabalho e pelos controles de acesso baseados em funções. O Modo de Bloqueio não desativa automaticamente todos os aplicativos nesses espaços de trabalho. Os administradores do espaço de trabalho devem habilitar apenas os aplicativos e ações confiáveis que os membros que usam o Modo de Bloqueio precisam.
Para solucionar problemas em um workspace gerenciado, analise a função do membro e as configurações do app em conjunto. Um membro pode ficar impossibilitado de usar um aplicativo, conector, MCP ou ação se:
o membro ou grupo está atribuído a uma função do Modo de Bloqueio que limita a capacidade necessária
o aplicativo não está atribuído ao membro, grupo ou função
a ação de leitura ou gravação necessária não está habilitada.
o membro não tem acesso ao arquivo, repositório, canal, registro ou sistema de origem subjacente.
O acesso do aplicativo no ChatGPT não substitui as permissões no sistema de origem conectado. Para obter mais informações sobre a atribuição de funções, consulte: RBAC.
Ao configurar aplicativos para membros que usam o modo de bloqueio, os administradores devem considerar o risco de exfiltração de dados de cada aplicativo e ação.
Alto risco
Esses aplicativos e ações não são recomendados para usuários no Modo de Bloqueio:
Não é recomendável realizar ações de leitura ou gravação em aplicativos não confiáveis . Ative apenas os aplicativos em que você confia.
Não é recomendável escrever ações para aplicativos confiáveis com visibilidade ampla ou incerta . Evite habilitar ações de gravação, mesmo para aplicativos confiáveis, se você não puder confirmar que o efeito colateral está oculto de um agente malicioso.
Risco médio
Use estas opções com cautela para usuários em Modo de Bloqueio:
Os conectores de sincronização apresentam menor risco como possível destino de exfiltração de dados, pois os dados acessados já estão sincronizados com a OpenAI, portanto, as consultas não enviam solicitações de rede em tempo real para fora da OpenAI. Elas ainda podem servir como fontes de dados sensíveis que um agente malicioso pode tentar extrair.
As ações de leitura para aplicativos confiáveis apresentam menor risco como possível destino de exfiltração de dados, pois não criam efeitos colaterais de gravação. Elas ainda podem servir como fontes de dados sensíveis que um agente malicioso pode tentar extrair.
As ações de gravação para aplicativos confiáveis com visibilidade limitada apresentam maior risco do que as ações de leitura, pois geram efeitos colaterais. Habilite estas opções somente quando tiver certeza de que qualquer efeito colateral será visível apenas para pessoas em quem você confia, e não para um agente mal-intencionado.
Separadamente do Modo de Bloqueio, a Plataforma de Logs da API de Conformidade fornece visibilidade detalhada sobre o uso do aplicativo, dados compartilhados e fontes conectadas para ajudar os administradores a manter a supervisão. Para obter mais informações sobre os registros de uso do aplicativo, consulte: API de conformidade para clientes corporativos.
Ativar o Modo de bloqueio
Contas pessoais e de autoatendimento do ChatGPT Business
Para contas pessoais elegíveis e contas ChatGPT Business de autoatendimento:
Acesse as Configurações.
Selecione Segurança.
Em Segurança avançada, ative o Modo de bloqueio.
Na janela de confirmação, selecione Ativar.
O Modo de Bloqueio e o Modo de Desenvolvedor não podem ser usados simultaneamente. Ativar o Modo de Bloqueio desativa o Modo de Desenvolvedor. A ativação do modo de desenvolvedor desativa posteriormente o modo de bloqueio.
Quando o Modo de Bloqueio está ativado, uma mensagem de status aparece acima do editor de texto. Para desativar a função apenas para um chat específico, selecione "Gerenciar" na mensagem de status e, em seguida, selecione " Desativar para este chat". Você também pode abrir o menu de mais opções (•••), selecionar Bloqueio e, em seguida, selecionar Desativado. Para reativá-lo para esse chat, selecione Bloqueio e, em seguida, selecione Ativado.
Workspaces gerenciados
Os administradores do espaço de trabalho podem criar uma função personalizada e designá-la como uma função de "Modo de Bloqueio", atribuindo membros ou grupos a ela.
Perguntas Frequentes
Quem pode ativar o Modo de Bloqueio?
Usuários com contas pessoais elegíveis e contas comerciais ChatGPT de autoatendimento podem ativar o Modo de Bloqueio em Configurações > Segurança quando estiver disponível para sua conta. Os administradores do espaço de trabalho podem ativar o Modo de Bloqueio para membros gerenciados do espaço de trabalho usando controles de acesso baseados em funções.
O Modo de Bloqueio desativa o treinamento?
Não. O Modo de Bloqueio não altera o fato de suas conversas poderem ou não ser usadas para aprimorar modelos. Você pode gerenciar isso separadamente nos controles de dados. Os controles de dados do workspace continuam dependendo do plano e das configurações do workspace.
Posso usar a geração de imagens no Modo de Bloqueio?
Sim. O Modo de Bloqueio limita o suporte a imagens em respostas regulares do ChatGPT e em imagens provenientes da web, mas não desativa a geração de imagens.
Posso desativar o Modo de Bloqueio para um chat específico?
Sim. Quando o Modo de Bloqueio estiver ativado, selecione a aba Bloqueio acima do compositor e selecione Desativar para este chat. Você também pode abrir o menu de mais opções (•••), selecionar Bloqueio e, em seguida, selecionar Desativado. Isso altera apenas o chat atual.
O Modo de Bloqueio afeta o Codex?
Não. O Modo de Bloqueio não afeta o acesso à rede no Codex.
O Modo de Bloqueio impede todos os ataques de injeção imediata?
O Modo de Bloqueio foi projetado para reduzir substancialmente o risco de exfiltração de dados baseada em injeção imediata no ChatGPT e em produtos compatíveis da OpenAI, mas não garante que a exfiltração de dados não possa ocorrer. O risco pode persistir por meio de aplicativos habilitados, combinações imprevistas de recursos ou técnicas recém-descobertas.
O Modo de Bloqueio também não impede todos os outros efeitos de ataques de injeção rápida. Por exemplo, uma instrução maliciosa oculta em um arquivo carregado ainda pode afetar o comportamento do ChatGPT e causar uma resposta incorreta.
A injeção imediata representa um risco significativo?
A injeção imediata não representa atualmente um risco significativo, mas seu impacto pode aumentar à medida que os atacantes desenvolverem métodos mais sofisticados.
O Modo de Bloqueio altera o que é registrado na Plataforma de Logs da API de Conformidade?
Não. A Plataforma de Logs da Compliance API oferece visibilidade detalhada do uso do aplicativo, dados compartilhados e fontes conectadas. Esses registros não são alterados pelo Modo de Bloqueio.