Visão geral
O Modo de Bloqueio pode estar disponível para contas pessoais elegíveis, contas do ChatGPT Business de autoatendimento e ambientes de trabalho seguros gerenciados compatíveis. A disponibilidade depende da sua conta, do seu ambiente de trabalho seguro, da implementação atual do produto e das configurações do administrador.
O Modo de Bloqueio é uma configuração de segurança avançada opcional que limita muitas ferramentas e funcionalidades dos produtos da OpenAI que podem se conectar à web ou a serviços externos. Ele foi projetado para reduzir o risco de exfiltração de dados por meio de ataques de injeção de prompt, limitando as solicitações de rede de saída, à custa da desativação ou limitação de alguns recursos úteis.O Modo de Bloqueio não é indicado para todos. Ele foi projetado para pessoas e organizações que lidam com dados sensíveis e desejam uma proteção mais rigorosa contra os riscos de exfiltração de dados relacionados à injeção de prompt.
Disponibilidade
O Modo de Bloqueio exige uma conta conectada e está disponível apenas quando há suporte para seu plano, ambiente de trabalho seguro, interface do produto e configuração de administrador.
Como o Modo de Bloqueio ajuda a reduzir o risco de exfiltração de dados
A injeção de prompt é um problema de pesquisa desafiador. Estamos trabalhando continuamente para fortalecer nossos sistemas de segurança multicamadas a fim de proteger os usuários contra esses ataques.
O Modo de Bloqueio amplia as proteções nos níveis de modelo, produto e sistema. Isso inclui sandboxing, proteções contra exfiltração de dados baseada em URL, monitoramento e aplicação de políticas, além de controles corporativos, como acesso baseado em funções e registros de auditoria.
O Modo de Bloqueio foi projetado para ajudar a prevenir a etapa final de exfiltração de dados de um ataque de injeção de prompt, limitando as solicitações de rede de saída que poderiam transferir dados confidenciais para um invasor. O Modo de Bloqueio não impede que injeções de prompt apareçam nos processos de conteúdo do ChatGPT. Por exemplo, uma injeção de prompt pode aparecer em conteúdo da web armazenado em cache ou em um arquivo carregado e ainda assim afetar o comportamento ou a precisão de uma resposta.
O Modo de Bloqueio desativa ou limita as seguintes funcionalidades dos produtos da OpenAI:
Navegação na web em tempo real: a navegação na web está limitada a conteúdo armazenado em cache. Os resultados da pesquisa podem ser limitados, indisponíveis ou desatualizados.
Suporte a imagens: o ChatGPT pode não exibir imagens em respostas comuns nem recuperar imagens da web. Os usuários ainda podem enviar arquivos de imagem, e a geração de imagens permanece disponível onde normalmente está disponível.
Pesquisa aprofundada: a pesquisa aprofundada está desativada.
Modo agente: o Modo agente está desativado.
Rede do Canvas: os usuários não podem aprovar o código gerado pelo Canvas para acessar a rede.
Download de arquivos: o ChatGPT não consegue baixar arquivos para análise de dados. O ChatGPT ainda pode trabalhar com os arquivos que você carregou manualmente.
O Modo de Bloqueio não altera a memória, o upload de arquivos, a capacidade de compartilhar uma conversa ou se suas conversas podem ser usadas para aprimorar modelos. Muitas dessas configurações podem ser configuradas separadamente pelos administradores do workspace.
O Modo de Bloqueio não afeta o acesso à rede no Codex.
Aplicativos
O funcionamento de aplicativos e conectores no Modo de Bloqueio depende do seu tipo de conta e das configurações do seu ambiente de trabalho seguro.
Para contas pessoais e contas do ChatGPT Business de autoatendimento, o Modo de Bloqueio bloqueia o acesso em tempo real a serviços externos e as ações de gravação de conectores quando essas ações entram em conflito com suas proteções de segurança. Contas individuais não podem configurar a sincronização de aplicativos. Em um ambiente de trabalho seguro gerenciado e elegível, o acesso a uma fonte existente gerenciada por administradores também depende das permissões do ambiente de trabalho seguro e da política atual do Modo de Bloqueio. Algumas experiências conectadas, incluindo Finanças no ChatGPT e experiências com agentes de compras, não estão disponíveis no Modo de Bloqueio.
Em ambientes de trabalho seguro gerenciados, os aplicativos, MCPs e conectores são controlados pelas configurações do ambiente de trabalho seguro e pelos controles de acesso baseados em funções. O Modo de Bloqueio não desativa automaticamente todos os aplicativos nesses ambientes de trabalho seguro. Os administradores do ambiente de trabalho seguro devem habilitar apenas os aplicativos e as ações confiáveis de que os membros que usam o Modo de Bloqueio precisam.
Para solucionar problemas em um ambiente de trabalho seguro gerenciado, analise a função do membro e as configurações do aplicativo em conjunto. Um membro pode ficar impossibilitado de usar um aplicativo, conector, MCP ou ação se:
o membro ou grupo está atribuído a uma função do Modo de Bloqueio que limita a capacidade necessária
o aplicativo não está atribuído ao membro, grupo ou função
a ação de leitura ou gravação necessária não está habilitada.
o membro não tem acesso ao arquivo, repositório, canal, registro ou sistema de origem subjacente.
outra função conceder a capacidade necessária, mas uma função do Modo de Bloqueio ainda a restringir. Nesse caso, o proprietário do ambiente de trabalho seguro deve remover o membro ou grupo da função do Modo de Bloqueio para restaurar o acesso.
O acesso do aplicativo no ChatGPT não substitui as permissões no sistema de origem conectado. Para obter mais informações sobre a atribuição de funções, consulte: RBAC.
Ao configurar aplicativos para membros que usam o modo de bloqueio, os administradores devem considerar o risco de exfiltração de dados de cada aplicativo e ação.
Alto risco
Esses aplicativos e ações não são recomendados para usuários no Modo de Bloqueio:
Não é recomendável realizar ações de leitura ou gravação em aplicativos não confiáveis. Ative apenas os aplicativos em que você confia.
Não é recomendável usar ações de gravação em aplicativos confiáveis com visibilidade ampla ou incerta. Evite habilitar ações de gravação, mesmo para aplicativos confiáveis, se você não puder confirmar que o efeito colateral ficará oculto de um agente mal-intencionado.
Risco médio
Use estas opções com cautela para usuários em Modo de Bloqueio:
Fontes indexadas gerenciadas pelo administrador podem reduzir algumas solicitações de rede de saída, pois o conteúdo é recuperado de um índice existente em vez de uma chamada em tempo real ao provedor. Ainda assim, elas podem expor informações confidenciais, e a disponibilidade no Modo de Bloqueio depende do ambiente de trabalho seguro, da fonte e da política de segurança.
As ações de leitura para aplicativos confiáveis apresentam menor risco como possível destino de exfiltração de dados, pois não criam efeitos colaterais de gravação. Elas ainda podem servir como fontes de dados sensíveis que um agente mal-intencionado pode tentar extrair.
As ações de gravação para aplicativos confiáveis com visibilidade limitada apresentam maior risco do que as ações de leitura, pois geram efeitos colaterais. Habilite essas opções somente quando tiver certeza de que qualquer efeito colateral será visível apenas para pessoas em quem você confia, e não para um agente mal-intencionado.
Administradores elegíveis do Enterprise e do Edu podem usar os registros disponíveis da Plataforma de Conformidade para analisar a atividade em aplicativos compatíveis, conforme a configuração e as permissões do ambiente de trabalho seguro. Para obter detalhes, consulte a Plataforma de Conformidade da OpenAI para clientes empresariais e de ensino.
Ativar o Modo de bloqueio
Contas pessoais e de autoatendimento do ChatGPT Business
Para contas pessoais elegíveis e contas ChatGPT Business de autoatendimento:
Acesse as Configurações.
Selecione Segurança.
Em Segurança avançada, ative o Modo de bloqueio.
Na janela de confirmação, selecione Ativar.
O Modo de Bloqueio e o Modo de Desenvolvedor não podem ser usados simultaneamente. Ativar o Modo de Bloqueio desativa o Modo de Desenvolvedor. Ativar o Modo de Desenvolvedor posteriormente desativa o Modo de Bloqueio.
Quando o Modo de Bloqueio estiver ativado, você poderá desativá-lo para um chat específico. Na web, selecione o rótulo MODO DE BLOQUEIO no editor de texto e, em seguida, selecione Desativar para este chat.
Para alterar a configuração no menu do chat:
Abra o menu de mais opções (•••).
Selecione Bloqueio.
Selecione Desativado para desativar o Modo de Bloqueio neste chat ou Ativado para ativá-lo novamente.
Para abrir as configurações de Segurança da sua conta, selecione Gerenciar Bloqueio na caixa de diálogo do compositor.
Workspaces gerenciados
Os administradores do espaço de trabalho podem criar uma função personalizada e designá-la como uma função de "Modo de Bloqueio", atribuindo membros ou grupos a ela.
Perguntas Frequentes
Quem pode ativar o Modo de Bloqueio?
Usuários com contas pessoais elegíveis e contas comerciais do ChatGPT Business de autoatendimento podem ativar o Modo de Bloqueio em Configurações > Segurança quando esse recurso estiver disponível para sua conta. Os administradores do ambiente de trabalho seguro podem ativar o Modo de Bloqueio para membros gerenciados do ambiente de trabalho seguro usando controles de acesso baseados em funções.
O Modo de Bloqueio desativa o treinamento?
Não. O Modo de Bloqueio não altera o fato de suas conversas poderem ou não ser usadas para aprimorar modelos. Você pode gerenciar isso separadamente nos controles de dados. Os controles de dados do workspace continuam dependendo do plano e das configurações do workspace.
Posso usar a geração de imagens no Modo de Bloqueio?
Sim. O Modo de Bloqueio limita o suporte a imagens em respostas regulares do ChatGPT e em imagens provenientes da web, mas não desativa a geração de imagens.
Posso desativar o Modo de Bloqueio para um chat específico?
Sim. Selecione o rótulo MODO DE BLOQUEIO no editor da web e, em seguida, selecione Desativar para este chat. Você também pode alterar a configuração no menu do chat, conforme descrito acima. Qualquer uma das opções altera apenas o chat atual.
O Modo de Bloqueio afeta o Codex?
Não. O Modo de Bloqueio não afeta o acesso à rede no Codex.
O Modo de Bloqueio impede todos os ataques de injeção imediata?
O Modo de Bloqueio foi projetado para reduzir substancialmente o risco de exfiltração de dados baseada em injeção de prompt no ChatGPT e em produtos compatíveis da OpenAI, mas não garante que a exfiltração de dados não possa ocorrer. O risco pode persistir por meio de aplicativos habilitados, combinações imprevistas de recursos ou técnicas recém-descobertas.
O Modo de Bloqueio também não impede todos os outros efeitos de ataques de injeção de prompt. Por exemplo, uma instrução maliciosa oculta em um arquivo carregado ainda pode afetar o comportamento do ChatGPT e causar uma resposta incorreta.
A injeção imediata representa um risco significativo?
A injeção de prompt é um risco de segurança conhecido quando um sistema de IA processa conteúdo não confiável. O Modo de Bloqueio pode reduzir alguns caminhos de exfiltração de dados, mas não impede todos os ataques de injeção de prompt nem elimina todos os riscos de segurança.
O Modo de Bloqueio altera o que é registrado na Plataforma de Logs da API de Conformidade?
O Modo de Bloqueio, por si só, não altera quais registros da Plataforma de Conformidade estão disponíveis. O acesso e a retenção de dados de conformidade dependem do ambiente de trabalho seguro elegível, das permissões de administrador e das configurações aplicáveis do produto.