Descrição geral
O Modo de bloqueio poderá estar disponível para contas pessoais elegíveis, contas ChatGPT Business self-service e espaços de trabalho geridos compatíveis. A disponibilidade depende da sua conta, do espaço de trabalho, da fase atual de disponibilização do produto e das definições do administrador.
O Modo de bloqueio é uma definição opcional de segurança avançada que limita muitas ferramentas e capacidades dos produtos OpenAI que podem estabelecer ligação à Web ou a serviços externos. Foi concebido para reduzir o risco de exfiltração de dados resultante de ataques de injeção de prompt, limitando os pedidos de rede enviados, embora isso desative ou limite algumas funcionalidades úteis.
O Modo de bloqueio não se destina a todos os utilizadores. Destina-se a pessoas e organizações que lidam com dados sensíveis e pretendem uma proteção mais rigorosa contra riscos de exfiltração de dados associados à injeção de prompt.
Disponibilidade
O Modo de bloqueio requer uma conta com sessão iniciada e só está disponível quando for compatível com o seu plano, espaço de trabalho, área do produto e configuração do administrador.
Como o Modo de bloqueio ajuda a reduzir o risco de exfiltração de dados
A injeção de prompt é um problema de investigação complexo. Trabalhamos continuamente para reforçar os nossos sistemas de segurança e proteção multicamada, a fim de proteger os utilizadores destes ataques.
O Modo de bloqueio complementa as proteções ao nível do modelo, do produto e do sistema. Estas incluem ambientes isolados, proteções contra a exfiltração de dados através de URL, monitorização e aplicação de políticas, bem como controlos empresariais, como o acesso baseado em funções e os registos de auditoria.
O Modo de bloqueio foi concebido para ajudar a impedir a fase final da exfiltração de dados num ataque de injeção de prompt, limitando os pedidos de rede enviados que poderiam transferir dados sensíveis para um atacante. O Modo de bloqueio não impede que surjam injeções de prompt no conteúdo processado pelo ChatGPT. Por exemplo, uma injeção de prompt pode surgir em conteúdo Web em cache ou num ficheiro carregado e continuar a afetar o comportamento ou a exatidão de uma resposta.
O Modo de bloqueio desativa ou limita as seguintes capacidades dos produtos OpenAI:
Navegação em direto na Web: a navegação na Web está limitada a conteúdo em cache. Os resultados da pesquisa podem ser limitados, estar indisponíveis ou desatualizados.
Suporte de imagens: o ChatGPT poderá não apresentar imagens em respostas normais nem obter imagens da Web. Os utilizadores continuam a poder carregar ficheiros de imagem, e a geração de imagens permanece disponível nos locais onde já é disponibilizada.
Pesquisa aprofundada: a pesquisa aprofundada está desativada.
Modo de agente: o modo de agente está desativado.
Acesso do Canvas à rede: os utilizadores não podem autorizar o código gerado pelo Canvas a aceder à rede.
Transferência de ficheiros: o ChatGPT não pode transferir ficheiros para análise de dados. O ChatGPT pode continuar a trabalhar com os ficheiros que carregar manualmente.
O Modo de bloqueio não altera a memória, o carregamento de ficheiros, a possibilidade de partilhar uma conversa nem a possibilidade de as suas conversas serem utilizadas para melhorar os modelos. Muitas destas definições podem ser configuradas separadamente pelos administradores do espaço de trabalho.
O Modo de bloqueio não afeta o acesso à rede no Codex.
Aplicações
O funcionamento das aplicações e dos conectores no Modo de bloqueio depende do tipo de conta e das definições do espaço de trabalho.
Nas contas pessoais e contas ChatGPT Business self-service, o Modo de bloqueio impede o acesso em tempo real a serviços externos e as ações de escrita dos conectores quando estas entram em conflito com as respetivas proteções de segurança. As contas individuais não podem configurar a sincronização de aplicações. Num espaço de trabalho gerido elegível, o acesso a uma origem existente gerida pelo administrador também depende das permissões do espaço de trabalho e da política atual do Modo de bloqueio. Algumas experiências ligadas, incluindo Finanças no ChatGPT e experiências com agentes de compras, não estão disponíveis no Modo de bloqueio.
Nos espaços de trabalho geridos, as aplicações, os MCP e os conectores são controlados pelas definições do espaço de trabalho e pelos controlos de acesso baseados em funções. O Modo de bloqueio não desativa automaticamente todas as aplicações nestes espaços de trabalho. Os administradores do espaço de trabalho só devem ativar as aplicações e ações fidedignas de que os membros que utilizam o Modo de bloqueio necessitam.
Para resolver problemas num espaço de trabalho gerido, analise em conjunto a função do membro e as definições da aplicação. Um membro poderá não conseguir utilizar uma aplicação, um conector, um MCP ou uma ação se:
o membro ou grupo tiver uma função de Modo de bloqueio que limite a capacidade necessária
a aplicação não estiver atribuída ao membro, grupo ou função
a ação de leitura ou escrita necessária não estiver ativada
o membro não tiver acesso ao ficheiro, repositório, canal, registo ou sistema de origem subjacente
outra função conceder a capacidade necessária, mas uma função de Modo de bloqueio continuar a restringi-la. Para restaurar o acesso, um proprietário do espaço de trabalho tem de remover o membro ou grupo da função de Modo de bloqueio.
O acesso a aplicações no ChatGPT não se sobrepõe às permissões do sistema de origem ligado. Para obter mais informações sobre a atribuição de funções, consulte: RBAC.
Ao configurarem aplicações para membros que utilizam o Modo de bloqueio, os administradores devem ter em conta o risco de exfiltração de dados de cada aplicação e ação.
Risco elevado
Estas aplicações e ações não são recomendadas para utilizadores no Modo de bloqueio:
Não se recomendam ações de leitura ou escrita em aplicações não fidedignas. Ative apenas aplicações em que confie.
Não se recomendam ações de escrita em aplicações fidedignas com visibilidade ampla ou incerta. Evite ativar ações de escrita, mesmo em aplicações fidedignas, se não conseguir confirmar que o efeito secundário fica oculto de intervenientes maliciosos.
Risco médio
Utilize estas opções com precaução para utilizadores no Modo de bloqueio:
As origens indexadas geridas pelo administrador podem reduzir alguns pedidos de rede enviados, porque o conteúdo é obtido a partir de um índice existente, em vez de uma chamada em direto ao fornecedor. Ainda assim, podem expor informações sensíveis, e a respetiva disponibilidade no Modo de bloqueio depende do espaço de trabalho, da origem e da política de segurança.
As ações de leitura em aplicações fidedignas apresentam um risco menor enquanto possível destino de exfiltração de dados, porque não criam efeitos secundários de escrita. Ainda assim, podem servir de origem de dados sensíveis que um interveniente malicioso poderá tentar exfiltrar.
As ações de escrita em aplicações fidedignas com visibilidade limitada apresentam um risco superior ao das ações de leitura, porque criam efeitos secundários. Ative-as apenas se tiver a certeza de que qualquer efeito secundário será visível apenas para pessoas em quem confia, e não para um interveniente malicioso.
Os administradores elegíveis do Enterprise e Edu podem utilizar os registos disponíveis na Plataforma de conformidade para analisar a atividade compatível das aplicações, sujeito à configuração e às permissões do espaço de trabalho. Para obter detalhes, consulte: Plataforma de conformidade da OpenAI para clientes Enterprise e Edu.
Ativar o Modo de bloqueio
Contas pessoais e contas ChatGPT Business self-service
Para contas pessoais elegíveis e contas ChatGPT Business self-service:
Aceda a Definições.
Selecione Segurança.
Em Segurança avançada, ative o Modo de bloqueio.
Na janela de confirmação, selecione Ativar.
O Modo de bloqueio e o Modo de programador não podem ser utilizados em simultâneo. Ativar o Modo de bloqueio desativa o Modo de programador. Se ativar posteriormente o Modo de programador, o Modo de bloqueio será desativado.
Quando o Modo de bloqueio está ativo, pode desativá-lo numa conversa específica. Na Web, selecione a etiqueta MODO DE BLOQUEIO na caixa de composição e, em seguida, selecione Desativar nesta conversa.
Para alterar a definição no menu da conversa:
Abra o menu de mais opções (•••).
Selecione Bloqueio.
Selecione Desativado para o desativar nesta conversa ou Ativado para o reativar.
Para abrir as definições de Segurança da sua conta, selecione Gerir bloqueio na caixa de diálogo da área de composição.
Espaços de trabalho geridos
Os administradores do espaço de trabalho podem criar uma função personalizada e designá-la como função de “Modo de bloqueio”, atribuindo-lhe depois membros ou grupos.
Perguntas frequentes
Quem pode ativar o Modo de bloqueio?
Os utilizadores de contas pessoais elegíveis e de contas ChatGPT Business self-service podem ativar o Modo de bloqueio em Definições > Segurança, quando este estiver disponível para a respetiva conta. Os administradores podem ativar o Modo de bloqueio para membros de espaços de trabalho geridos através de controlos de acesso baseados em funções.
O Modo de bloqueio desativa o treino?
Não. O Modo de bloqueio não altera se as suas conversas podem ser utilizadas para melhorar modelos. Pode gerir isto separadamente nos controlos de dados. Os controlos de dados do espaço de trabalho continuam a depender do plano e das definições do espaço de trabalho.
Posso utilizar a geração de imagens no Modo de bloqueio?
Sim. O Modo de bloqueio limita o suporte de imagens nas respostas normais do ChatGPT e em imagens provenientes da Web, mas não desativa a geração de imagens.
Posso desativar o Modo de bloqueio numa conversa específica?
Sim. Selecione a etiqueta MODO DE BLOQUEIO na caixa de composição na Web e, em seguida, selecione Desativar nesta conversa. Também pode alterar a definição no menu da conversa, conforme descrito acima. Qualquer uma das opções altera apenas a conversa atual.
O Modo de bloqueio afeta o Codex?
Não. O Modo de bloqueio não afeta o acesso à rede no Codex.
O Modo de bloqueio impede todos os ataques de injeção de prompt?
O Modo de bloqueio foi concebido para reduzir substancialmente o risco de exfiltração de dados com base em injeção de prompt no ChatGPT e nos produtos OpenAI compatíveis, mas não garante que a exfiltração de dados seja impossível. O risco poderá persistir através de aplicações ativadas, de combinações imprevistas de capacidades ou de técnicas recentemente descobertas.
O Modo de bloqueio também não impede todos os outros efeitos dos ataques de injeção de prompt. Por exemplo, uma instrução maliciosa oculta num ficheiro carregado poderá continuar a afetar o comportamento do ChatGPT e originar uma resposta incorreta.
A injeção de prompt representa um risco significativo?
A injeção de prompt é um risco de segurança conhecido quando um sistema de IA processa conteúdo não fidedigno. O Modo de bloqueio pode reduzir algumas vias de exfiltração de dados, mas não impede todos os ataques de injeção de prompt nem elimina todos os riscos de segurança.
O Modo de bloqueio altera o que é registado na Plataforma de Registos da API de Conformidade?
Por si só, o Modo de bloqueio não altera os registos disponíveis na Plataforma de conformidade. O acesso e a retenção para efeitos de conformidade dependem do espaço de trabalho elegível, das permissões do administrador e das definições aplicáveis do produto.