Os produtos de AI podem ser mais úteis quando estão ligados às suas aplicações e à Web, e investimos bastante para manter os dados ligados seguros contra riscos como ataques de injeção de prompt. Os nossos produtos têm várias proteções existentes ao nível do modelo, do produto e do sistema. Isto inclui isolamento em sandbox, proteções contra a exfiltração de dados baseada em URL, monitorização e aplicação de regras, e controlos empresariais como acesso baseado em funções e registos de auditoria.
Ao mesmo tempo, algumas capacidades relacionadas com a rede introduzem novos riscos, especialmente injeções de prompt, que ainda não são totalmente abordados pelas medidas de proteção e segurança da indústria. Alguns utilizadores podem sentir-se confortáveis em assumir estes riscos, e acreditamos que é importante que tenham a possibilidade de decidir se e como os utilizam, especialmente ao trabalhar com os seus dados privados.
Para tornar esses riscos mais fáceis de compreender, procuramos comunicar este risco usando uma etiqueta «Risco elevado», uma terminologia e um ícone consistentes (o ponto de exclamação dentro de um escudo), de uma forma que faça sentido para cada funcionalidade e produto. Esta identificação proporciona aos utilizadores visibilidade e controlo adicionais, para além das proteções existentes.
Nota: as funcionalidades identificadas como «Risco elevado» são oferecidas de forma opcional e em acesso antecipado, fora das declarações e garantias padrão que fazemos para os nossos serviços geralmente disponíveis. Os utilizadores só devem ativar estas funcionalidades se compreenderem e se sentirem confortáveis com os riscos adicionais.
O que significa «Risco elevado»?
Quando uma funcionalidade tem a indicação «Risco elevado», significa que a sua utilização apresenta alguns riscos que as medidas de proteção e segurança do setor ainda não mitigam totalmente. Sempre que vir esta indicação, encontrará geralmente orientações sobre o risco associado à utilização da funcionalidade e os aspetos a ter em conta, muitas vezes através de uma ligação «Saiba mais».
Por exemplo, no Codex, o nosso assistente de programação, os programadores podem conceder ao Codex acesso à rede para que execute ações na Web, como consultar documentação. Esta funcionalidade também apresenta um risco elevado de ataques de injeção de prompt. Por isso, o ecrã de definições relevante inclui a indicação «Risco elevado», juntamente com uma explicação clara do que muda, dos riscos que podem surgir e das situações em que esse acesso é adequado.
O risco elevado mais comum nas funcionalidades com esta indicação são os ataques de injeção de prompt.
À medida que as salvaguardas melhorarem, poderemos remover a indicação «Risco elevado» quando determinarmos que os riscos estão razoavelmente mitigados para os utilizadores.