Os produtos de IA podem ser mais úteis quando conectados aos seus aplicativos e à web, e investimos muito para manter os dados conectados seguros contra riscos como ataques de injeção de prompt. Nossos produtos têm várias proteções existentes nos níveis de modelo, produto e sistema. Isso inclui sandboxing, proteções contra exfiltração de dados baseada em URL, monitoramento e aplicação de políticas, além de controles corporativos como acesso baseado em funções e registros de auditoria.
Ao mesmo tempo, algumas funcionalidades relacionadas à rede introduzem novos riscos, especialmente injeções de prompt, que ainda não são totalmente abordados pelas medidas de segurança e proteção do setor. Alguns usuários podem se sentir confortáveis em assumir esses riscos, e acreditamos que é importante que eles tenham a possibilidade de decidir se e como usá-los, especialmente ao lidar com seus dados privados.
Para facilitar a compreensão desses riscos, nosso objetivo é comunicá-los usando um rótulo, uma terminologia e um ícone consistentes de “Risco Elevado” (o ponto de exclamação dentro de um escudo), de uma forma que faça sentido para cada recurso e produto. Essa rotulagem proporciona ao usuário maior visibilidade e controle, além das proteções já existentes.
Nota: Os recursos classificados como "Risco elevado" são oferecidos de forma opcional e com acesso antecipado, fora das declarações e garantias padrão que oferecemos para nossos serviços geralmente disponíveis. Os usuários só devem ativar esses recursos se compreenderem e estiverem confortáveis com os riscos adicionais.
O que significa “risco elevado”?
Quando uma funcionalidade é classificada como "Risco elevado", isso indica que o uso desse recurso introduz alguns riscos que ainda não foram totalmente mitigados pelas medidas de segurança do setor. Sempre que você vir este aviso, normalmente encontrará orientações sobre os riscos associados ao uso do recurso e o que você deve ter em mente, geralmente por meio de um link "Saiba mais".
Por exemplo, no Codex, nosso assistente de codificação, os desenvolvedores podem conceder acesso à rede do Codex para que ele possa realizar ações na web, como pesquisar documentação. Essa capacidade também acarreta um risco elevado de ataques de injeção de prompt. A tela de configurações relevante inclui, portanto, o rótulo "Risco Elevado", juntamente com uma explicação clara sobre quais alterações, quais riscos podem ser introduzidos e quando esse acesso é apropriado.
O risco elevado mais comum que essas funcionalidades rotuladas apresentam é o de ataques de injeção de prompt.
À medida que as medidas de segurança forem aprimoradas, poderemos remover o rótulo de “Risco elevado” assim que determinarmos que os riscos estão razoavelmente mitigados para os usuários.