Los productos de IA pueden ser más útiles cuando se conectan a tus aplicaciones y a la web, y hemos realizado grandes esfuerzos para mantener los datos conectados seguros frente a riesgos como los ataques de inyección de prompts. Nuestros productos cuentan con numerosas protecciones existentes a nivel de modelo, producto y sistema. Esto incluye aislamiento en entornos seguros, protecciones contra la exfiltración de datos basada en URL, monitoreo y aplicación de controles, así como controles empresariales como el acceso basado en roles y los registros de auditoría.
Al mismo tiempo, algunas capacidades relacionadas con la red introducen nuevos riesgos, especialmente las inyecciones de prompts, que aún no están completamente abordadas por las medidas de seguridad y protección de la industria. Algunos usuarios pueden sentirse cómodos asumiendo estos riesgos, y creemos que es importante que tengan la capacidad de decidir si los usan y cómo, en especial, al trabajar con sus datos personales.
Con el fin de facilitar la comprensión de dichos riesgos, buscamos estandarizar la comunicación a través de la etiqueta de “Riesgo elevado”, junto con una terminología e ícono específicos (el signo de exclamación en un escudo), adaptándolos al contexto de cada funcionalidad. Este etiquetado brinda visibilidad y control adicionales al usuario, además de las protecciones existentes.
Nota: Las funciones etiquetadas como “Riesgo elevado” se ofrecen de manera opcional y con acceso anticipado, fuera de las declaraciones y garantías estándar que brindamos para nuestros servicios de disponibilidad general. Los usuarios solo deberían activar estas funciones si comprenden y se sienten cómodos con los riesgos adicionales.
¿Qué significa “Riesgo elevado”?
Cuando una función se etiqueta como de "Riesgo elevado", esto indica que su uso introduce ciertos riesgos que aún no han sido abordados por completo mediante las medidas de mitigación, seguridad y protección estándar de la industria. Cada vez que veas esta etiqueta, normalmente encontrarás orientación sobre el riesgo que introduce el uso de la función y lo que debes tener en cuenta, a menudo mediante un enlace de "Más información".
Por ejemplo, en Codex, nuestro asistente de programación, los desarrolladores pueden darle a Codex acceso a la red para que pueda realizar acciones en la web, como consultar documentación. Esta capacidad también conlleva un mayor riesgo de ataques de inyección de prompts. La pantalla de configuración relevante incluye la etiqueta de "Riesgo elevado", junto con una explicación clara de qué cambia, qué riesgos pueden introducirse y cuándo es apropiado ese acceso.
El riesgo elevado más común que tienen esas funciones etiquetadas es el de los ataques de inyección de prompts.
A medida que mejoren las protecciones, podemos eliminar la etiqueta de "Riesgo elevado" una vez que determinemos que los riesgos se han mitigado razonablemente para los usuarios.