Los productos de IA pueden ser más útiles cuando están conectados a tus aplicaciones y a la web, y hemos invertido mucho en proteger los datos conectados frente a riesgos como los ataques de inyección de prompts. Nuestros productos cuentan con numerosas protecciones existentes en los niveles de modelo, producto y sistema. Esto incluye aislamiento en entornos aislados, protecciones contra la exfiltración de datos basada en URL, supervisión y aplicación de normas, y controles empresariales como el acceso basado en roles y los registros de auditoría.
Al mismo tiempo, algunas capacidades relacionadas con la red introducen nuevos riesgos, especialmente las inyecciones de prompts, que las mitigaciones de seguridad y protección del sector aún no abordan por completo. Algunos usuarios pueden sentirse cómodos asumiendo estos riesgos, y creemos que es importante que puedan decidir si usarlos y cómo hacerlo, especialmente cuando trabajan con sus datos privados.
Para que estos riesgos sean más fáciles de entender, nuestro objetivo es comunicarlos mediante una etiqueta, una terminología y un icono coherentes de «Riesgo elevado» (el signo de exclamación dentro de un escudo), de una forma que tenga sentido para cada función y producto. Este etiquetado aporta a los usuarios visibilidad y control adicionales sobre las protecciones existentes.
Nota: las funciones etiquetadas como «Riesgo elevado» se ofrecen de forma opcional y con acceso anticipado, fuera de las declaraciones y garantías estándar que ofrecemos para nuestros servicios de disponibilidad general. Los usuarios solo deben activar estas funciones si entienden los riesgos adicionales y se sienten cómodos con ellos.
¿Qué significa «Riesgo elevado»?
Cuando una función lleva la etiqueta «Riesgo elevado», significa que su uso entraña riesgos que las medidas de protección y seguridad del sector aún no abordan por completo. Siempre que vea esta etiqueta, normalmente encontrará información sobre los riesgos que entraña usar la función y los aspectos que debe tener en cuenta, a menudo mediante un enlace «Más información».
Por ejemplo, en Codex, nuestro asistente de programación, los desarrolladores pueden conceder a Codex acceso a la red para que realice acciones en la web, como consultar documentación. Esta función también conlleva un riesgo elevado de ataques de inyección de prompts. Por tanto, la pantalla de configuración correspondiente incluye la etiqueta «Riesgo elevado», junto con una explicación clara de qué cambia, qué riesgos pueden surgir y cuándo resulta apropiado ese acceso.
El riesgo elevado más habitual en las funciones que llevan esta etiqueta es sufrir ataques de inyección de prompts.
A medida que mejoren las medidas de protección, podremos retirar la etiqueta «Riesgo elevado» cuando determinemos que los riesgos para los usuarios se han mitigado razonablemente.