El Modo restringido se está implementando para las cuentas personales elegibles, incluidas las de los planes Free, Go, Plus y Pro, y para las cuentas de autoservicio de ChatGPT Business. Si no ves el Modo restringido en tu configuración, es posible que aún no esté disponible para tu cuenta.
Descripción general
Modo restringido es una configuración de seguridad avanzada opcional que limita muchas herramientas y capacidades de los productos de OpenAI que pueden conectarse a la web o a servicios externos. Está diseñado para reducir el riesgo de exfiltración de datos por ataques de inyección de prompts al limitar las solicitudes de red salientes, a costa de deshabilitar o limitar algunas funciones útiles.
El Modo restringido no está diseñado para todos. Está diseñado para personas y organizaciones que manejan datos confidenciales y desean una protección más estricta contra los riesgos de exfiltración de datos relacionados con la inyección de prompts.
Disponibilidad
El Modo restringido está disponible para todos los tipos de cuenta y espacios de trabajo. Debes iniciar sesión para usarlo.
Cómo ayuda el Modo restringido a reducir el riesgo de exfiltración de datos
La inyección de prompts es un problema de investigación de vanguardia y un gran desafío, y trabajamos continuamente para reforzar nuestros sistemas de seguridad y protección por capas y así proteger a los usuarios de este tipo de ataques.
El Modo restringido se fundamenta en protecciones a nivel de modelo, producto y sistema. Esto incluye aislamiento en entornos seguros, protecciones contra la exfiltración de datos basada en URL, monitoreo y aplicación de controles, así como controles empresariales como el acceso basado en roles y los registros de auditoría.
El Modo restringido está diseñado para ayudar a prevenir la etapa final de la exfiltración de datos de un ataque de inyección de prompts mediante la limitación de las solicitudes de red salientes que podrían transferir datos confidenciales a un atacante. El Modo restringido no impide que las inyecciones de prompts aparezcan en el contenido que procesa ChatGPT. Por ejemplo, una inyección de prompts podría aparecer en contenido web almacenado en caché o en un archivo cargado, y aun así podría afectar el comportamiento o la precisión de una respuesta.
Específicamente, para quienes están en Modo restringido, las siguientes capacidades de los productos de OpenAI están deshabilitadas:
Navegación web en vivo: la navegación web está limitada a acceder solo a contenido en caché. Los resultados de búsqueda pueden ser limitados, no estar disponibles o estar desactualizados.
Compatibilidad con imágenes: es posible que ChatGPT no muestre imágenes en las respuestas normales ni obtenga imágenes de la web. Los usuarios pueden seguir subiendo archivos de imagen y la generación de imágenes continúa disponible donde ya está habilitada.
Investigación profunda: esta función está deshabilitada.
Modo agente: esta función está deshabilitada.
Red de Canvas: los usuarios no pueden aprobar el código generado por Canvas para acceder a la red.
Descargas de archivos: ChatGPT no puede descargar archivos para el análisis de datos, pero puede seguir funcionando con los archivos que cargues manualmente.
El Modo restringido no modifica la memoria, la carga de archivos, la capacidad de compartir una conversación ni si las conversaciones pueden usarse para mejorar los modelos. Muchas de estas opciones pueden ser configuradas por separado por los administradores del espacio de trabajo.
El Modo restringido no afecta el acceso a la red en Codex.
Aplicaciones
El funcionamiento de las aplicaciones y los conectores en el Modo restringido depende de tu tipo de cuenta y de la configuración del espacio de trabajo.
Para cuentas personales y cuentas de ChatGPT Business de autoservicio, el Modo restringido permite los conectores que usan datos sincronizados, pero bloquea el acceso en tiempo real a los conectores y las acciones de escritura realizadas a través de ellos. Algunas experiencias conectadas, incluidas Finanzas en ChatGPT y las experiencias de agente de compras, no están disponibles en el Modo restringido.
En los espacios de trabajo administrados, las aplicaciones, los MCP y los conectores se controlan mediante la configuración del espacio de trabajo y los controles de acceso basados en roles. El Modo restringido no deshabilita automáticamente todas las aplicaciones en estos espacios de trabajo. Los administradores del espacio de trabajo deben habilitar solo las aplicaciones y acciones de confianza que necesiten los miembros que usan el Modo restringido.
Para solucionar problemas en espacios de trabajo administrados, revisa conjuntamente el rol del miembro y la configuración de las aplicaciones. Un miembro puede no poder usar una aplicación, un conector, un MCP o una acción si:
el miembro o grupo está asignado a un rol de Modo restringido que limita la capacidad requerida
la aplicación no está asignada al miembro, grupo o rol
la acción de lectura o escritura requerida no está habilitada
el miembro no tiene acceso al archivo, repositorio, canal, registro, o sistema fuente
El acceso de la aplicación en ChatGPT no anula los permisos del sistema de origen conectado. Para obtener más información sobre cómo asignar roles, consulta: RBAC.
Al configurar aplicaciones para miembros que usan el Modo restringido, los administradores deben considerar el riesgo de exfiltración de datos de cada aplicación y acción.
Alto riesgo
Estas aplicaciones y acciones no se recomiendan para los que usan el Modo restringido:
No se recomiendan las acciones de lectura o escritura para aplicaciones no confiables. Habilita solo las aplicaciones en las que confíes.
No se recomiendan las acciones de escritura para aplicaciones de confianza con visibilidad amplia o incierta. Evita habilitar acciones de escritura, incluso para aplicaciones confiables, si no puedes confirmar que el efecto secundario esté oculto para un actor malicioso.
Riesgo medio
Usa estas funciones con precaución para los usuarios que usan el Modo restringido:
Los conectores sincronizados presentan un menor riesgo como posible canal de exfiltración de datos, ya que los datos a los que se accede ya están sincronizados con OpenAI, por lo que las consultas no envían solicitudes de red en tiempo real fuera de OpenAI. Aún pueden actuar como fuentes de datos confiables que un actor malicioso podría intentar exfiltrar.
Las acciones de lectura de aplicaciones de confianza presentan un menor riesgo como posible canal de exfiltración de datos, ya que no generan efectos secundarios de escritura. Aún pueden actuar como fuentes de datos confiables que un actor malicioso podría intentar exfiltrar.
Las acciones de escritura para aplicaciones de confianza con visibilidad limitada tienen mayor riesgo que las acciones de lectura porque generan efectos secundarios. Habilítalas únicamente cuando tenga la certeza de que cualquier efecto secundario será visible solo para personas de confianza y no para un actor malicioso.
De forma independiente del Modo restringido, la Plataforma de registros de la API de cumplimiento ofrece visibilidad detallada sobre el uso de aplicaciones, los datos compartidos y las fuentes conectadas para ayudar a los administradores a mantener la supervisión y el control. Para obtener más información sobre los registros de uso de la aplicación, consulta: API de cumplimiento para clientes Enterprise.
Activar el Modo restringido
Cuentas personales y cuentas de autoservicio de ChatGPT Business
Para las cuentas personales elegibles y las cuentas de autoservicio de ChatGPT Business elegibles:
Ve a Configuración.
Selecciona Seguridad.
En Seguridad avanzada, activa el Modo restringido.
En el modal de confirmación, selecciona Activar.
El Modo restringido y el Modo de desarrollador no se pueden usar al mismo tiempo. Activar el Modo restringido desactiva el Modo de desarrollador. Activar el Modo de desarrollador más adelante desactiva el Modo restringido.
Cuando el Modo restringido está activado, aparece un mensaje de estado por encima del editor. Para desactivarlo en un solo chat, selecciona Administrar en ese mensaje de estado y, luego, selecciona Desactivar para este chat. También puedes abrir el menú de más opciones (•••), seleccionar Restringido y, luego, seleccionar Deshabilitado. Para volver a activarlo en ese chat, selecciona Restringido y, luego, selecciona Habilitado.
Espacios de trabajo administrados
Los administradores del espacio de trabajo pueden crear un rol personalizado y designarlo como un rol de "Modo restringido", y luego, asignar miembros o grupos.
Preguntas frecuentes
¿Quién puede activar el Modo restringido?
Los usuarios de cuentas personales y de cuentas de autoservicio de ChatGPT Business elegibles pueden activar el Modo restringido en Configuración > Seguridad cuando esté disponible para su cuenta. Los administradores del espacio de trabajo pueden habilitar el Modo restringido para los miembros de espacios de trabajo administrados mediante controles de acceso basados en roles.
¿El Modo restringido desactiva el entrenamiento?
No. El Modo restringido no modifica si tus conversaciones pueden usarse para mejorar los modelos. Puedes administrar esto por separado en los controles de datos. Los controles de datos del espacio de trabajo continúan dependiendo del plan y la configuración.
¿Puedo usar la generación de imágenes en el Modo restringido?
Sí. El Modo restringido limita la compatibilidad con imágenes en las respuestas habituales de ChatGPT y en las imágenes derivadas de la web, pero no desactiva la generación de imágenes.
¿Puedo desactivar el Modo restringido para un chat?
Sí. Cuando el Modo restringido esté activado, selecciona la pestaña Modo restringido que se encuentra arriba del editor y selecciona Desactivar para este chat. También puedes abrir el menú de más opciones (•••), seleccionar Modo restringido y, luego, seleccionar Deshabilitado. Esto solo cambia el chat actual.
¿El Modo restringido afecta a Codex?
No. El Modo restringido no afecta el acceso a la red en Codex.
¿El Modo restringido evita todos los ataques de inyección de prompts?
El Modo restringido está diseñado para reducir de manera sustancial el riesgo de exfiltración de datos basada en inyección de prompts en ChatGPT y los productos compatibles de OpenAI, pero no garantiza que la exfiltración de datos no pueda ocurrir. El riesgo puede persistir a través de aplicaciones habilitadas, combinaciones imprevistas de capacidades o técnicas recién descubiertas.
El Modo restringido tampoco evita todos los demás efectos de los ataques de inyección de prompts. Por ejemplo, una instrucción maliciosa oculta en un archivo cargado aún podría afectar el comportamiento de ChatGPT y provocar una respuesta incorrecta.
¿La inyección de prompts es un riesgo importante?
La inyección de prompts actualmente no representa un riesgo importante, pero su impacto podría aumentar a medida que los atacantes desarrollen métodos más sofisticados.
¿Cambia el Modo restringido lo que se registra en la Plataforma de registros de API de cumplimiento normativo?
No. La Plataforma de registros de la API de cumplimiento ofrece una visibilidad detallada sobre el uso de aplicaciones, los datos compartidos y las fuentes conectadas. Estos registros no se modifican con el Modo restringido.