Descripción general
El Modo restringido puede estar disponible para cuentas personales elegibles, cuentas de autoservicio de ChatGPT Business y espacios de trabajo administrados compatibles. La disponibilidad depende de tu cuenta, espacio de trabajo, estado actual de implementación del producto y configuración del administrador.
El Modo restringido es una configuración de seguridad avanzada opcional que limita muchas herramientas y capacidades de los productos de OpenAI que pueden conectarse a la web o a servicios externos. Está diseñado para reducir el riesgo de exfiltración de datos por ataques de inyección de prompts al limitar las solicitudes de red salientes, a costa de deshabilitar o limitar algunas funciones útiles.
El Modo restringido no está diseñado para todos. Está diseñado para personas y organizaciones que manejan datos confidenciales y quieren una protección más estricta contra los riesgos de exfiltración de datos relacionados con la inyección de prompts.
Disponibilidad
El Modo restringido requiere una cuenta con sesión iniciada y solo está disponible cuando es compatible con tu plan, espacio de trabajo, superficie del producto y configuración del administrador.
Cómo ayuda el Modo restringido a reducir el riesgo de exfiltración de datos
La inyección de prompts es un problema difícil de investigar. Trabajamos continuamente para reforzar nuestros sistemas de seguridad y protección por capas y así proteger a los usuarios de este tipo de ataques.
El Modo restringido se fundamenta en protecciones a nivel de modelo, producto y sistema. Esto incluye aislamiento en entornos seguros, protecciones contra la exfiltración de datos basada en URL, monitoreo y aplicación de controles, así como controles empresariales como el acceso basado en roles y los registros de auditoría.
El Modo restringido está diseñado para ayudar a prevenir la etapa final de la exfiltración de datos de un ataque de inyección de prompts mediante la limitación de las solicitudes de red salientes que podrían transferir datos confidenciales a un atacante. El Modo restringido no impide que las inyecciones de prompts aparezcan en el contenido que procesa ChatGPT. Por ejemplo, una inyección de prompts podría aparecer en contenido web almacenado en caché o en un archivo cargado, y aun así podría afectar el comportamiento o la precisión de una respuesta.
El Modo restringido desactiva o limita las siguientes capacidades de los productos de OpenAI:
Navegación web en vivo: la navegación web se limita a contenido en caché. Los resultados de búsqueda pueden ser limitados, no estar disponibles o estar desactualizados.
Compatibilidad con imágenes: es posible que ChatGPT no muestre imágenes en las respuestas comunes ni obtenga imágenes de la web. Los usuarios pueden seguir subiendo archivos de imagen y la generación de imágenes continúa disponible donde ya está habilitada.
Investigación profunda: la investigación profunda está deshabilitada.
Modo agente: el modo agente está desactivado.
Red de Canvas: los usuarios no pueden aprobar el código generado por Canvas para acceder a la red.
Descargas de archivos: ChatGPT no puede descargar archivos para el análisis de datos, pero puede seguir funcionando con los archivos que cargues manualmente.
El Modo restringido no modifica la memoria, la carga de archivos, la capacidad de compartir una conversación ni si las conversaciones pueden usarse para mejorar los modelos. Muchas de estas opciones pueden ser configuradas por separado por los administradores del espacio de trabajo.
El Modo restringido no afecta el acceso a la red en Codex.
Aplicaciones
El funcionamiento de las aplicaciones y los conectores en el Modo restringido depende de tu tipo de cuenta y de la configuración del espacio de trabajo.
Para las cuentas personales y las cuentas de ChatGPT Business de autoservicio, el Modo restringido bloquea el acceso en tiempo real a servicios externos y las acciones de escritura de los conectores cuando esas acciones entran en conflicto con sus protecciones de seguridad. Las cuentas individuales no pueden configurar la sincronización de aplicaciones. En un espacio de trabajo administrado elegible, el acceso a una fuente existente administrada por un administrador también depende de los permisos del espacio de trabajo y de la política actual del Modo restringido. Algunas experiencias conectadas, incluidas Finanzas en ChatGPT y las experiencias de agente de compras, no están disponibles en el Modo restringido.
En los espacios de trabajo administrados, las aplicaciones, los MCP y los conectores se controlan mediante la configuración del espacio de trabajo y los controles de acceso basados en roles. El Modo restringido no deshabilita automáticamente todas las aplicaciones en estos espacios de trabajo. Los administradores del espacio de trabajo deben habilitar solo las aplicaciones y acciones de confianza que necesiten los miembros que usan el Modo restringido.
Para solucionar problemas en espacios de trabajo administrados, revisa conjuntamente el rol del miembro y la configuración de las aplicaciones. Un miembro puede no poder usar una aplicación, un conector, un MCP o una acción si:
el miembro o grupo está asignado a un rol de Modo restringido que limita la capacidad requerida
la aplicación no está asignada al miembro, grupo o rol
la acción de lectura o escritura requerida no está habilitada
el miembro no tiene acceso al archivo, repositorio, canal, registro, o sistema fuente
otro rol otorga la capacidad requerida, pero un rol de Modo restringido la sigue restringiendo. Un propietario del espacio de trabajo debe eliminar al miembro o grupo del rol de Modo restringido para restaurar el acceso.
El acceso de la aplicación en ChatGPT no anula los permisos del sistema de origen conectado. Para obtener más información sobre cómo asignar roles, consulta: RBAC.
Al configurar aplicaciones para miembros que usan el Modo restringido, los administradores deben considerar el riesgo de exfiltración de datos de cada aplicación y acción.
Alto riesgo
Estas aplicaciones y acciones no se recomiendan para los que usan el Modo restringido:
No se recomiendan las acciones de lectura o escritura para aplicaciones no confiables. Habilita solo las aplicaciones en las que confíes.
No se recomiendan las acciones de escritura para aplicaciones de confianza con visibilidad amplia o incierta. Evita habilitar acciones de escritura, incluso para aplicaciones confiables, si no puedes confirmar que el efecto secundario esté oculto para un actor malicioso.
Riesgo medio
Usa estas funciones con precaución para los usuarios que usan el Modo restringido:
Las fuentes indexadas administradas por administradores pueden reducir algunas solicitudes de red salientes porque el contenido se recupera de un índice existente, en lugar de una llamada en tiempo real al proveedor. Aun así, pueden exponer información confidencial, y la disponibilidad en el Modo restringido depende del espacio de trabajo, la fuente y la política de seguridad.
Las acciones de lectura de aplicaciones de confianza presentan un menor riesgo como posible canal de exfiltración de datos, ya que no generan efectos secundarios de escritura. Aún pueden actuar como fuentes de datos confiables que un actor malicioso podría intentar exfiltrar.
Las acciones de escritura para aplicaciones de confianza con visibilidad limitada tienen mayor riesgo que las acciones de lectura porque generan efectos secundarios. Habilítalas únicamente cuando tenga la certeza de que cualquier efecto secundario será visible solo para personas de confianza y no para un actor malicioso.
Los administradores elegibles de Enterprise y Edu pueden usar los registros disponibles de la plataforma de cumplimiento para revisar la actividad de aplicaciones compatibles, según la configuración y los permisos del espacio de trabajo. Para obtener más información, consulta: Plataforma de cumplimiento de OpenAI para clientes Enterprise y Edu.
Activar el Modo restringido
Cuentas personales y cuentas de autoservicio de ChatGPT Business
Para las cuentas personales elegibles y las cuentas de autoservicio de ChatGPT Business elegibles:
Ve a Configuración.
Selecciona Seguridad.
En Seguridad avanzada, activa el Modo restringido.
En el modal de confirmación, selecciona Activar.
El Modo restringido y el Modo de desarrollador no se pueden usar al mismo tiempo. Activar el Modo restringido desactiva el Modo de desarrollador. Activar el Modo de desarrollador más adelante desactiva el Modo restringido.
Cuando el Modo restringido está activado, puedes desactivarlo para un chat. En la web, selecciona la etiqueta Modo restringido en el editor y, luego, selecciona Desactivar para este chat.
Para cambiar la configuración desde el menú del chat:
Abre el menú de más opciones (•••).
Selecciona Restringido.
Selecciona Desactivado para desactivarlo en este chat, o Activado para volver a activarlo.
Para abrir la configuración de Seguridad de tu cuenta, selecciona Administrar bloqueo en el cuadro de diálogo del redactor.
Espacios de trabajo administrados
Los administradores del espacio de trabajo pueden crear un rol personalizado y designarlo como un rol de "Modo restringido", y luego, asignar miembros o grupos.
Preguntas frecuentes
¿Quién puede activar el Modo restringido?
Los usuarios de cuentas personales elegibles y de cuentas de autoservicio de ChatGPT Business pueden activar el Modo restringido en Configuración > Seguridad cuando esté disponible para su cuenta. Los administradores del espacio de trabajo pueden habilitar el Modo restringido para los miembros de espacios de trabajo administrados mediante controles de acceso basados en roles.
¿El Modo restringido desactiva el entrenamiento?
No. El Modo restringido no modifica si tus conversaciones pueden usarse para mejorar los modelos. Puedes administrar esto por separado en los controles de datos. Los controles de datos del espacio de trabajo continúan dependiendo del plan y la configuración.
¿Puedo usar la generación de imágenes en el Modo restringido?
Sí. El Modo restringido limita la compatibilidad con imágenes en las respuestas habituales de ChatGPT y en las imágenes derivadas de la web, pero no desactiva la generación de imágenes.
¿Puedo desactivar el Modo restringido para un chat?
Sí. Selecciona la etiqueta Modo restringido en el editor web y, luego, selecciona Desactivar para este chat. También puedes cambiar la configuración desde el menú del chat, como se describió anteriormente. Cualquiera de las opciones solo cambia el chat actual.
¿El Modo restringido afecta a Codex?
No. El Modo restringido no afecta el acceso a la red en Codex.
¿El Modo restringido evita todos los ataques de inyección de prompts?
El Modo restringido está diseñado para reducir de manera sustancial el riesgo de exfiltración de datos basada en inyección de prompts en ChatGPT y los productos compatibles de OpenAI, pero no garantiza que la exfiltración de datos no pueda ocurrir. El riesgo puede persistir a través de aplicaciones habilitadas, combinaciones imprevistas de capacidades o técnicas recién descubiertas.
El Modo restringido tampoco evita todos los demás efectos de los ataques de inyección de prompts. Por ejemplo, una instrucción maliciosa oculta en un archivo cargado aún podría afectar el comportamiento de ChatGPT y provocar una respuesta incorrecta.
¿La inyección de prompts es un riesgo importante?
La inyección de prompts es un riesgo de seguridad conocido cuando un sistema de IA procesa contenido no confiable. El Modo restringido puede reducir algunas vías de exfiltración de datos, pero no previene todos los ataques de inyección de prompts ni elimina todos los riesgos de seguridad.
¿Cambia el Modo restringido lo que se registra en la Plataforma de registros de API de cumplimiento normativo?
El Modo restringido no cambia por sí solo qué registros de la plataforma de cumplimiento están disponibles. El acceso y la retención de cumplimiento dependen del espacio de trabajo elegible, los permisos de administrador y la configuración aplicable del producto.