Обзор
Режим блокировки может быть доступен для личных учетных записей, соответствующих установленным требованиям, учетных записей ChatGPT Business с тарифом самообслуживания и поддерживаемых управляемых рабочих областей. Его доступность зависит от учетной записи, рабочей области, текущего этапа развертывания продукта и настроек администратора.
Режим блокировки — это дополнительная расширенная настройка безопасности, которая ограничивает многие инструменты и возможности в продуктах OpenAI, которые могут подключаться к Интернету или внешним сервисам. Режим предназначен для снижения риска эксфильтрации данных в результате атак с использованием промпт-инъекций за счёт ограничения исходящих сетевых запросов, хотя при этом некоторые полезные функции отключаются или ограничиваются.
Режим блокировки подходит не всем. Режим предназначен для пользователей и организаций, которые работают с конфиденциальными данными и которым требуется усиленная защита от рисков эксфильтрации данных, связанных с промпт-инъекциями.
Доступность
Для использования режима блокировки необходимо войти в учетную запись. Он доступен только в том случае, если поддерживается для вашего тарифного плана, рабочей области, используемого интерфейса продукта и конфигурации администратора.
Как режим блокировки помогает снизить риск эксфильтрации данных
Промпт-инъекция — это сложная исследовательская проблема. Мы постоянно повышаем устойчивость наших многоуровневых систем защиты и безопасности, чтобы защитить пользователей от таких атак.
Режим блокировки укрепляет меры защиты на уровнях модели, продукта и системы. Это включает изоляцию, защиту от эксфильтрации данных через URL, мониторинг и контроль, а также корпоративные средства управления, такие как управление доступом на основе ролей и журналы аудита.
Режим блокировки предназначен для предотвращения заключительного этапа эксфильтрации данных при атаке с использованием промпт-инъекции за счет ограничения исходящих сетевых запросов, которые могут передать конфиденциальные данные злоумышленнику. Режим блокировки не предотвращает появление промпт-инъекций в контенте, который обрабатывает ChatGPT. Например, промпт-инъекция может содержаться в кэшированном веб-контенте или в загруженном файле и всё равно может повлиять на поведение или точность ответа.
Режим блокировки отключает или ограничивает следующие возможности продуктов OpenAI:
Просмотр веб-страниц в реальном времени: просмотр веб-страниц ограничен кэшированным контентом. Результаты поиска могут быть ограниченными, недоступными или устаревшими.
Поддержка изображений: ChatGPT может не отображать изображения в обычных ответах или не получать изображения из Интернета. Пользователи по-прежнему могут загружать файлы изображений, а генерация изображений остаётся доступной там, где она поддерживается.
Глубокое исследование: глубокое исследование отключено.
Режим агента: режим агента отключен.
Сетевой доступ рабочего поля: пользователи не могут разрешить коду, созданному в рабочем поле, доступ к сети.
Скачивание файлов: ChatGPT не может скачивать файлы для анализа данных. При этом ChatGPT по-прежнему может работать с файлами, загруженными вручную.
Режим блокировки не изменяет объем памяти, загрузку файлов, возможность делиться разговором или то, могут ли ваши разговоры использоваться для улучшения моделей. Многие из этих параметров администраторы рабочей области могут настраивать отдельно.
Режим блокировки не влияет на сетевой доступ в Codex.
Приложения
То, как программы и коннекторы работают в режиме блокировки, зависит от типа вашей учетной записи и настроек рабочей области.
Для личных учетных записей и учетных записей ChatGPT Business с тарифом самообслуживания режим блокировки блокирует доступ к внешним сервисам в реальном времени и действия коннекторов, связанные с записью данных, если такие действия противоречат предусмотренным в этом режиме мерам безопасности. В индивидуальных учетных записях нельзя настроить синхронизацию приложений. В управляемой рабочей области, соответствующей установленным требованиям, доступ к существующему источнику, которым управляет администратор, также зависит от разрешений рабочей области и действующей политики режима блокировки. Некоторые подключенные функции, в том числе «Финансы» в ChatGPT и функции агента покупок, недоступны в режиме блокировки.
В управляемых рабочих областях программы, MCP и коннекторы управляются настройками рабочей области и средствами управления доступом на основе ролей. Режим блокировки не отключает все программы в этих рабочих областях автоматически. Администраторы рабочей области должны разрешать только работу доверенных программ и действия, необходимые участникам, использующим режим блокировки.
При устранении неполадок в управляемой рабочей области рассматривайте роль участника и настройки программы в совокупности. Участник может не иметь возможности использовать программу, коннектор, MCP или действие, если:
участнику или группе назначена роль режима блокировки, которая ограничивает требуемые функции;
программа не назначена участнику, группе или роли;
требуемое действие чтения или записи не разрешено;
у участника нет доступа к базовому файлу, репозиторию, каналу, записи или исходной системе.
другая роль предоставляет необходимую возможность, однако роль режима блокировки по-прежнему ограничивает доступ к ней. Чтобы восстановить доступ, владелец рабочей области должен исключить участника или группу из роли режима блокировки.
Доступ приложения в ChatGPT не переопределяет разрешения в подключенной исходной системе. Дополнительные сведения о назначении ролей см. в разделе RBAC.
При настройке приложений для участников, использующих режим блокировки, администраторам следует учитывать риск утечки данных для каждой программы и действия.
Высокий риск
В режиме блокировки пользователям не рекомендуется использование следующих программ и действий:
Не рекомендуется включать действия чтения или записи для приложений, которым вы не доверяете. Включайте только приложения, которым вы доверяете.
Не рекомендуется включать действия записи для доверенных приложений, если результаты таких действий доступны широкому или неопределенному кругу лиц. Не включайте действия записи даже для доверенных приложений, если не можете убедиться, что последствия такого действия будут скрыты от злоумышленника.
Средний риск
Для пользователей в режиме блокировки рекомендуется с осторожностью использовать следующие возможности:
Индексированные источники, управляемые администратором, могут сократить количество некоторых исходящих сетевых запросов, поскольку контент извлекается из существующего индекса, а не запрашивается у поставщика в реальном времени. При этом они по-прежнему могут раскрывать конфиденциальную информацию, а их доступность в режиме блокировки зависит от рабочей области, источника и политики безопасности.
Действия чтения для доверенных приложений представляют меньший риск как возможный канал утечки данных, поскольку они не создают побочных эффектов, связанных с записью данных. Однако они все равно могут служить источниками конфиденциальных данных, которые злоумышленник может попытаться извлечь.
Действия записи для доверенных приложений с ограниченной видимостью результатов представляют больший риск, чем действия чтения, поскольку они создают побочные эффекты. Включайте такие действия, только если уверены, что любые их последствия будут видны только людям, которым вы доверяете, а не злоумышленнику.
Администраторы Enterprise и Edu, соответствующие установленным требованиям, могут использовать доступные записи Платформы соответствия требованиям для проверки активности поддерживаемых приложений с учетом конфигурации и разрешений рабочей области. Подробнее: Платформа соответствия требованиям OpenAI для пользователей планов Enterprise и Edu.
Включить режим блокировки
Личные и самообслуживаемые учетные записи ChatGPT Business
Для соответствующих личных и самообслуживаемых учетных записей ChatGPT Business:
Перейдите в настройки.
Выберите пункт «Безопасность».
В разделе Расширенная безопасность включите Режим блокировки.
В модальном окне подтверждения нажмите «Включить».
Режим блокировки и режим разработчика нельзя использовать одновременно. При включении режима блокировки режим разработчика отключается. Если впоследствии включить режим разработчика, режим блокировки отключится.
Когда режим блокировки включен, его можно отключить для одного чата. В веб-версии выберите метку РЕЖИМ БЛОКИРОВКИ в поле ввода, а затем выберите Отключить для этого чата.
Чтобы изменить эту настройку в меню чата:
Откройте меню дополнительных параметров (•••).
Выберите Блокировка.
Выберите Отключено, чтобы отключить режим блокировки для этого чата, или Включено, чтобы снова его включить.
Чтобы открыть настройки «Безопасность» учетной записи, выберите Управление режимом блокировки в диалоговом окне поля ввода.
Управляемые рабочие области
Администраторы рабочей области могут создать пользовательскую роль и присвоить ей статус для «Режима блокировки», а затем назначить эту роль участникам или группам.
Часто задаваемые вопросы
Кто может включить режим блокировки?
Пользователи личных учетных записей, соответствующих установленным требованиям, и учетных записей ChatGPT Business с тарифом самообслуживания могут включить режим блокировки в разделе «Настройки» > «Безопасность», если этот режим доступен для их учетной записи. Администраторы рабочих областей могут включать режим блокировки для участников управляемых рабочих областей с помощью средств управления доступом на основе ролей.
Отключает ли режим блокировки обучение?
Нет. Режим блокировки не влияет на то, могут ли ваши беседы использоваться для улучшения моделей. Вы можете управлять этим отдельно в настройках управления данными. Управление данными рабочей области по-прежнему зависит от тарифного плана и настроек.
Можно ли использовать в режиме блокировки генерацию изображений?
Да. Режим блокировки ограничивает поддержку изображений в обычных ответах ChatGPT и изображений, полученных из веб-источников, но не отключает генерацию изображений.
Можно ли отключить режим блокировки для одного чата?
Да. В веб-версии выберите метку РЕЖИМ БЛОКИРОВКИ в поле ввода, а затем выберите Отключить для этого чата. Настройку также можно изменить в меню чата, как описано выше. В обоих случаях изменение применяется только к текущему чату.
Влияет ли режим блокировки на Codex?
Нет. Режим блокировки не влияет на сетевой доступ в Codex.
Предотвращает ли режим блокировки все атаки с промпт-инъекцией?
Режим блокировки предназначен для существенного снижения риска эксфильтрации данных на основе промпт-инъекций в ChatGPT и поддерживаемых продуктах OpenAI, но не гарантирует, что эксфильтрация данных будет абсолютно невозможна. Риск может сохраняться за счет включенных приложений, непредвиденных сочетаний возможностей или актуальных методов работы злоумышленников.
Режим блокировки также не предотвращает все другие последствия атак с промпт-инъекцией. Например, вредоносная инструкция, скрытая в загруженном файле, всё равно может повлиять на поведение ChatGPT и заставить его неправильно ответить на вопрос.
Промпт-инъекция представляет серьезную угрозу?
Промпт-инъекция представляет собой известный риск безопасности, возникающий, когда система ИИ обрабатывает контент, которому нельзя доверять. Режим блокировки может перекрыть некоторые пути эксфильтрации данных, однако он не предотвращает все атаки с промпт-инъекциями и не устраняет все риски безопасности.
Меняет ли режим блокировки то, что регистрируется в платформе журналов соответствия API?
Сам по себе режим блокировки не влияет на то, какие записи Платформы соответствия требованиям доступны. Доступ к данным о соблюдении требований и их хранение зависят от наличия соответствующей требованиям рабочей области, разрешений администратора и применимых настроек продукта.