Доступ к режиму блокировки постепенно открывается для соответствующих личных учетных записей, в том числе использующих тарифные планы Free, Go, Plus и Pro, а также для самообслуживаемых учетных записей ChatGPT Business. Если вы не видите в настройках пункт «Режим блокировки», возможно, он пока недоступен для вашей учетной записи.
Обзор
Режим блокировки — это продвинутая настройка безопасности, которая ограничивает многие инструменты и возможности в продуктах OpenAI, которые могут подключаться к Интернету или внешним сервисам. Режим предназначен для снижения риска эксфильтрации данных в результате атак с использованием промпт-инъекций за счёт ограничения исходящих сетевых запросов, хотя при этом некоторые полезные функции отключаются или ограничиваются.
Режим блокировки предназначен не для всех. Режим предназначен для людей и организаций, которые работают с конфиденциальными данными и которым требуется усиленная защита от рисков эксфильтрации данных в связи с промпт-инъекциями.
Доступность
Режим блокировки доступен для всех типов учетных записей и рабочих областей. Для использования необходимо войти в систему.
Как режим блокировки помогает снизить риск эксфильтрации данных
Промпт-инъекция — это передовая, сложная исследовательская проблема, и мы постоянно работаем над тем, чтобы укреплять наши многоуровневые системы безопасности и защиты для защиты пользователей от подобных атак.
Режим блокировки укрепляет меры защиты на уровнях модели, продукта и системы. Это включает изоляцию, защиту от эксфильтрации данных через URL, мониторинг и контроль, а также корпоративные средства управления, такие как управление доступом на основе ролей и журналы аудита.
Режим блокировки предназначен для предотвращения заключительного этапа эксфильтрации данных при атаке с использованием промпт-инъекции за счет ограничения исходящих сетевых запросов, которые могут передать конфиденциальные данные злоумышленнику. Режим блокировки не предотвращает появление промпт-инъекций в контенте, который обрабатывает ChatGPT. Например, промпт-инъекция может содержаться в кэшированном веб-контенте или в загруженном файле и всё равно может повлиять на поведение или точность ответа.
В частности, для пользователей в режиме блокировки отключены следующие возможности продуктов OpenAI:
Просмотр веб-страниц в реальном времени: просмотр веб-страниц ограничен доступом к кэшированному контенту. Результаты поиска могут быть ограниченными, недоступными или устаревшими.
Поддержка изображений: ChatGPT может не отображать изображения в обычных ответах или не получать изображения из Интернета. Пользователи по-прежнему могут загружать файлы изображений. Генерация изображений также остается доступной (если она доступна).
Deep Research: Deep Research отключен.
Режим агента: режим агента отключен.
Сетевой доступ в рабочем поле: пользователи не могут разрешить коду, созданному в рабочем поле, доступ к сети.
Скачивание файлов: ChatGPT не может скачивать файлы для анализа данных. При этом ChatGPT по-прежнему может работать с файлами, загруженными вручную.
Режим блокировки не изменяет объем памяти, загрузку файлов, возможность делиться разговором или то, могут ли ваши разговоры использоваться для улучшения моделей. Многие из этих параметров администраторы рабочей области могут настраивать отдельно.
Режим блокировки не влияет на сетевой доступ в Codex.
Приложения
То, как программы и коннекторы работают в режиме блокировки, зависит от типа вашей учетной записи и настроек рабочей области.
Для личных и самообслуживаемых учетных записей ChatGPT Business режим блокировки разрешает работу коннекторов, использующих синхронизированные данные, но блокирует доступ в реальном времени и действия записи через коннекторы. Некоторые подключенные функции, в том числе «Финансы» в ChatGPT и функции агента покупок, недоступны в режиме блокировки.
В управляемых рабочих областях программы, MCP и коннекторы управляются настройками рабочей области и средствами управления доступом на основе ролей. Режим блокировки не отключает все программы в этих рабочих областях автоматически. Администраторы рабочей области должны разрешать только работу доверенных программ и действия, необходимые участникам, использующим режим блокировки.
При устранении неполадок в управляемой рабочей области рассматривайте роль участника и настройки программы в совокупности. Участник может не иметь возможности использовать программу, коннектор, MCP или действие, если:
участнику или группе назначена роль режима блокировки, которая ограничивает требуемые функции;
программа не назначена участнику, группе или роли;
требуемое действие чтения или записи не разрешено;
у участника нет доступа к базовому файлу, репозиторию, каналу, записи или исходной системе.
Доступ приложения в ChatGPT не переопределяет разрешения в подключенной исходной системе. Дополнительные сведения о назначении ролей см. в разделе RBAC.
При настройке приложений для участников, использующих режим блокировки, администраторам следует учитывать риск утечки данных для каждой программы и действия.
Высокий риск
В режиме блокировки пользователям не рекомендуется использование следующих программ и действий:
Действия чтения или записи для непроверенных приложений — не рекомендуются. Разрешайте такие действия только тем программам, которым вы доверяете.
Действия записи для доверенных приложений с широкой или неопределенной областью видимости — не рекомендуются. Не разрешайте действия записи даже для доверенных программ, если вы не можете подтвердить, что побочный эффект скрыт от злоумышленника.
Средний риск
Для пользователей в режиме блокировки рекомендуется с осторожностью использовать следующие возможности:
Коннекторы с синхронизацией представляют более низкий риск как возможная точка эксфильтрации данных, поскольку данные, к которым осуществляется доступ, уже синхронизированы с OpenAI, поэтому сетевые запросы не отправляются в реальном времени за пределы OpenAI. Однако они все равно могут служить источниками конфиденциальных данных, которые злоумышленник может попытаться извлечь.
Действия чтения для доверенных приложений сопряжены с меньшим риском как возможная точка назначения для эксфильтрации данных, поскольку они не создают побочных эффектов записи. Однако они все равно могут служить источниками конфиденциальных данных, которые злоумышленник может попытаться извлечь.
Действия записи для доверенных приложений с ограниченной видимостью несут более высокий риск, чем действия чтения, поскольку создают побочные эффекты. Включайте их только в том случае, если вы уверены, что все побочные эффекты будут видны только людям, которым вы доверяете, а не злоумышленнику.
Платформа журналов соответствия API отдельно от режима блокировки предоставляет подробную информацию об использовании приложений, совместно используемых данных и подключенных источниках, помогая администраторам осуществлять контроль. Дополнительные сведения о журналах использования приложений см. в разделе: Compliance API для корпоративных клиентов.
Включить режим блокировки
Личные и самообслуживаемые учетные записи ChatGPT Business
Для соответствующих личных и самообслуживаемых учетных записей ChatGPT Business:
Перейдите в настройки.
Выберите пункт «Безопасность».
В разделе Расширенная безопасность включите Режим блокировки.
В модальном окне подтверждения нажмите «Включить».
Режим блокировки и режим разработчика нельзя использовать одновременно. При включении режима блокировки отключается режим разработчика. Если позже включить режим разработчика, режим блокировки будет отключен.
Когда включен режим блокировки, над полем ввода появляется сообщение статуса. Чтобы отключить эту функцию только для одного чата, в сообщении статуса нажмите «Управление», а затем нажмите «Отключить для этого чата». Вы также можете открыть меню дополнительных параметров (•••), выбрать режим блокировки, а затем нажать «Отключено». Чтобы снова включить эту функцию для этого чата, выберите режим блокировки, и затем нажмите «Включено».
Управляемые рабочие области
Администраторы рабочей области могут создать пользовательскую роль и присвоить ей статус для «Режима блокировки», а затем назначить эту роль участникам или группам.
Часто задаваемые вопросы
Кто может включить режим блокировки?
Пользователи соответствующих личных и самообслуживаемых учетных записей ChatGPT Business могут включить режим блокировки в разделе «Настройки > Безопасность», если он доступен для их учетной записи. Администраторы рабочей области могут включить режим блокировки для управляемых участников рабочей области через управление доступом на основе ролей.
Отключает ли режим блокировки обучение?
Нет. Режим блокировки не влияет на то, могут ли ваши беседы использоваться для улучшения моделей. Вы можете управлять этим отдельно в настройках управления данными. Управление данными рабочей области по-прежнему зависит от тарифного плана и настроек.
Можно ли использовать в режиме блокировки генерацию изображений?
Да. Режим блокировки ограничивает поддержку изображений в обычных ответах ChatGPT и изображений, полученных из веб-источников, но не отключает генерацию изображений.
Можно ли отключить режим блокировки для одного чата?
Да. Когда режим блокировки включён, выберите вкладку «Режим блокировки» над полем ввода сообщения, а затем нажмите «Отключить для этого чата». Вы также можете открыть меню дополнительных параметров (•••), выбрать режим блокировки, а затем нажать «Отключено». Это действие повлияет только на текущий чат.
Влияет ли режим блокировки на Codex?
Нет. Режим блокировки не влияет на сетевой доступ в Codex.
Предотвращает ли режим блокировки все атаки с промпт-инъекцией?
Режим блокировки предназначен для существенного снижения риска эксфильтрации данных на основе промпт-инъекций в ChatGPT и поддерживаемых продуктах OpenAI, но не гарантирует, что эксфильтрация данных будет абсолютно невозможна. Риск может сохраняться за счет разрешенных программ, непредвиденных сочетаний возможностей или актуальных методов работы злоумышленников.
Режим блокировки также не предотвращает все другие последствия атак с промпт-инъекцией. Например, вредоносная инструкция, скрытая в загруженном файле, всё равно может повлиять на поведение ChatGPT и заставить его неправильно ответить на вопрос.
Промпт-инъекция представляет серьезную угрозу?
В настоящее время промпт-инъекции не представляют серьезной угрозы, но их влияние может возрасти по мере того, как злоумышленники будут разрабатывать более сложные методы.
Меняет ли режим блокировки то, что регистрируется в платформе журналов соответствия API?
Нет. Платформа журналов API для соответствия требованиям обеспечивает подробную видимость использования приложений, общих данных и подключенных источников. Эти журналы не затрагиваются режимом блокировки.