Преглед

Режимът на ограничен достъп е незадължителна разширена настройка за сигурност, която заключва много инструменти и възможности на продуктите на OpenAI, като им пречи да осъществяват достъп до мрежата. Той осигурява силна детерминистична защита срещу атаки за извличане на данни, базирани на инжектиране на подкана, за сметка на деактивирането или ограничаването на много иначе полезни функции.

Режимът на ограничен достъп не е предназначен за всички, а е създаден за организации, за да защитава чувствителните данни на членове, работещи при най-висок риск от атаки за извличане на данни, базирани на инжектиране на подкана.

Наличност

Режимът на ограничен достъп е наличен за ChatGPT Enterprise, Edu, ChatGPT for Healthcare и ChatGPT for Teachers.

Планираме да направим Режим на ограничен достъп наличен за потребителските и екипните планове на ChatGPT през следващите месеци.

Как Режимът на ограничен достъп защитава срещу атаки за извличане, базирани на инжектиране на подкана?

Инжектирането на подкана е новаторски и предизвикателен изследователски проблем, и ние непрекъснато работим за укрепване на нашите многослойни системи за сигурност и безопасност, за да защитим всички потребители от такива атаки.

За тези, които са най-застрашени от такива атаки, Режимът на ограничен достъп осигурява детерминистични защити за сигурност, като деактивира много инструменти и възможности на продуктите на OpenAI с достъп до мрежата.

Режимът на ограничен достъп надгражда върху съществуващите ни защити на ниво модел, продукт и система. Това включва изолирана среда, защити срещу извличане на данни чрез URL адреси, наблюдение и прилагане на правила, както и корпоративни контроли като достъп, базиран на роли, и одитни дневници.

По-конкретно, за тези в Режим на ограничен достъп следните възможности на продуктите на OpenAI са деактивирани:

• Уеб сърфиране с достъп до живата мрежа: уеб сърфирането е ограничено да има достъп само до кеширано съдържание. Това означава, че тази възможност не може да се използва за предаване на чувствителни данни към нападател, макар че също така означава, че резултатите от търсенето може да са донякъде ограничени или остарели.

• Поддръжка на изображения: отговорите на ChatGPT не могат да включват изображения. Потребителите все пак могат да качват свои файлове с изображения и все още могат да използват възможността за генериране на изображение.

• Дълбоко проучване: Дълбокото проучване е деактивирано.

• Режим на Агент: Режимът на Агент е деактивиран.

• Мрежова свързаност на Canvas: потребителите не могат да одобряват генериран от Canvas код за достъп до мрежата.

• Изтегляне на файлове: ChatGPT не може да изтегля файлове за анализ на данни. Имайте предвид, че ChatGPT все пак може да работи с ръчно качените от вас файлове.

Конфигурирането на тези функции по този начин е предназначено да предотврати използването им за финалния етап на атаки за извличане на данни, управлявани чрез инжектиране на подкана, като детерминистично предотвратява изходящи мрежови заявки, които биха могли да бъдат изпратени към нападателя за прехвърляне на такива данни. Имайте предвид, че Режимът на ограничен достъп не предотвратява детерминистично инжектирането на подкана да достигне изобщо до контекста (напр. инжектиране на подкана може да присъства в кеширано съдържание, достъпно чрез уеб сърфиране); вместо това той е създаден да предотвратява мрежови заявки, които биха могли да се използват за прехвърляне на чувствителни данни към нападател.

Имайте предвид, че Режимът на ограничен достъп не засяга паметта, качването на файлове и възможността за споделяне на разговора. Много от тях могат да се конфигурират отделно от администраторите на работното пространство.

Имайте предвид, че Режимът на ограничен достъп не засяга мрежовия достъп в Codex.

Как работи Режимът на ограничен достъп с приложенията?

Приложенията (включително MCP и конектори) могат да взаимодействат с интернет, така че носят потенциален риск да бъдат използвани от нападатели за атаки за извличане на данни, управлявани чрез инжектиране на подкана, въпреки различните ни многослойни защити за сигурност и безопасност.

Тъй като много важни работни процеси разчитат на конкретни надеждни приложения, Режимът на ограничен достъп не деактивира приложенията, а вместо това се препоръчва администраторите на организации внимателно да конфигурират кои приложения и кои действия в тях са разрешени, до абсолютно необходимия минимум.

Когато конфигурират приложения за членове с активиран Режим на ограничен достъп, препоръчваме администраторите да вземат предвид следното ръководство, описващо риска от извличане на данни при всяко от тях:

• Среден риск – използвайте с повишено внимание за потребители в Режим на ограничен достъп:

  • Конектори за синхронизиране: конекторите за синхронизиране са с нисък риск като възможен „приемник“ за атаки за извличане на данни, тъй като достъпваните данни се синхронизират с OpenAI, така че заявките не водят до мрежови заявки, напускащи мрежата на OpenAI. Въпреки това те все пак могат да действат като източници на чувствителни данни, които злонамерени участници може да се опитат да извлекат от тях.

  • Действия за четене в надеждни приложения: действията за четене в надеждни приложения са с нисък риск като възможен „приемник“ за атаки за извличане на данни. Въпреки това те все пак могат да действат като източници на чувствителни данни, които злонамерени участници може да се опитат да извлекат от тях.

  • Действия за запис в надеждни приложения, когато е гарантирано, че действието за запис е достъпно само за хората, на които имате доверие: действията за запис по своята същност са по-рискови от действията за четене, тъй като водят до наблюдаем страничен ефект. Силно ви препоръчваме да не активирате никакви действия за запис, освен ако не сте силно уверени, че страничният ефект не е наблюдаем от никой възможен злонамерен участник.

• Висок риск – не се препоръчва за потребители в Режим на ограничен достъп:

  • Действия за четене или запис в ненадеждни приложения: силно препоръчваме да не активирате приложения, на които нямате доверие

  • Действия за запис в надеждни приложения, когато не е гарантирано, че действието за запис е достъпно само за хората, на които имате доверие: силно препоръчваме да не активирате действия за запис, дори в приложения, на които имате доверие, ако не сте напълно уверени, че страничният ефект от такова действие за запис със сигурност не е наблюдаем от никой възможен злонамерен участник.

Освен това, и отделно от Режим на ограничен достъп, **платформата Compliance API Logs** предоставя подробна видимост за използването на приложения, споделените данни и свързаните източници, за да помага на администраторите да поддържат контрол с разширяването на възможностите на ИИ.

Активиране на Режим на ограничен достъп за членовете на вашето работно пространство

Администраторите на работното пространство могат да създадат нова персонализирана роля и да я определят като роля за „Режим на ограничен достъп“, след което да присвоят група потребители към тази персонализирана роля.

Често задавани въпроси

Кой може да включи Режим на ограничен достъп?

Администраторите на работното пространство могат да го активират в настройките на работното пространство чрез контроли за достъп, базирани на роли.

Режимът на ограничен достъп предотвратява ли всички атаки с инжектиране на подкана?

Режимът на ограничен достъп е създаден да намали значително риска от извличане на данни, базирано на инжектиране на подкана, в ChatGPT и Atlas, но не гарантира, че това не може да се случи, например чрез активирани приложения или непредвидени и новооткрити комбинации от други възможности. Освен това Режимът на ограничен достъп не засяга нашите продукти Codex.

Освен това Режимът на ограничен достъп не предотвратява всички други ефекти от атаки с инжектиране на подкана; например злонамерена атака, скрита в качен файл, все още може да повлияе на поведението на ChatGPT, например като накара ChatGPT да отговори неправилно на въпроса ви.

Режимът на ограничен достъп наличен ли е за Plus, Pro, Free или Teams?

Все още не. Наличен е за Enterprise, Edu, Healthcare и Teachers. Планираме да разширим достъпността му през следващите месеци.

Режимът на ограничен достъп променя ли какво се записва в платформата Compliance API Logs?

Платформата Compliance API Logs предоставя подробна видимост за използването на приложения, споделените данни и свързаните източници. Такива дневници не се влияят от Режим на ограничен достъп.