Продукты ИИ могут быть более полезными при подключении к вашим приложениям и интернету, и мы вложили множество усилий в обеспечение безопасности подключенных данных от таких рисков, как атаки, связанные с промпт-инъекциями. Наши продукты уже имеют многочисленные существующие меры защиты на уровнях модели, продукта и системы. Это включает изоляцию, защиту от эксфильтрации данных через URL, мониторинг и контроль, а также корпоративные средства управления, такие как управление доступом на основе ролей и журналы аудита.
В то же время некоторые сетевые возможности создают новые риски, особенно промпт-инъекции, которые ещё не полностью учитываются мерами безопасности и защиты, применяемыми в отрасли. Некоторые пользователи могут быть готовы принять на себя эти риски, и мы считаем важным, чтобы у пользователей была возможность решать, использовать ли новые меры защиты и каким образом, особенно при работе с их личными данными.
Чтобы такие риски было проще понять, мы стремимся сообщать о них, используя согласованную метку «Повышенный риск», терминологию и значок (восклицательный знак внутри щита) таким образом, чтобы это было уместно и понятно для каждой функции и каждого продукта. Эта маркировка обеспечивает пользователям дополнительную прозрачность и контроль в дополнение к существующим мерам защиты.
Примечание: функции с меткой «Повышенный риск» предлагаются на условиях необязательного использования и раннего доступа вне рамок стандартных заверений и гарантий, которые мы предоставляем в отношении наших общедоступных сервисов. Пользователям следует включать эти функции только в том случае, если они понимают и готовы принять дополнительные риски.
Что означает «Повышенный риск»?
Если функция помечена меткой «Повышенный риск», это означает, что её использование влечёт за собой определённые риски, которые ещё не полностью учтены мерами безопасности и защиты, применяемыми в отрасли. Каждый раз, когда вы видите эту метку, рядом обычно приводятся рекомендации о риске, связанном с использованием этой функции, и о том, на что следует обратить внимание, часто со ссылкой «Подробнее».
Например, в Codex, нашем помощнике по написанию кода, разработчики могут предоставить Codex доступ к сети, чтобы он мог выполнять действия в Интернете, такие как поиск документации. Эта возможность также связана с повышенным риском атак с использованием промпт-инъекций. Поэтому соответствующий экран настроек включает метку «Повышенный риск», а также чёткое объяснение того, что меняется, какие риски могут возникнуть и когда такой доступ уместен.
Наиболее распространённый повышенный риск, связанный с такими помеченными функциями, — это атаки с использованием промпт-инъекций.
По мере улучшения защитных механизмов мы можем убрать метку «Повышенный риск», как только определим, что риски в достаточной степени снижены для пользователей.