Обзор
OpenAI использует автоматизированные системы и сообщения пользователей, чтобы выявлять контент, который может быть вредным или нарушать Правила использования. В зависимости от ситуации ChatGPT может ограничить ответ, ограничить возможность делиться им, завершить разговор или временно приостановить доступ к учетной записи. OpenAI может также принять отдельные меры в отношении учетной записи или отдельного GPT.
Эти меры защиты опираются на тестирование безопасности и согласованности и меры по снижению рисков, которые OpenAI проводит перед выпуском своих моделей.
Определение потенциально вредного контента
OpenAI использует автоматизированные инструменты модерации, чтобы выявлять потенциально вредный контент в промптах, ответах, загружаемых материалах и GPT.
ChatGPT может автоматически принимать определенные меры безопасности без предварительной проверки беседы человеком. Когда кто-либо жалуется на контент, OpenAI использует автоматизированные системы и квалифицированных специалистов для оценки этого сообщения.
Действия в ChatGPT и ChatGPT Картинки
Если контент может нарушать правила OpenAI или вызывает опасения по поводу безопасности, ChatGPT может:
Предупредить вас о том, что ваш контент может нарушать Правила использования OpenAI.
Отказаться отвечать на промпт.
Запретить делиться беседой.
Завершить разговор, если он вызывает серьёзную обеспокоенность по поводу насилия или причинения вреда другим.
Временно приостановить действие вашей учетной записи, если после неоднократного завершения разговоров в дальнейших беседах возникнут серьезные опасения по поводу риска насилия или причинения вреда другим людям.
В отдельных случаях OpenAI может навсегда закрыть учетную запись за серьезные или повторные нарушения правил.
Завершённые беседы
Если ChatGPT завершает беседу, она больше не отображается в истории чатов или результатах поиска. Вы можете начать новый чат, если действие вашей учетной записи не приостановлено и на нее не наложены иные ограничения.
Временная приостановка действия учетной записи
Если ChatGPT временно приостановит действие вашей учетной записи, вы немедленно выйдете из вашей учетной записи, и не сможете войти в неё или продолжать пользоваться ChatGPT, пока действует приостановка. Временная приостановка действия учетной записи — это не то же самое, что окончательное закрытие учетной записи.
Подробнее см. в статье «Почему ChatGPT завершил ваш разговор или временно приостановил действие вашей учетной записи из-за опасений по поводу насилия».
Окончательное закрытие учетной записи
OpenAI может навсегда закрыть учетную запись пользователя за серьезные или повторные нарушения правил. Закрытие учетной записи — не то же самое, что завершение беседы или временная приостановка действия учетной записи.
Подробнее об окончательном закрытии учетной записи и доступных вариантах пересмотра решения см. в статье «Закрытие учетных записей OpenAI и приостановка их действия из соображений безопасности».
Действия, связанные с GPT
OpenAI также использует автоматизированные инструменты для выявления потенциально проблемного контента, связанного с GPT. Если GPT может нарушать правила OpenAI, OpenAI может запретить его распространение.
Создатель GPT может обновить GPT или конфигурацию API, чтобы устранить проблему. Если в продукте доступна возможность подать апелляцию, автор GPT может воспользоваться ею, чтобы запросить проверку. В особо серьезных случаях OpenAI также может навсегда закрыть учетную запись автора GPT.
Жалобы на проблемный контент
Вы можете пожаловаться на контент, который, по вашему мнению, может нарушать правила OpenAI или иным образом вызывать опасения по поводу безопасности. Для оценки поступивших сообщений OpenAI использует автоматизированные системы и квалифицированных специалистов.
Порядок жалобы на контент непосредственно в ChatGPT см. в статье «Как пожаловаться на контент в ChatGPT и на платформах OpenAI».
Порядок жалобы на контент в беседе ChatGPT, доступной по общей ссылке, см. в статье «Как сообщить о вредоносном или незаконном контенте по ссылке для общего доступа».
Порядок жалобы на контент в GPT см. в статье «Как пожаловаться на GPT».
Если вы считаете, что пользователь может находиться в непосредственной опасности, обратитесь в местные экстренные службы. Жалоба на контент в OpenAI не заменяет экстренную помощь.
