개요

락다운 모드는 웹 또는 외부 서비스에 연결할 수 있는 OpenAI 제품의 다양한 도구와 기능을 제한하는 선택형 고급 보안 설정입니다. 이는 아웃바운드 네트워크 요청을 제한하여 프롬프트 인젝션 공격으로 인한 데이터 유출 위험을 줄이도록 설계되었지만, 그에 따라 일부 유용한 기능이 비활성화되거나 제한됩니다.

락다운 모드는 모든 사용자를 위한 기능이 아닙니다. 민감한 데이터를 다루며 프롬프트 인젝션과 관련된 데이터 유출 위험으로부터 더 강력한 보호를 원하는 사용자와 조직을 위한 기능입니다.

지원되는 지역

락다운 모드는 모든 계정 유형 및 워크스페이스에서 사용할 수 있습니다. 이 기능을 사용하려면 로그인해야 합니다.

락다운 모드가 데이터 유출 위험을 줄이는 방식

프롬프트 인젝션은 현재도 해결이 어려운 프런티어 연구 과제이며, OpenAI는 이러한 공격으로부터 사용자를 보호하기 위해 다중 계층 보안 및 안전 시스템을 지속적으로 강화하고 있습니다.

락다운 모드는 모델, 제품, 시스템 수준 전반에 걸쳐 적용된 보호 체계를 기반으로 합니다. 여기에는 샌드박싱, URL 기반 데이터 유출 방지, 모니터링 및 정책 적용, 역할 기반 액세스 제어 및 감사 로그 등과 같은 엔터프라이즈 제어 기능이 포함됩니다.

락다운 모드는 민감한 데이터를 공격자에게 전송할 수 있는 아웃바운드 네트워크 요청을 제한하여, 프롬프트 인젝션 공격으로 인한 데이터 유출의 최종 단계를 방지하는 데 도움이 되도록 설계되었습니다. 락다운 모드는 ChatGPT가 처리하는 콘텐츠에 프롬프트 인젝션이 포함되는 것을 방지하지는 않습니다. 예를 들어, 프롬프트 인젝션은 캐시된 웹 콘텐츠나 업로드된 파일에 발생할 수 있으며 여전히 응답의 동작이나 정확성에 영향을 미칠 수 있습니다.

구체적으로, 락다운 모드에서는 OpenAI 제품의 다음 기능이 비활성화됩니다.

• 실시간 웹 브라우징: 웹 브라우징은 캐시된 콘텐츠에만 액세스할 수 있도록 제한됩니다. 검색 결과가 제한적이거나, 제공되지 않거나, 최신 상태가 아닐 수 있습니다.

• 이미지 지원: ChatGPT가 일반 응답에서 이미지를 표시하지 않거나 웹에서 이미지를 가져오지 못할 수 있습니다. 이미지 파일은 여전히 업로드할 수 있으며, 이미지 생성 기능은 기존에 사용 가능했던 환경에서 계속 사용할 수 있습니다.

• 심층 리서치: 심층 리서치 기능이 비활성화됩니다.

• 에이전트 모드. 에이전트 모드가 비활성화됩니다.

• 캔버스 네트워킹: 사용자는 캔버스에서 생성된 코드가 네트워크에 액세스하도록 승인할 수 없습니다.

• 파일 다운로드: ChatGPT가 데이터 분석을 위해 파일을 다운로드할 수 없습니다. 사용자가 직접 업로드한 파일에 대해서는 ChatGPT가 계속 작업을 수행할 수 있습니다.

락다운 모드는 메모리, 파일 업로드, 대화 공유 기능 또는 사용자의 대화가 모델 개선에 사용될 수 있는지 여부에 영향을 주지 않습니다. 이러한 설정 중 상당수는 워크스페이스 관리자가 별도로 설정할 수 있습니다.

또한 Codex의 네트워크 액세스에도 영향을 주지 않습니다.

앱 연동

앱과 커넥터가 락다운 모드에서 작동하는 방식은 계정 유형과 워크스페이스 설정에 따라 달라집니다.

개인 계정 및 셀프 서비스 ChatGPT Business 계정의 경우, 락다운 모드는 동기화된 데이터를 사용하는 커넥터는 허용하지만 실시간 커넥터 액세스와 커넥터 쓰기 작업은 차단합니다. ChatGPT의 금융 및 쇼핑 에이전트 경험을 포함한 일부 연결된 경험은 락다운 모드에서 사용할 수 없습니다.

관리형 워크스페이스의 경우 앱, MCP, 커넥터는 워크스페이스 설정과 역할 기반 액세스 제어에 의해 관리됩니다. 락다운 모드가 이러한 워크스페이스의 모든 앱을 자동으로 비활성화하지는 않습니다. 워크스페이스 관리자는 락다운 모드를 사용하는 멤버에게 필요한 신뢰할 수 있는 앱과 작업만 활성화해야 합니다.

관리형 워크스페이스 문제 해결을 위해 멤버의 역할과 앱 설정을 함께 검토하세요. 다음과 같은 경우에는 멤버가 앱, 커넥터, MCP 또는 작업을 사용하지 못할 수 있습니다.

• 필수 권한을 제한하는 락다운 모드 역할에 멤버 또는 그룹이 할당된 경우

• 멤버, 그룹 또는 역할에 앱이 할당되지 않은 경우

• 필수 읽기 작업 또는 쓰기 작업이 활성화되지 않은 경우

• 멤버에게 기본 파일, 리포지터리, 채널, 레코드 또는 소스 시스템에 대한 액세스 권한이 없는 경우

ChatGPT의 앱 액세스는 연결된 소스 시스템의 권한을 재정의하지 않습니다. 역할 할당에 대한 자세한 내용은 RBAC를 참조하세요.

관리자는 락다운 모드를 사용하는 멤버를 위해 앱을 구성할 때 각 앱과 작업의 데이터 유출 위험을 고려해야 합니다.

높은 위험

다음과 같은 앱과 작업은 락다운 모드 사용자에게는 권장되지 않습니다.

• 신뢰할 수 없는 앱에서는 읽기 또는 쓰기 작업을 허용하지 않는 것이 좋습니다. 신뢰할 수 있는 앱만 사용 설정하세요.

• 신뢰할 수 있는 앱이더라도 가시성 범위가 넓거나 명확하지 않으면 쓰기 작업을 허용하지 않는 것이 좋습니다. 악의적인 행위자로부터 해당 작업의 부작용이 숨겨져 있다는 것을 확인할 수 없다면, 신뢰할 수 있는 앱이라 하더라도 쓰기 작업을 허용하지 않는 것이 좋습니다.

중간 위험

락다운 모드 사용자에게는 다음과 같은 기능을 신중하게 사용하세요.

• 동기화 커넥터는 데이터를 유출 경로('싱크')로 사용될 위험이 더 낮습니다. 액세스되는 데이터가 이미 OpenAI에 동기화되어 있어 쿼리 시 OpenAI 네트워크를 벗어나는 실시간 네트워크 요청이 발생하지 않기 때문입니다. 하지만 여전히 악의적인 행위자가 유출하려고 시도할 수 있는 민감한 데이터의 출처가 될 수 있습니다.

• 신뢰할 수 있는 앱의 읽기 작업은 쓰기 부수 효과를 발생시키지 않으므로 데이터 유출 경로로 사용될 위험은 낮은 편입니다. 하지만 여전히 악의적인 행위자가 유출하려고 시도할 수 있는 민감한 데이터의 출처가 될 수 있습니다.

• 가시성이 제한된 신뢰할 수 있는 앱의 쓰기 작업은 부수 효과를 발생시키므로 읽기 작업보다 위험도가 높습니다. 이러한 기능은 해당 작업으로 인해 발생하는 모든 부수 효과가 악의적인 행위자가 아닌, 신뢰하는 사람들에게만 노출된다는 확신이 있을 때에만 활성화해야 합니다.

락다운 모드와는 별도로 규정 준수 API 로그 플랫폼은 앱 사용 내역, 공유된 데이터, 연결된 소스에 대한 상세한 가시성을 제공하여 관리자가 전체 상황을 효과적으로 파악하고 관리할 수 있도록 지원합니다. 앱 사용 로그에 대한 자세한 내용은 Enterprise 고객용 규정 준수 API를 참조하세요.

락다운 모드 켜기

개인 계정 및 셀프 서비스 ChatGPT Business 계정

적격한 개인 계정 및 셀프 서비스 ChatGPT Business 계정의 경우:

1. 설정으로 이동합니다.

2. 보안을 선택합니다.

3. 고급 보안에서 락다운 모드를 켭니다.

4. 확인 모달에서 켜기를 선택합니다.

락다운 모드와 개발자 모드는 동시에 사용할 수 없습니다. 락다운 모드를 켜면 개발자 모드가 꺼집니다. 나중에 개발자 모드를 켜면 락다운 모드가 꺼집니다.

락다운 모드가 켜져 있으면 입력창 위에 상태 메시지가 표시됩니다. 한 채팅에서만 끄려면 해당 상태 메시지에서 관리를 선택한 다음 이 채팅에서 끄기를 선택하세요. 더보기 메뉴(•••)를 열고 락다운 모드를 선택한 다음 사용 안 함을 선택할 수도 있습니다. 해당 채팅에서 다시 켜려면 락다운 모드를 선택한 다음 사용을 선택하세요.

관리형 워크스페이스

워크스페이스 관리자는 사용자 지정 역할을 만들고 이를 '락다운 모드' 역할로 지정한 다음, 해당 역할에 멤버 또는 그룹을 할당할 수 있습니다.

자주 묻는 질문

누가 락다운 모드를 활성화할 수 있나요?

적격한 개인 계정 및 셀프 서비스 ChatGPT Business 계정 사용자는 해당 계정에서 락다운 모드가 사용 가능하면 설정 > 보안에서 이 기능을 켤 수 있습니다. 워크스페이스 관리자는 역할 기반 액세스 제어를 사용해 관리형 워크스페이스 멤버에 대해 락다운 모드를 활성화할 수 있습니다.

락다운 모드를 사용하면 모델 학습이 비활성화되나요?

아니요. 락다운 모드는 사용자의 대화가 모델 개선에 사용될 수 있는지 여부에 영향을 주지 않습니다. 이 기능은 데이터 제어에서 별도로 관리할 수 있습니다. 워크스페이스 데이터 제어는 계속해서 워크스페이스 플랜 및 설정에 따라 결정됩니다.

락다운 모드에서 이미지 생성 기능을 사용할 수 있나요?

예. 락다운 모드는 일반적인 ChatGPT 응답에 포함되는 이미지 지원과 웹에서 가져온 이미지 표시를 제한하지만, 이미지 생성 기능 자체를 비활성화하지는 않습니다.

특정 채팅 하나에 대해서만 락다운 모드를 끌 수 있나요?

네. 락다운 모드가 켜져 있으면 입력창 위에 있는 ‘락다운’ 탭을 선택한 다음 이 채팅에 대해 ‘끄기’를 선택하세요. 더보기 메뉴(•••)를 열고 ‘락다운’ 모드를 선택한 다음 ‘사용 안 함’을 선택할 수도 있습니다. 이 변경 사항은 현재 채팅에만 적용됩니다.

락다운 모드는 Codex에 영향을 미치나요?

아니요. 락다운 모드는 Codex의 네트워크 액세스에는 영향을 주지 않습니다.

락다운 모드는 모든 프롬프트 인젝션 공격을 막을 수 있나요?

락다운 모드는 ChatGPT 및 지원되는 OpenAI 제품에서 프롬프트 인젝션 기반 데이터 유출 위험을 크게 줄이도록 설계되었지만, 데이터 유출이 발생하지 않는다고 보장하지는 않습니다. 활성화된 앱, 예상치 못한 기능 조합 또는 새롭게 발견된 공격 기법으로 인해 위험은 여전히 남아 있을 수 있습니다.

또한 락다운 모드는 프롬프트 인젝션 공격으로 인해 발생할 수 있는 다른 모든 영향까지 방지하는 것은 아닙니다. 예를 들어, 업로드된 파일에 숨겨진 악의적인 지시문은 여전히 ChatGPT의 동작에 영향을 미쳐 잘못된 답변을 유발할 수 있습니다.

프롬프트 인젝션은 심각한 보안 위험인가요?

프롬프트 인젝션은 현재 심각한 보안 위험은 아니지만, 공격자들이 더 정교한 방법을 개발함에 따라 그 영향은 커질 수 있습니다.

락다운 모드는 컴플라이언스 API 로그 플랫폼에 기록되는 내용에도 영향을 주나요?

아니요. 규정 준수 API 로그 플랫폼은 앱 사용 내역, 공유된 데이터, 연결된 소스에 대한 상세한 가시성을 제공합니다. 이러한 로그는 락다운 모드에 의해 변경되지 않습니다.