AI 제품은 앱과 웹에 연결될 때 더 유용해질 수 있으며, OpenAI는 프롬프트 인젝션 공격과 같은 위험으로부터 연결된 데이터를 보호하기 위해 많은 노력을 기울여 왔습니다. OpenAI 제품에는 모델, 제품, 시스템 전반에 걸쳐 다양한 보호 장치가 마련되어 있습니다. 여기에는 샌드박싱, URL 기반 데이터 유출 방지, 모니터링 및 정책 적용, 역할 기반 액세스 제어 및 감사 로그 등과 같은 엔터프라이즈 제어 기능이 포함됩니다.
동시에 일부 네트워크 관련 기능은 업계의 안전 및 보안 완화 조치로 아직 충분히 해결되지 않은 새로운 위험, 특히 프롬프트 인젝션과 같은 위험을 초래할 수 있습니다. 일부 사용자는 이러한 위험을 감수하는 데 부담이 없을 수 있으며, 특히 개인 데이터를 다루는 상황에서는 이러한 기능을 사용할지 여부와 사용 방식을 스스로 결정할 수 있어야 한다고 생각합니다.
이러한 위험을 더 쉽게 이해할 수 있도록, 각 기능과 제품에 맞는 방식으로 일관된 ‘높은 위험’ 라벨, 용어, 아이콘(방패 안의 느낌표)을 사용해 안내하고자 합니다. 이 라벨은 기존 보호 장치에 더해 사용자에게 더 높은 가시성과 제어 권한을 제공합니다.
참고: ‘높은 위험’으로 표시된 기능은 선택적으로 제공되는 얼리 액세스 기능으로, 일반적으로 제공되는 서비스에 적용되는 표준 보증 및 책임 범위에는 포함되지 않습니다. 사용자는 추가적인 위험을 이해하고 감수할 수 있는 경우에만 이러한 기능을 활성화해야 합니다.
‘높은 위험’은 무엇을 의미하나요?
기능에 ‘높은 위험’ 라벨이 표시된 경우, 해당 기능을 사용하면 업계의 안전 및 보안 완화 조치로 아직 충분히 해결되지 않은 위험이 존재함을 의미합니다. 이 라벨이 표시될 때마다, 해당 기능 사용으로 인해 발생할 수 있는 위험과 주의할 사항에 대한 안내는 보통 ‘자세히 알아보기’ 링크를 통해 확인할 수 있습니다.
예를 들어, 코딩 어시스턴트인 Codex에서는 개발자가 Codex에 네트워크 액세스 권한을 부여해 문서 검색과 같은 웹 작업을 수행하도록 할 수 있습니다. 이 기능은 프롬프트 인젝션 공격에 대한 위험 수준도 높습니다. 따라서 관련 설정 화면에는 ‘높은 위험’ 라벨과 함께 어떤 변화가 발생하는지, 어떤 위험이 추가될 수 있는지, 그리고 해당 액세스 권한을 언제 사용하는 것이 적절한지에 대한 명확한 설명이 제공됩니다.
이와 같이 라벨이 표시된 기능에서 가장 흔하게 나타나는 위험은 프롬프트 인젝션 공격입니다.
보호 조치가 개선되어 사용자에게 미치는 위험이 충분히 완화되었다고 판단되면 ‘높은 위험’ 라벨은 제거될 수 있습니다.