개요
OpenAI는 자동화된 시스템과 사용자 신고를 통해 유해하거나 이용 정책을 위반할 가능성이 있는 콘텐츠를 식별합니다. 상황에 따라 ChatGPT는 응답을 제한하거나, 공유를 제한하거나, 대화를 종료하거나, 계정 액세스를 일시적으로 정지할 수 있습니다. OpenAI는 계정 또는 GPT에 대해 별도의 조치를 취할 수도 있습니다.
이러한 안전장치는 모델을 출시하기 전에 OpenAI가 수행하는 안전성 및 정렬 테스트와 완화 조치를 기반으로 합니다.
잠재적으로 유해한 콘텐츠 식별
OpenAI는 프롬프트, 응답, 업로드된 콘텐츠, GPT에서 잠재적으로 유해한 콘텐츠를 식별하기 위해 자동화된 모더레이션 도구를 사용합니다.
ChatGPT는 사람이 먼저 대화를 검토하지 않아도 특정 안전 조치를 자동으로 취할 수 있습니다. 누군가 콘텐츠를 신고하면 OpenAI는 자동화된 시스템과 숙련된 검토 담당자를 통해 해당 신고 내용을 평가합니다.
ChatGPT 및 ChatGPT 이미지에서 취해지는 조치
콘텐츠가 OpenAI의 정책을 위반할 가능성이 있거나 안전 문제가 우려되는 경우 ChatGPT는 다음과 같은 조치를 취할 수 있습니다.
콘텐츠가 OpenAI의 이용 정책을 위반할 수 있음을 경고합니다.
프롬프트에 대한 응답을 거부합니다.
대화를 공유하지 못하도록 제한합니다.
폭력이나 타인에게 해를 끼칠 수 있다는 심각한 우려가 제기되는 대화를 종료합니다.
대화가 반복적으로 종료된 후에도 추가 대화에서 폭력이나 타인에게 해를 끼치는 행위에 대한 심각한 우려가 제기되면 계정을 일시적으로 정지합니다.
OpenAI는 심각하거나 반복적인 정책 위반에 대해 별도로 계정을 영구 폐쇄할 수 있습니다.
종료된 대화
ChatGPT가 대화를 종료하면 해당 대화는 채팅 기록이나 검색 결과에 더 이상 표시되지 않습니다. 계정이 정지되었거나 다른 제한 조치가 적용되지 않은 경우 새 채팅을 시작할 수 있습니다.
계정 일시 정지
ChatGPT가 계정을 일시적으로 정지하면 즉시 로그아웃되며, 정지 기간에는 로그인하거나 ChatGPT를 사용할 수 없습니다. 일시 정지는 영구적인 계정 폐쇄와 다릅니다.
이러한 조치에 대한 자세한 내용은 폭력 관련 우려로 인해 ChatGPT가 대화를 종료하거나 계정을 일시적으로 정지한 이유를 참조하세요.
계정 영구 폐쇄
OpenAI는 정책을 심각하게 또는 반복적으로 위반한 경우 계정을 영구적으로 폐쇄할 수 있습니다. 이 조치는 대화 종료 또는 계정의 일시 정지와는 별개입니다.
영구적인 계정 폐쇄 및 이용 가능한 계정 검토 옵션에 대한 자세한 내용은 OpenAI 계정 폐쇄 및 안전상의 이유로 인한 일시 정지를 참조하세요.
GPT와 관련된 조치
OpenAI는 GPT와 관련하여 잠재적으로 문제가 있는 콘텐츠를 식별하기 위해 자동화된 도구도 사용합니다. GPT가 OpenAI 정책을 위반할 가능성이 있는 경우, OpenAI는 해당 GPT의 배포를 제한할 수 있습니다.
GPT 빌더는 문제를 해결하기 위해 GPT 또는 API 구성을 업데이트할 수 있습니다. 제품 내 이의 제기 기능을 사용할 수 있는 경우, 빌더는 이 기능을 통해 검토를 요청할 수 있습니다. 특히 심각한 경우 OpenAI는 GPT 빌더의 계정을 영구 폐쇄할 수도 있습니다.
문제가 있는 콘텐츠 신고하기
OpenAI의 정책을 위반할 수 있다고 생각되는 콘텐츠 또는 그 밖에 안전 문제가 우려되는 콘텐츠를 신고할 수 있습니다. OpenAI는 자동화된 시스템과 숙련된 검토 담당자를 통해 제출된 신고를 평가합니다.
ChatGPT에 직접 표시된 콘텐츠의 경우 ChatGPT 및 OpenAI 플랫폼에서 콘텐츠 신고하기를 참조하세요.
공유된 ChatGPT 대화의 경우 공유 링크에서 유해하거나 불법적인 콘텐츠 신고하기를 참조하세요.
GPT의 경우 GPT 신고하기를 참조하세요.
누군가 즉각적인 위험에 처해 있을 가능성이 있다면 현지 응급 서비스에 연락하세요. OpenAI에 콘텐츠를 신고하는 것은 응급 지원을 대신할 수 없습니다.