Playground를 사용해 텍스트를 생성하면, 잠재적으로 민감하거나 안전하지 않은 출력을 감지하는 데 도움이 되도록 콘텐츠가 OpenAI의 모더레이션 시스템에서 자동으로 검사됩니다.
즉, 일부 안전한 출력이 가끔 안전하지 않은 것으로 오분류될 수 있습니다.
이는 실제로 유해한 콘텐츠를 놓칠 위험을 줄이는 데 도움이 되지만, 오탐이 발생할 수도 있습니다.
출력이 오분류된 경우 해야 할 일
Playground에서 안전한 출력을 잘못 표시했다고 생각되면:
모더레이션 경고 옆의 싫어요 아이콘을 클릭하세요.
원하시면 선택 사항인 피드백을 추가로 입력하세요.
우리가 신중함을 우선하는 이유
모더레이션 시스템은 유해한 콘텐츠를 놓칠 가능성을 최소화하도록 조정되어 있습니다.
실제로 안전하지 않은 응답을 놓치기보다 조금 과하게라도 잡아내는 편이 더 낫습니다.