OpenAI는 적용되는 EU AI 법의 요구사항을 준수하는 모델을 개발하고, 고객이 자체적인 규정 준수에 필요한 정보를 확인할 수 있도록 지원하기 위해 최선을 다하고 있습니다. 이 페이지는 도움이 되는 정보와 자료를 추가하여 정기적으로 업데이트할 예정입니다.
이 문서는 일반적인 정보 제공을 위한 것이며 법률 자문이 아닙니다. 고객, 개발자 및 사용자는 자신에게 적용되는 법적 의무를 판단하고 이를 준수할 책임이 있습니다.
EU AI 법에 대한 OpenAI의 접근 방식
EU AI 법안의 실천 강령 지지를 포함하여 책임감 있는 AI 거버넌스에 대한 OpenAI의 접근 방식에 대한 자세한 내용은 블로그 게시물 Advancing Responsible AI Across Europe(유럽 전역의 책임감 있는 AI 발전)에서 확인하실 수 있습니다.
OpenAI는 또한 프런티어 거버넌스 프레임워크를 공개했으며, 이 문서에서는 EU AI 법의 범용 AI 실행 규범을 비롯한 새로운 법적 요구사항에 맞춰 OpenAI의 안전 및 보안 관행을 어떻게 운영하고 있는지 설명합니다. 프런티어 거버넌스 프레임워크는 준비성 평가 프레임워크를 기반으로 하며, 준비성 평가 프레임워크에서는 고도화된 AI 시스템으로 인해 발생할 수 있는 중대한 위험을 OpenAI가 어떻게 평가하고 관리하는지 설명합니다.
OpenAI의 안전성 접근 방식에 대해 자세히 알아보려면 시스템 카드, 안전성 평가 정보 및 기타 기술 업데이트를 제공하는 안전 정책과 배포 안전 허브를 참조하세요.
EU AI 법에서 금지하는 행위
EU AI 법 제5조는 용인할 수 없는 수준의 위험을 초래하는 특정 AI 활용을 금지합니다. OpenAI는 이러한 위험을 방지하기 위한 기술적 보호 장치를 마련하고 있으며, 고객, 개발자 및 사용자도 적용되는 법률을 준수하고, EU AI 법이 적용되는 경우 해당 법에서 금지하는 AI 활용을 피할 것으로 기대합니다.
다음을 포함하여 EU AI 법에서 금지하는 행위에 OpenAI 서비스를 사용해서는 안 됩니다.
잠재의식에 영향을 주거나, 사람을 조작하거나, 기만적인 기법을 사용해 사람의 행동을 크게 왜곡하고 피해를 초래할 가능성이 있는 방식으로 AI를 사용하는 행위
연령, 장애 또는 사회적·경제적 상황과 관련된 취약성을 포함해 개인이나 집단의 취약성을 악용하여 심각한 피해를 초래할 가능성이 있는 방식으로 AI를 사용하는 행위
개인이나 집단에 사회적 점수를 부여하여 정당한 근거가 없거나, 비례성을 벗어나거나, 관련성이 없는 불리한 대우를 초래하는 행위
프로파일링이나 성격 특성만을 근거로 개인이 범죄를 저지를 위험을 평가하는 행위
인터넷이나 CCTV 영상에서 얼굴 이미지를 무차별적으로 수집하여 얼굴 인식 데이터베이스를 구축하거나 확대하는 행위
의료 또는 안전과 관련된 예외가 적용되는 경우를 제외하고, 직장이나 교육 환경에서 사람의 감정을 추론하는 행위
법에서 제한적으로 허용하는 경우를 제외하고, 생체 인식 데이터를 사용해 사람을 분류하고 이를 바탕으로 인종, 정치적 견해, 노동조합 가입 여부, 종교, 성생활 또는 성적 지향과 같은 민감한 특성을 추론하는 행위
법에서 제한적으로 허용하는 경우를 제외하고, 법 집행을 목적으로 공개된 장소에서 실시간 원격 생체 인식 식별을 수행하는 행위
OpenAI 서비스를 사용할 수 있는 방식에 대한 자세한 내용은 사용 정책 및 약관 및 정책을 참조하세요. 유럽연합 집행위원회도 자체적인 법적 의무를 판단하는 데 도움이 될 수 있는 금지된 행위에 관한 지침을 공개했습니다.
투명성 및 학습 데이터 요약
OpenAI는 EU AI 법 제53조 제1항 (d)에 따른 의무에 따라 범용 AI 모델 학습에 사용된 콘텐츠에 대한 요약을 공개합니다.
콘텐츠 출처 및 AI 생성 콘텐츠
OpenAI는 콘텐츠가 OpenAI 모델을 통해 생성되었거나 편집되었는지를 사람들이 더 쉽게 알 수 있도록 노력하고 있습니다. OpenAI는 콘텐츠 출처를 확인하기 위해 Content Credentials(C2PA), C2PA 적합성, SynthID, 이미지 및 오디오용 비가시 워터마킹, 공개 검증 도구 등을 포함한 다층적인 접근 방식을 사용합니다.
이러한 신호와 도구는 콘텐츠의 출처와 해당 콘텐츠가 OpenAI 모델 시스템에서 생성되었는지 여부에 대한 추가 정보를 제공하도록 설계되었습니다. 어떠한 단일 출처 확인 방식이나 탐지 방법도 완벽하지 않으며, 출처 신호는 제거되거나 편집 또는 플랫폼 변경 과정에서 유지되지 않을 수 있습니다. 이러한 이유로 OpenAI는 표준, 워터마킹 및 검증 도구를 결합한 다층적인 접근 방식을 지원합니다.
출처 관련 의무의 규정 준수를 위한 OpenAI의 고객 지원 방식
이미지 및 오디오 출력 콘텐츠에는 C2PA 메타데이터나 SynthID 워터마크와 같은 출처 신호가 포함되어 있으며 고객은 별도의 투자 없이도 이러한 출처 신호를 쉽게 유지할 수 있습니다. 고객은 openai.com/verify 웹 포털 또는 Content Provenance API를 사용하여 이미지나 오디오 출력에 OpenAI 출처 신호가 포함되어 있는지 확인할 수 있습니다.
API 고객은 https://developers.openai.com의 프로젝트 또는 조직 설정에서 텍스트 출력에 워터마크를 적용할 수 있습니다. AI 생성 콘텐츠의 투명성에 관한 실천 강령에 따른 약속에 따라, 요건을 충족하는 사용 사례를 보유한 조직은 여기에서 텍스트 탐지기 액세스를 신청할 수 있습니다. AI 법에 따른 의무를 준수하기 위해 현재 텍스트 탐지기 액세스는 요건을 충족하는 사용 사례를 보유한 연구 중심 기관 등 한정된 일부 조직으로 제한됩니다.
출처 신호에 대한 자세한 내용은 Advancing content provenance for a safer, more transparent AI ecosystem(보다 안전하고 투명한 AI 생태계를 위한 콘텐츠 출처 강화) 및 도움말 센터 문서를 참조하세요.
문의
다음 사항에 대해서는 OpenAI의 EU AI Act 신고 양식을 통해 문의해 주세요.
관련 EU AI 법 모델 문서 요청을 포함한 EU AI 법 관련 고객 지원
범용 AI 모델 실행 규범의 저작권 장에 대한 OpenAI의 규정 준수와 관련된 불만 제기
보안 사고를 신고하려면 OpenAI의 협력적 취약점 공개 정책에 설명된 방법에 따라 암호화된 신고서를 제출하여 즉시 알려주세요.
신고 내용을 접수한 후 검토하며, 보내주신 의견이 OpenAI의 절차를 개선하는 데 어떻게 도움이 될 수 있을지 함께 검토하겠습니다.