C2PA 표준이란 무엇이며, 무엇을 가능하게 하나요?
C2PA는 게시자, 기업 등 다양한 주체가 미디어에 메타데이터를 삽입하여 그 출처와 관련 정보를 검증할 수 있게 해주는 개방형 기술 표준입니다. C2PA는 AI 생성 이미지에만 해당하는 것이 아니라, 카메라 제조사, 뉴스 조직 등도 미디어 콘텐츠의 출처와 이력(또는 프로비넌스)을 인증하기 위해 동일한 표준을 채택하고 있습니다.
OpenAI의 C2PA 구현은 무엇인가요?
웹에서의 ChatGPT와 DALL·E 3 모델을 제공하는 API로 생성된 이미지에는 이제 C2PA 메타데이터가 포함됩니다. 사람들은 Content Credentials Verify 같은 사이트를 사용해 이미지가 ChatGPT로 생성되었는지, 또는 OpenAI 도구를 통해 DALL·E 3 모델로 생성되었는지 확인할 수 있습니다. 메타데이터가 제거되지 않았다면, 이는 해당 이미지가 우리 API 또는 ChatGPT를 통해 생성되었음을 나타냅니다.
C2PA 같은 메타데이터가 출처(provenance) 문제를 해결하는 만능 해법은 아닙니다. 실수로든 의도적으로든 쉽게 제거될 수 있습니다. 예를 들어, 오늘날 대부분의 소셜 미디어 플랫폼은 업로드된 이미지에서 메타데이터를 제거하며, 스크린샷을 찍는 같은 작업도 메타데이터를 제거할 수 있습니다. 따라서 이 메타데이터가 없는 이미지가 ChatGPT나 우리 API로 생성되었을 수도, 아닐 수도 있습니다.
우리는 출처를 확립하는 이러한 방법을 채택하고, 사용자가 이러한 신호를 인지하도록 장려하는 것이 디지털 정보의 신뢰도를 높이는 데 핵심이라고 믿습니다.
생성된 이미지에는 어떤 메타데이터가 삽입되나요?
아래에서 예시를 확인할 수 있습니다:
API를 통해 생성된 이미지
API를 통해 생성된 이미지에는 기반이 되는 DALL·E 3 모델에 의해 생성되었음을 나타내는 서명이 포함됩니다.
ChatGPT를 통해 생성된 이미지
ChatGPT 내에서 생성된 이미지에는 콘텐츠가 ChatGPT를 사용해 만들어졌음을 나타내는 추가 매니페스트가 포함됩니다. 아래와 같이 이중 출처 계보(dual-provenance lineage)가 생성됩니다.
파트 1 (이미지가 ChatGPT에서 노출되었음을 알리는 두 번째 메타데이터 매니페스트)
파트 2 (이미지가 DALL-E 3를 사용해 생성되었음을 알리는 최초 메타데이터 매니페스트)
