OpenAI 使用 SynthID 浮水印和內容憑證（C2PA）等來源追溯訊號，協助人們瞭解內容是否由 OpenAI 工具生成。來源追溯訊號有助於判斷內容來源，但不能保證內容正確、未經編輯、具有合法所有權，或是在正確的脈絡中呈現。
什麼是 C2PA 標準？它能實現哪些功能？
C2PA 是一項開放技術標準，讓出版商、企業和其他單位可在媒體中嵌入中繼資料，以驗證其來源及相關資訊。C2PA 並非只適用於 AI 生成內容。相機製造商、新聞機構和其他單位也正採用同一套標準，用來證明媒體內容的來源和歷程，也就是其來源追溯資訊。
C2PA 中繼資料可包含建立檔案的工具或服務、建立時間，以及其他與其來源或歷程相關的詳細資訊。
進一步瞭解 C2PA。
什麼是 SynthID？它能實現哪些功能？
SynthID 是一種隱形浮水印技術，可將訊號直接嵌入生成的媒體中。與中繼資料不同，這種訊號是內容本身的一部分，經過某些編輯或轉換後仍可能保留。
除了 C2PA 中繼資料外，SynthID 還能提供額外的來源追溯訊號。例如，即使檔案中的中繼資料遭到移除，嵌入的浮水印仍可能表明內容是由支援的 OpenAI 工具生成。
哪些類型的 OpenAI 生成內容包含來源追溯訊號？
OpenAI 會針對不同內容類型使用不同的來源追溯訊號。
| 內容類型 | 來源追溯訊號 | 備註 |
|---|---|---|
| 圖片 | C2PA 中繼資料和 SynthID 浮水印 | 使用 ChatGPT、Codex 和 OpenAI API 生成的支援圖片包含這兩種訊號。 |
| 音訊 | SynthID 浮水印 | 支援的 OpenAI 生成音訊包含嵌入音訊本身且無法聽見的浮水印。 |
涵蓋範圍可能因產品、模型、匯出途徑、檔案類型和內容建立時間而異。
為什麼有些內容類型會使用不同的來源追溯訊號？
不同的媒體格式會以不同方式保留來源追溯資訊。
C2PA 內容憑證等中繼資料可攜帶更詳細的資訊，但有時可能會遭平台、編輯工具或檔案轉換程序移除。
SynthID 等浮水印會嵌入生成的媒體本身，因此經過某些轉換後可能更容易保留下來。不過，浮水印提供的脈絡通常比中繼資料少。
在技術可行且適當的情況下，同時採用兩種方法有助於提供更可靠的來源追溯訊號。
如何為使用 OpenAI 工具生成的圖片加上可見浮水印？
使用 ChatGPT、Codex 和 OpenAI API 生成圖片時，您可以在提示中要求模型加入可見標示。例如，生成圖片時可以說：「請在圖片中加入可見的 OpenAI 浮水印。」
可見浮水印與 C2PA 中繼資料和 SynthID 浮水印等嵌入式來源追溯訊號不同。可見浮水印或許能幫助觀看者辨識圖片是由 OpenAI 工具生成，但它們並不等同於機器可讀取的來源追溯訊號。
如何檢查內容是否由 OpenAI 工具生成？
您可以前往 openai.com/verify，檢查支援的圖片或音訊檔案是否含有與 OpenAI 工具生成或匯出內容相關的來源追溯訊號。
上傳支援的檔案後，該工具會尋找支援的 OpenAI 來源追溯訊號，例如 SynthID 浮水印或與 OpenAI 相關且受信任的 C2PA 資訊清單。
如果工具找到支援的 OpenAI 來源追溯訊號，即表示內容是由 OpenAI 工具生成或匯出。
驗證結果代表什麼？
如果偵測到訊號，該工具可協助確認上傳的內容含有與 OpenAI 相關且受支援的來源追溯訊號。
該工具無法確認內容是否正確、未經編輯、具有合法所有權，或是在正確的脈絡中呈現。它也無法識別內容的建立者或建立原因。
如果找不到訊號，該怎麼辦？
如果未偵測到訊號，表示工具在上傳的檔案中找不到 OpenAI 發出的來源追溯訊號。
在下列情況下，內容仍可能是由 OpenAI 生成或匯出：
內容是在來源追溯訊號推出前建立。
內容來自不支援的產品、模型、匯出途徑或檔案類型。
中繼資料在上傳、下載、編輯、轉換或分享期間遭到移除。
浮水印因壓縮、裁剪、雜訊、編輯、格式轉換或其他處理而受損。
音訊片段太短或經過大幅修改。
是否計畫支援文字輸出？
根據歐盟執委會《AI 生成內容透明度實務守則》所做的承諾，我們的目標是將來源追溯訊號擴展至包括文字在內的所有模態。如此一來，隨著標準和工具日益成熟，客戶和開發者便能以明確方式履行自身的透明度義務。
OpenAI Verify 能偵測其他 AI 工具生成的內容嗎？
OpenAI Verify 旨在偵測與 OpenAI 工具生成或匯出內容相關且受支援的來源追溯訊號。
它並非用於偵測其他 AI 服務生成的內容；若相關訊號缺失、不受支援或已受損，也可能無法偵測 OpenAI 生成的內容。
開發者可以使用 API 驗證內容嗎？
開發者和組織可以使用 OpenAI 的驗證 API，檢查支援的內容是否含有 OpenAI 來源追溯訊號，並將驗證功能整合至自己的應用程式或工作流程。如需 API 存取資訊，請造訪 openai.com/verify。需要較高用量上限的組織可以申請提高上限。如需更多資訊，請造訪 openai.com/verify。