OpenAI 使用 SynthID 浮水印和內容憑證（C2PA）等來源信號，協助使用者判斷內容是否由 OpenAI 工具生成。來源信號可作為判斷內容來源的實用指標，但無法保證內容準確、未經編輯、為合法持有，或是在正確的脈絡下呈現。
C2PA 標準是什麼？它能實現哪些功能？
C2PA 是一項開放技術標準，讓出版商、企業和其他單位能在媒體中嵌入中繼資料，以驗證其來源和相關資訊。C2PA 並非只適用於 AI 生成的內容。相機製造商、新聞機構等也正採用相同標準，以驗證媒體內容的來源與歷程，也就是其來源資訊。
C2PA 中繼資料可包含建立檔案的工具或服務、建立時間，以及其他有關檔案來源或歷程的詳細資訊。
進一步瞭解 C2PA。
SynthID 是什麼？它能實現哪些功能？
SynthID 是一種隱形浮水印技術，可將信號直接嵌入生成的媒體中。與中繼資料不同，這種信號是內容本身的一部分，經過某些編輯或轉換後仍可能保留。
除了 C2PA 中繼資料外，SynthID 還能提供額外的來源信號。例如，即使檔案中的中繼資料遭到移除，嵌入式浮水印仍可能提供信號，顯示內容是使用受支援的 OpenAI 工具生成。
哪些類型的 OpenAI 生成內容包含來源信號？
OpenAI 會針對不同的內容類型使用不同的來源信號。
| 內容類型 | 來源信號 | 備註 |
|---|---|---|
| 圖片 | C2PA 中繼資料與 SynthID 浮水印 | 使用 ChatGPT、Codex 和 OpenAI API 生成且受支援的圖片會包含這兩種信號。 |
| 音訊 | SynthID 浮水印 | 由 OpenAI 生成且受支援的音訊，會在音訊本身嵌入人耳無法聽見的浮水印。 |
涵蓋範圍可能因產品、模型、匯出途徑、檔案類型及內容建立時間而異。
為什麼有些內容類型會使用不同的來源信號？
不同的媒體格式會以不同方式保留來源資訊。
C2PA 內容憑證等中繼資料可包含更詳細的資訊，但有時可能會被平台、編輯工具或檔案轉換程序移除。
SynthID 等浮水印會嵌入生成的媒體本身，因此經過某些轉換後可能更容易保留。不過，浮水印所提供的背景資訊通常少於中繼資料。
在技術可行的情況下，視需要同時採用這兩種方法，有助於提供更可靠的來源信號。
如何為使用 OpenAI 工具生成的圖片加入可見浮水印？
你可以在提示中要求模型，為使用 ChatGPT、Codex 和 OpenAI API 生成的圖片加入可見聲明。例如，生成圖片時可以說：「在圖片中加入可見的 OpenAI 浮水印。」
可見浮水印與 C2PA 中繼資料和 SynthID 浮水印等嵌入式來源信號是不同的機制。可見浮水印可協助觀看者辨識圖片是否由 OpenAI 工具生成，但它與機器可讀的來源信號並不相同。
如何確認內容是否由 OpenAI 工具生成？
你可以前往 openai.com/verify，檢查受支援的圖片或音訊檔案是否含有與 OpenAI 工具生成或匯出內容相關的來源信號。
上傳受支援的檔案後，此工具會尋找受支援的 OpenAI 來源信號，例如 SynthID 浮水印，或與 OpenAI 相關且可信任的 C2PA 資訊清單。
如果工具找到受支援的 OpenAI 來源信號，表示該內容是由 OpenAI 工具生成或匯出。
驗證結果代表什麼？
如果偵測到信號，此工具可協助確認上傳的內容含有與 OpenAI 相關且受支援的來源信號。
此工具無法確認內容是否準確、未經編輯、為合法持有，或是在正確的脈絡下呈現。它也不會識別內容的建立者或建立原因。
如果找不到信號，代表什麼？
如果未偵測到信號，表示工具在上傳的檔案中找不到 OpenAI 發出的來源信號。
在下列情況下，內容仍可能是由 OpenAI 生成或匯出：
內容是在來源信號推出前建立的。
內容來自不受支援的產品、模型、匯出途徑或檔案類型。
中繼資料在上傳、下載、編輯、轉換或分享期間遭到移除。
浮水印因壓縮、裁切、雜訊、編輯、格式轉換或其他處理而受損。
音訊片段太短或經過大幅修改。
你們是否計劃支援文字輸出？
為履行我們依據歐盟執委會《AI 生成內容透明度實務守則》所做的承諾，我們的目標是將來源信號擴展到包括文字在內的所有模態。隨著標準與工具日益成熟，客戶和開發人員將能以明確方式履行自身的透明度義務。
OpenAI Verify 能偵測其他 AI 工具生成的內容嗎？
OpenAI Verify 旨在偵測與 OpenAI 工具生成或匯出的內容相關，且受支援的來源信號。
它並非用於偵測其他 AI 服務生成的內容；若相關信號遺失、不受支援或品質降低，也可能無法偵測由 OpenAI 生成的內容。
開發人員可以透過 API 驗證內容嗎？
開發人員和組織可以使用 OpenAI 的驗證 API，檢查受支援內容中的 OpenAI 來源信號，並將驗證功能整合至自己的應用程式或工作流程。如需 API 存取資訊，請前往 openai.com/verify。需要更高用量上限的組織可以申請提高上限。如需更多資訊，請前往 openai.com/verify。