OpenAI sử dụng các tín hiệu nguồn gốc như hình mờ SynthID và Content Credentials (C2PA) để giúp mọi người biết liệu nội dung có được tạo bằng các công cụ OpenAI hay không. Tín hiệu nguồn gốc có thể là chỉ dấu hữu ích về xuất xứ, nhưng không đảm bảo rằng nội dung chính xác, chưa qua chỉnh sửa, thuộc quyền sở hữu hợp pháp hoặc được trình bày đúng ngữ cảnh.
Tiêu chuẩn C2PA là gì và mang lại khả năng nào?
C2PA là một tiêu chuẩn kỹ thuật mở, cho phép các nhà xuất bản, doanh nghiệp và những tổ chức khác nhúng siêu dữ liệu vào nội dung đa phương tiện để xác minh nguồn gốc cùng thông tin liên quan. C2PA không chỉ dành cho nội dung do AI tạo ra. Các nhà sản xuất máy ảnh, tổ chức tin tức và nhiều bên khác cũng đang áp dụng tiêu chuẩn này để chứng nhận nguồn gốc và lịch sử của nội dung đa phương tiện.
Siêu dữ liệu C2PA có thể bao gồm thông tin như công cụ hoặc dịch vụ đã tạo tệp, thời điểm tệp được tạo và các chi tiết khác về nguồn gốc hoặc lịch sử của tệp.
Tìm hiểu thêm về C2PA.
SynthID là gì và công nghệ này mang lại khả năng nào?
SynthID là công nghệ tạo hình mờ vô hình, nhúng tín hiệu trực tiếp vào nội dung đa phương tiện được tạo ra. Khác với siêu dữ liệu, tín hiệu này là một phần của chính nội dung và có thể vẫn tồn tại sau một số thao tác chỉnh sửa hoặc biến đổi.
SynthID cung cấp thêm một tín hiệu nguồn gốc bên cạnh siêu dữ liệu C2PA. Ví dụ: nếu siêu dữ liệu bị xóa khỏi tệp, hình mờ được nhúng vẫn có thể cung cấp tín hiệu cho biết nội dung được tạo bằng các công cụ OpenAI được hỗ trợ.
Những loại nội dung nào do OpenAI tạo có chứa tín hiệu nguồn gốc?
OpenAI sử dụng các tín hiệu nguồn gốc khác nhau cho từng loại nội dung.
| Loại nội dung | Tín hiệu nguồn gốc | Ghi chú |
|---|---|---|
| Hình ảnh | Siêu dữ liệu C2PA và hình mờ SynthID | Các hình ảnh được hỗ trợ và tạo bằng ChatGPT, Codex cùng API OpenAI đều chứa cả hai tín hiệu. |
| Âm thanh | Hình mờ SynthID | Âm thanh được hỗ trợ và do OpenAI tạo có chứa hình mờ không nghe thấy được, nhúng trong chính âm thanh. |
Phạm vi áp dụng có thể khác nhau tùy theo sản phẩm, mô hình, cách xuất, loại tệp và thời điểm tạo nội dung.
Tại sao một số loại nội dung sử dụng các tín hiệu nguồn gốc khác nhau?
Mỗi định dạng đa phương tiện lưu giữ thông tin nguồn gốc theo cách khác nhau.
Siêu dữ liệu, chẳng hạn như Content Credentials C2PA, có thể chứa thông tin chi tiết hơn nhưng đôi khi bị nền tảng, công cụ chỉnh sửa hoặc quá trình chuyển đổi tệp loại bỏ.
Hình mờ, chẳng hạn như SynthID, được nhúng vào chính nội dung đa phương tiện được tạo ra và có thể bền vững hơn sau một số biến đổi. Tuy nhiên, hình mờ thường cung cấp ít thông tin ngữ cảnh hơn siêu dữ liệu.
Khi khả thi về mặt kỹ thuật, việc kết hợp cả hai phương pháp trong trường hợp phù hợp sẽ giúp cung cấp tín hiệu nguồn gốc đáng tin cậy hơn.
Làm cách nào để thêm hình mờ hiển thị vào hình ảnh được tạo bằng các công cụ OpenAI?
Bạn có thể yêu cầu thêm thông báo hiển thị trên hình ảnh được tạo bằng ChatGPT, Codex và API OpenAI bằng cách đưa yêu cầu này vào câu lệnh cho mô hình. Ví dụ: khi tạo hình ảnh, bạn có thể nhập: “Include a visible OpenAI watermark in the image.”
Hình mờ hiển thị tách biệt với các tín hiệu nguồn gốc được nhúng như siêu dữ liệu C2PA và hình mờ SynthID. Hình mờ hiển thị có thể giúp người xem nhận biết hình ảnh được tạo bằng các công cụ OpenAI, nhưng không giống với tín hiệu nguồn gốc mà máy có thể đọc được.
Làm cách nào để kiểm tra nội dung có được tạo bằng các công cụ OpenAI hay không?
Bạn có thể truy cập openai.com/verify để kiểm tra xem hình ảnh hoặc tệp âm thanh được hỗ trợ có chứa tín hiệu nguồn gốc liên quan đến nội dung do các công cụ OpenAI tạo hoặc xuất hay không.
Sau khi bạn tải lên một tệp được hỗ trợ, công cụ sẽ tìm các tín hiệu nguồn gốc OpenAI được hỗ trợ, chẳng hạn như hình mờ SynthID hoặc tệp cấu hình C2PA đáng tin cậy liên quan đến OpenAI.
Nếu tìm thấy tín hiệu nguồn gốc OpenAI được hỗ trợ, công cụ sẽ cho biết nội dung đó được tạo hoặc xuất từ các công cụ OpenAI.
Kết quả xác minh có ý nghĩa gì?
Nếu phát hiện tín hiệu, công cụ có thể giúp xác nhận rằng nội dung đã tải lên chứa tín hiệu nguồn gốc được hỗ trợ và có liên quan đến OpenAI.
Công cụ không xác nhận rằng nội dung chính xác, chưa qua chỉnh sửa, thuộc quyền sở hữu hợp pháp hoặc được trình bày đúng ngữ cảnh. Công cụ cũng không xác định ai đã tạo nội dung hoặc lý do tạo nội dung đó.
Nếu không tìm thấy tín hiệu thì sao?
Nếu không phát hiện tín hiệu, điều đó có nghĩa là công cụ không tìm thấy tín hiệu nguồn gốc do OpenAI cung cấp trong tệp đã tải lên.
Nội dung vẫn có thể đã được OpenAI tạo hoặc xuất nếu:
Nội dung được tạo trước khi tín hiệu nguồn gốc được cung cấp.
Nội dung đến từ sản phẩm, mô hình, cách xuất hoặc loại tệp không được hỗ trợ.
Siêu dữ liệu bị loại bỏ trong quá trình tải lên, tải xuống, chỉnh sửa, chuyển đổi hoặc chia sẻ.
Hình mờ bị suy giảm do nén, cắt xén, nhiễu, chỉnh sửa, chuyển đổi định dạng hoặc các biến đổi khác.
Đoạn âm thanh quá ngắn hoặc đã bị chỉnh sửa đáng kể.
OpenAI có kế hoạch hỗ trợ nội dung đầu ra dạng văn bản không?
Phù hợp với các cam kết của chúng tôi theo Bộ quy tắc thực hành của Ủy ban Châu Âu về tính minh bạch của nội dung do AI tạo ra, mục tiêu của chúng tôi là mở rộng tín hiệu nguồn gốc sang mọi phương thức, bao gồm cả văn bản, để khách hàng và nhà phát triển có những cách thức rõ ràng nhằm đáp ứng nghĩa vụ minh bạch của mình khi các tiêu chuẩn và công cụ tiếp tục hoàn thiện.
OpenAI Verify có thể phát hiện nội dung từ các công cụ AI khác không?
OpenAI Verify được thiết kế để phát hiện các tín hiệu nguồn gốc được hỗ trợ liên quan đến nội dung do các công cụ OpenAI tạo hoặc xuất.
Công cụ này không được thiết kế để phát hiện nội dung do các dịch vụ AI khác tạo ra và cũng có thể không phát hiện được nội dung do OpenAI tạo nếu tín hiệu liên quan bị thiếu, không được hỗ trợ hoặc suy giảm.
Nhà phát triển có thể xác minh nội dung bằng API không?
Các nhà phát triển và tổ chức có thể dùng API xác minh của OpenAI để kiểm tra tín hiệu nguồn gốc OpenAI trong nội dung được hỗ trợ, đồng thời tích hợp tính năng xác minh vào ứng dụng hoặc quy trình làm việc của mình. Truy cập openai.com/verify để biết thông tin về quyền truy cập API. Các tổ chức cần hạn mức sử dụng cao hơn có thể đăng ký tăng hạn mức. Vui lòng truy cập openai.com/verify để biết thêm thông tin.