OpenAI sử dụng các tín hiệu nguồn gốc như hình mờ SynthID và Thông tin xác thực nội dung (C2PA) để giúp mọi người biết liệu nội dung có được tạo bằng các công cụ của OpenAI hay không. Tín hiệu nguồn gốc có thể là chỉ dấu hữu ích về xuất xứ, nhưng không đảm bảo rằng nội dung là chính xác, chưa qua chỉnh sửa, thuộc quyền sở hữu hợp pháp hoặc được trình bày đúng ngữ cảnh.
Tiêu chuẩn C2PA là gì và có tác dụng gì?
C2PA là một tiêu chuẩn kỹ thuật mở, cho phép các nhà xuất bản, doanh nghiệp và những bên khác nhúng siêu dữ liệu vào nội dung đa phương tiện để xác minh nguồn gốc và thông tin liên quan. C2PA không chỉ dành cho nội dung do AI tạo ra. Tiêu chuẩn này cũng đang được các nhà sản xuất máy ảnh, tổ chức tin tức và những bên khác áp dụng để chứng nhận nguồn gốc và quá trình hình thành, hay thông tin xuất xứ, của nội dung đa phương tiện.
Siêu dữ liệu C2PA có thể bao gồm những thông tin như công cụ hoặc dịch vụ đã tạo tệp, thời điểm tạo và các chi tiết khác về nguồn gốc hoặc quá trình hình thành của tệp.
Tìm hiểu thêm về C2PA.
SynthID là gì và có tác dụng gì?
SynthID là công nghệ tạo hình mờ vô hình, nhúng tín hiệu trực tiếp vào nội dung đa phương tiện được tạo ra. Không giống siêu dữ liệu, tín hiệu này là một phần của chính nội dung và có thể vẫn tồn tại sau một số thao tác chỉnh sửa hoặc biến đổi.
SynthID cung cấp thêm một tín hiệu nguồn gốc bên cạnh siêu dữ liệu C2PA. Ví dụ: nếu siêu dữ liệu bị xóa khỏi một tệp, hình mờ được nhúng vẫn có thể cung cấp tín hiệu cho biết nội dung đã được tạo bằng các công cụ OpenAI được hỗ trợ.
Những loại nội dung nào do OpenAI tạo có tín hiệu nguồn gốc?
OpenAI sử dụng các tín hiệu nguồn gốc khác nhau cho từng loại nội dung.
| Loại nội dung | Tín hiệu nguồn gốc | Ghi chú |
|---|---|---|
| Hình ảnh | Siêu dữ liệu C2PA và hình mờ SynthID | Các hình ảnh được hỗ trợ, tạo bằng ChatGPT, Codex và API OpenAI, đều có cả hai tín hiệu. |
| Âm thanh | Hình mờ SynthID | Nội dung âm thanh được hỗ trợ do OpenAI tạo có một hình mờ không nghe thấy được nhúng trực tiếp vào âm thanh. |
Phạm vi hỗ trợ có thể khác nhau tùy theo sản phẩm, mô hình, phương thức xuất, loại tệp và thời điểm tạo nội dung.
Tại sao một số loại nội dung lại sử dụng các tín hiệu nguồn gốc khác nhau?
Các định dạng đa phương tiện khác nhau lưu giữ thông tin nguồn gốc theo những cách khác nhau.
Siêu dữ liệu, chẳng hạn như Thông tin xác thực nội dung C2PA, có thể chứa thông tin chi tiết hơn nhưng đôi khi bị nền tảng, công cụ chỉnh sửa hoặc quá trình chuyển đổi tệp xóa bỏ.
Hình mờ, chẳng hạn như SynthID, được nhúng vào chính nội dung đa phương tiện được tạo ra và có thể bền vững hơn qua một số phép biến đổi. Tuy nhiên, hình mờ thường cung cấp ít thông tin ngữ cảnh hơn siêu dữ liệu.
Khi khả thi về mặt kỹ thuật, việc kết hợp cả hai phương pháp trong trường hợp phù hợp sẽ giúp cung cấp tín hiệu nguồn gốc đáng tin cậy hơn.
Làm cách nào để thêm hình mờ hiển thị vào hình ảnh được tạo bằng các công cụ OpenAI?
Bạn có thể yêu cầu thêm thông tin công khai hiển thị trên hình ảnh được tạo bằng ChatGPT, Codex và API OpenAI bằng cách đưa yêu cầu đó vào câu lệnh cho mô hình. Ví dụ: khi tạo hình ảnh, bạn có thể nhập: “Include a visible OpenAI watermark in the image.”
Hình mờ hiển thị tách biệt với các tín hiệu nguồn gốc được nhúng như siêu dữ liệu C2PA và hình mờ SynthID. Hình mờ hiển thị có thể giúp người xem nhận biết hình ảnh được tạo bằng các công cụ OpenAI, nhưng không giống với tín hiệu nguồn gốc mà máy có thể đọc được.
Làm cách nào để kiểm tra xem nội dung có được tạo bằng các công cụ OpenAI hay không?
Bạn có thể truy cập openai.com/verify để kiểm tra xem hình ảnh hoặc tệp âm thanh được hỗ trợ có chứa tín hiệu nguồn gốc liên quan đến nội dung do các công cụ OpenAI tạo hoặc xuất hay không.
Sau khi bạn tải lên một tệp được hỗ trợ, công cụ sẽ tìm các tín hiệu nguồn gốc OpenAI được hỗ trợ, chẳng hạn như hình mờ SynthID hoặc tệp cấu hình C2PA đáng tin cậy liên quan đến OpenAI.
Nếu công cụ tìm thấy tín hiệu nguồn gốc OpenAI được hỗ trợ, điều đó cho biết nội dung đã được các công cụ OpenAI tạo hoặc xuất.
Kết quả xác minh có ý nghĩa gì?
Nếu phát hiện tín hiệu, công cụ có thể giúp xác nhận rằng nội dung đã tải lên chứa tín hiệu nguồn gốc được hỗ trợ có liên quan đến OpenAI.
Công cụ không xác nhận rằng nội dung là chính xác, chưa qua chỉnh sửa, thuộc quyền sở hữu hợp pháp hoặc được trình bày đúng ngữ cảnh. Công cụ cũng không xác định ai đã tạo nội dung hoặc lý do tạo nội dung đó.
Nếu không tìm thấy tín hiệu thì sao?
Nếu không phát hiện tín hiệu, điều đó có nghĩa là công cụ không tìm thấy tín hiệu nguồn gốc do OpenAI cung cấp trong tệp đã tải lên.
Nội dung vẫn có thể đã được OpenAI tạo hoặc xuất nếu:
Nội dung được tạo trước khi có các tín hiệu nguồn gốc.
Nội dung đến từ sản phẩm, mô hình, phương thức xuất hoặc loại tệp không được hỗ trợ.
Siêu dữ liệu đã bị loại bỏ trong quá trình tải lên, tải xuống, chỉnh sửa, chuyển đổi hoặc chia sẻ.
Hình mờ bị suy giảm do nén, cắt xén, nhiễu, chỉnh sửa, chuyển đổi định dạng hoặc các phép biến đổi khác.
Đoạn âm thanh quá ngắn hoặc đã bị chỉnh sửa đáng kể.
OpenAI có kế hoạch hỗ trợ nội dung đầu ra dạng văn bản không?
Phù hợp với các cam kết của chúng tôi theo Bộ quy tắc thực hành của Ủy ban Châu Âu về tính minh bạch của nội dung do AI tạo, mục tiêu của chúng tôi là mở rộng tín hiệu nguồn gốc sang mọi phương thức, bao gồm cả văn bản, để khách hàng và nhà phát triển có những cách thức rõ ràng nhằm đáp ứng nghĩa vụ minh bạch của riêng họ khi các tiêu chuẩn và công cụ tiếp tục hoàn thiện.
OpenAI Verify có thể phát hiện nội dung từ các công cụ AI khác không?
OpenAI Verify được thiết kế để phát hiện các tín hiệu nguồn gốc được hỗ trợ, liên quan đến nội dung do các công cụ OpenAI tạo hoặc xuất.
Công cụ này không được thiết kế để phát hiện nội dung do các dịch vụ AI khác tạo ra và cũng có thể không phát hiện được nội dung do OpenAI tạo nếu tín hiệu liên quan bị thiếu, không được hỗ trợ hoặc đã suy giảm.
Nhà phát triển có thể xác minh nội dung bằng API không?
Nhà phát triển và tổ chức có thể sử dụng API xác minh của OpenAI để kiểm tra tín hiệu nguồn gốc OpenAI trong nội dung được hỗ trợ và tích hợp tính năng xác minh vào ứng dụng hoặc quy trình làm việc của riêng mình. Truy cập openai.com/verify để biết thông tin về quyền truy cập API. Các tổ chức cần hạn mức sử dụng cao hơn có thể đăng ký tăng hạn mức. Vui lòng truy cập openai.com/verify để biết thêm thông tin.