OpenAI از نشانههای منشأ، مانند واترمارکهای SynthID و اعتبارنامههای محتوا (C2PA)، استفاده میکند تا افراد بتوانند تشخیص دهند آیا محتوا با ابزارهای OpenAI تولید شده است یا خیر. نشانههای منشأ میتوانند شاخصهای مفیدی برای تشخیص منبع باشند، اما تضمین نمیکنند که محتوا دقیق، ویرایشنشده، دارای مالکیت قانونی یا در بافت درست ارائه شده باشد.
استاندارد C2PA چیست و چه امکاناتی فراهم میکند؟
C2PA استاندارد فنی بازی است که به ناشران، شرکتها و دیگران امکان میدهد برای تأیید منشأ رسانه و اطلاعات مرتبط با آن، فراداده را در فایلهای رسانهای درج کنند. C2PA فقط مختص محتوای تولیدشده با هوش مصنوعی نیست. سازندگان دوربین، سازمانهای خبری و دیگران نیز در حال پذیرش همین استاندارد هستند تا منبع و سابقه، یا همان منشأ، محتوای رسانهای را تأیید کنند.
فراداده C2PA میتواند شامل اطلاعاتی مانند ابزار یا سرویسی باشد که فایل را ایجاد کرده، زمان ایجاد آن و جزئیات دیگری درباره منشأ یا سابقه فایل.
درباره C2PA بیشتر بدانید.
SynthID چیست و چه امکاناتی فراهم میکند؟
SynthID فناوری واترمارکگذاری نامرئی است که نشانهای را مستقیماً در رسانه تولیدشده درج میکند. برخلاف فراداده، این نشانه بخشی از خود محتواست و ممکن است پس از برخی ویرایشها یا تغییرات نیز باقی بماند.
SynthID در کنار فراداده C2PA، نشانه منشأ دیگری نیز فراهم میکند. برای مثال، اگر فراداده از فایلی حذف شود، واترمارک تعبیهشده ممکن است همچنان نشان دهد که محتوا با ابزارهای پشتیبانیشده OpenAI تولید شده است.
کدام انواع محتوای تولیدشده با OpenAI دارای نشانههای منشأ هستند؟
OpenAI برای انواع مختلف محتوا از نشانههای منشأ متفاوتی استفاده میکند.
| نوع محتوا | نشانههای منشأ | توضیحات |
|---|---|---|
| تصاویر | فراداده C2PA و واترمارکهای SynthID | تصاویر پشتیبانیشدهای که با ChatGPT، Codex و API OpenAI تولید میشوند، هر دو نشانه را دارند. |
| صدا | واترمارکهای SynthID | فایلهای صوتی پشتیبانیشدهای که OpenAI تولید میکند، دارای واترمارکی غیرقابلشنیدن هستند که در خود صدا تعبیه شده است. |
دامنه پوشش ممکن است بسته به محصول، مدل، مسیر برونبری، نوع فایل و زمان ایجاد محتوا متفاوت باشد.
چرا برخی انواع محتوا از نشانههای منشأ متفاوتی استفاده میکنند؟
قالبهای رسانهای مختلف، اطلاعات منشأ را به شیوههای متفاوتی حفظ میکنند.
فراداده، مانند اعتبارنامههای محتوای C2PA، میتواند اطلاعات دقیقتری در خود داشته باشد، اما گاهی پلتفرمها، ابزارهای ویرایش یا تبدیل فایل آن را حذف میکنند.
واترمارکهایی مانند SynthID در خود رسانه تولیدشده تعبیه میشوند و ممکن است در برابر برخی تغییرات ماندگارتر باشند. بااینحال، واترمارکها معمولاً اطلاعات زمینهای کمتری نسبت به فراداده ارائه میکنند.
هرجا از نظر فنی امکانپذیر و مناسب باشد، استفاده همزمان از هر دو روش به ارائه نشانههای منشأ قویتر کمک میکند.
چگونه میتوانم به تصویری که با ابزارهای OpenAI تولید شده، واترمارک قابلمشاهده اضافه کنم؟
میتوانید با درخواست از مدل برای افزودن یک نشان قابلمشاهده، چنین نشانی را روی تصاویر تولیدشده با ChatGPT، Codex و API OpenAI قرار دهید. برای مثال، هنگام تولید تصویر میتوانید بگویید: «Include a visible OpenAI watermark in the image.»
واترمارکهای قابلمشاهده از نشانههای منشأ تعبیهشده، مانند فراداده C2PA و واترمارکهای SynthID، جدا هستند. این واترمارکها ممکن است به بینندگان کمک کنند تشخیص دهند که تصویر با ابزارهای OpenAI تولید شده، اما با نشانههای منشأ قابلخواندن برای ماشین یکسان نیستند.
چگونه بررسی کنم که محتوا با ابزارهای OpenAI تولید شده است؟
میتوانید به openai.com/verify مراجعه کنید تا ببینید آیا تصویر یا فایل صوتی پشتیبانیشده دارای نشانههای منشأ مرتبط با محتوای تولید یا برونبریشده توسط ابزارهای OpenAI است یا خیر.
پس از بارگذاری فایل پشتیبانیشده، ابزار بهدنبال نشانههای منشأ پشتیبانیشده OpenAI، مانند واترمارک SynthID یا اساس نامه معتبر C2PA مرتبط با OpenAI، میگردد.
اگر ابزار یکی از نشانههای منشأ پشتیبانیشده OpenAI را پیدا کند، یعنی محتوا با ابزارهای OpenAI تولید یا از آنها برونبری شده است.
نتیجه تأیید چه معنایی دارد؟
اگر نشانهای شناسایی شود، ابزار میتواند تأیید کند که محتوای بارگذاریشده دارای نشانه منشأ پشتیبانیشده و مرتبط با OpenAI است.
این ابزار تأیید نمیکند که محتوا دقیق، ویرایشنشده، دارای مالکیت قانونی یا در بافت درست ارائه شده است. همچنین مشخص نمیکند چه کسی محتوا را ساخته یا چرا آن را ساخته است.
اگر هیچ نشانهای پیدا نشود چه میشود؟
اگر نشانهای شناسایی نشود، یعنی ابزار در فایل بارگذاریشده هیچ نشانه منشأ صادرشدهای از سوی OpenAI پیدا نکرده است.
بااینحال، در موارد زیر ممکن است محتوا همچنان با OpenAI تولید یا از آن برونبری شده باشد:
محتوا پیش از فراهمشدن نشانههای منشأ ایجاد شده باشد.
محتوا از محصول، مدل، مسیر برونبری یا نوع فایل پشتیبانینشدهای آمده باشد.
فراداده هنگام بارگذاری، بارگیری، ویرایش، تبدیل یا اشتراکگذاری حذف شده باشد.
کیفیت واترمارک بر اثر فشردهسازی، برش، نویز، ویرایش، تبدیل قالب یا تغییرات دیگر کاهش یافته باشد.
قطعه صوتی بیشازحد کوتاه باشد یا تغییرات چشمگیری در آن ایجاد شده باشد.
آیا برنامهای برای پشتیبانی از خروجیهای متنی دارید؟
همسو با تعهداتمان ذیل آییننامه اجرایی کمیسیون اروپا درباره شفافیت محتوای تولیدشده با هوش مصنوعی، هدف ما گسترش نشانههای منشأ به همه شیوهها، از جمله متن، است تا همزمان با تکامل استانداردها و ابزارها، مشتریان و توسعهدهندگان راههای روشنی برای عمل به الزامات شفافیت خود داشته باشند.
آیا OpenAI Verify میتواند محتوای ابزارهای هوش مصنوعی دیگر را شناسایی کند؟
OpenAI Verify برای شناسایی نشانههای منشأ پشتیبانیشده مرتبط با محتوایی طراحی شده است که ابزارهای OpenAI آن را تولید یا برونبری کردهاند.
این ابزار برای شناسایی محتوای تولیدشده با دیگر سرویسهای هوش مصنوعی طراحی نشده است؛ همچنین اگر نشانه مربوط وجود نداشته باشد، پشتیبانی نشود یا آسیب دیده باشد، ممکن است محتوای تولیدشده با OpenAI را نیز شناسایی نکند.
آیا توسعهدهندگان میتوانند محتوا را از طریق API تأیید کنند؟
توسعهدهندگان و سازمانها میتوانند با API تأیید OpenAI، محتوای پشتیبانیشده را از نظر وجود نشانههای منشأ OpenAI بررسی و قابلیت تأیید را در برنامهها یا گردشکارهای خود ادغام کنند. برای اطلاع از نحوه دسترسی به API، به openai.com/verify مراجعه کنید. سازمانهایی که به سقف استفاده بالاتری نیاز دارند، میتوانند برای افزایش آن درخواست دهند. برای اطلاعات بیشتر، لطفاً به openai.com/verify مراجعه کنید.