OpenAI از نشانههای منشأ مانند واترمارکهای SynthID و اعتبارنامههای محتوا (C2PA) استفاده میکند تا افراد بتوانند تشخیص دهند آیا محتوا با ابزارهای OpenAI تولید شده است یا خیر. نشانههای منشأ میتوانند شاخصهای مفیدی برای تشخیص خاستگاه محتوا باشند، اما تضمین نمیکنند که محتوا دقیق، ویرایشنشده، دارای مالکیت قانونی یا در بافت درست ارائهشده باشد.
استاندارد C2PA چیست و چه امکاناتی فراهم میکند؟
C2PA استاندارد فنی بازی است که به ناشران، شرکتها و دیگران امکان میدهد برای تأیید خاستگاه رسانه و اطلاعات مرتبط، فراداده را در آن جاسازی کنند. C2PA فقط برای محتوای تولیدشده با هوش مصنوعی نیست. سازندگان دوربین، سازمانهای خبری و دیگران نیز در حال پذیرش همین استاندارد هستند تا منبع و تاریخچه یا همان منشأ محتوای رسانهای را تأیید کنند.
فراداده C2PA میتواند شامل اطلاعاتی مانند ابزار یا سرویس سازنده فایل، زمان ایجاد آن و جزئیات دیگری درباره خاستگاه یا تاریخچه آن باشد.
درباره C2PA بیشتر بدانید.
SynthID چیست و چه امکاناتی فراهم میکند؟
SynthID فناوری واترمارک نامرئی است که نشانهای را مستقیماً در رسانه تولیدشده جاسازی میکند. برخلاف فراداده، این نشانه بخشی از خود محتواست و ممکن است پس از برخی ویرایشها یا تغییرات نیز باقی بماند.
SynthID در کنار فراداده C2PA یک نشانه منشأ تکمیلی ارائه میدهد. برای مثال، اگر فراداده از فایلی حذف شود، واترمارک جاسازیشده ممکن است همچنان نشان دهد که محتوا با ابزارهای پشتیبانیشده OpenAI تولید شده است.
کدام انواع محتوای تولیدشده با OpenAI دارای نشانههای منشأ هستند؟
OpenAI برای انواع مختلف محتوا از نشانههای منشأ متفاوتی استفاده میکند.
| نوع محتوا | نشانههای منشأ | توضیحات |
|---|---|---|
| تصاویر | فراداده C2PA و واترمارکهای SynthID | تصاویر پشتیبانیشدهای که با ChatGPT، Codex و API OpenAI تولید میشوند، هر دو نشانه را دارند. |
| صدا | واترمارکهای SynthID | فایلهای صوتی پشتیبانیشده و تولیدشده با OpenAI دارای واترمارکی نامسموع هستند که در خود صدا جاسازی شده است. |
میزان پوشش ممکن است بسته به محصول، مدل، روش خروجیگرفتن، نوع فایل و زمان ایجاد محتوا متفاوت باشد.
چرا برخی انواع محتوا از نشانههای منشأ متفاوتی استفاده میکنند؟
قالبهای رسانهای مختلف، اطلاعات منشأ را به شیوههای متفاوتی حفظ میکنند.
فراداده، مانند اعتبارنامههای محتوای C2PA، میتواند اطلاعات دقیقتری در خود داشته باشد، اما گاهی پلتفرمها، ابزارهای ویرایش یا تبدیل فایل آن را حذف میکنند.
واترمارکهایی مانند SynthID در خود رسانه تولیدشده جاسازی میشوند و ممکن است در برابر برخی تغییرات ماندگارتر باشند. بااینحال، واترمارکها معمولاً نسبت به فراداده اطلاعات زمینهای کمتری ارائه میدهند.
در صورت امکان فنی، استفاده مناسب از هر دو روش به ارائه نشانههای منشأ قویتر کمک میکند.
چگونه میتوانم به تصویر تولیدشده با ابزارهای OpenAI واترمارک قابلمشاهده اضافه کنم؟
میتوانید با ارائه دستور به مدل، درخواست کنید نشانهای قابلمشاهده روی تصاویر تولیدشده با ChatGPT، Codex و API OpenAI درج شود. برای مثال، هنگام تولید تصویر میتوانید بگویید: «Include a visible OpenAI watermark in the image.»
واترمارکهای قابلمشاهده از نشانههای منشأ جاسازیشده، مانند فراداده C2PA و واترمارکهای SynthID، جدا هستند. این واترمارکها ممکن است به مخاطبان کمک کنند تشخیص دهند که تصویر با ابزارهای OpenAI تولید شده است، اما با نشانههای منشأ قابلخواندن برای ماشین یکسان نیستند.
چگونه میتوانم بررسی کنم که محتوا با ابزارهای OpenAI تولید شده است یا خیر؟
برای بررسی وجود نشانههای منشأ مرتبط با محتوای تولیدشده یا خروجیگرفتهشده با ابزارهای OpenAI در تصاویر یا فایلهای صوتی پشتیبانیشده، میتوانید به openai.com/verify مراجعه کنید.
پس از بارگذاری فایل پشتیبانیشده، ابزار بهدنبال نشانههای منشأ پشتیبانیشده OpenAI، مانند واترمارک SynthID یا اساس نامه معتبر C2PA مرتبط با OpenAI، میگردد.
اگر ابزار نشانه منشأ پشتیبانیشدهای از OpenAI پیدا کند، نشان میدهد که محتوا با ابزارهای OpenAI تولید یا از آنها خروجی گرفته شده است.
نتیجه راستیآزمایی چه معنایی دارد؟
اگر نشانهای شناسایی شود، ابزار میتواند به تأیید این موضوع کمک کند که محتوای بارگذاریشده دارای نشانه منشأ پشتیبانیشده مرتبط با OpenAI است.
این ابزار تأیید نمیکند که محتوا دقیق، ویرایشنشده، دارای مالکیت قانونی یا در بافت درست ارائهشده است. همچنین مشخص نمیکند چه کسی محتوا را ساخته یا چرا آن را ساخته است.
اگر هیچ نشانهای پیدا نشود، چه؟
اگر هیچ نشانهای شناسایی نشود، یعنی ابزار در فایل بارگذاریشده نشانه منشأ صادرشده از سوی OpenAI را پیدا نکرده است.
بااینحال، در موارد زیر ممکن است محتوا همچنان با OpenAI تولید شده یا از آن خروجی گرفته شده باشد:
محتوا پیش از ارائه نشانههای منشأ ایجاد شده باشد.
محتوا از محصول، مدل، روش خروجیگرفتن یا نوع فایل پشتیبانینشدهای آمده باشد.
فراداده هنگام بارگذاری، دانلود، ویرایش، تبدیل یا اشتراکگذاری حذف شده باشد.
کیفیت واترمارک بر اثر فشردهسازی، برش، نویز، ویرایش، تبدیل قالب یا تغییرات دیگر کاهش یافته باشد.
کلیپ صوتی بیشازحد کوتاه یا بهشکل چشمگیری تغییر داده شده باشد.
آیا برنامهای برای پشتیبانی از خروجیهای متنی دارید؟
در راستای تعهدات ما طبق آییننامه اجرایی کمیسیون اروپا درباره شفافیت محتوای تولیدشده با هوش مصنوعی، هدف ما گسترش نشانههای منشأ به همه قالبها، از جمله متن، است تا همزمان با تکامل استانداردها و ابزارها، مشتریان و توسعهدهندگان راههای روشنی برای انجام تعهدات شفافیت خود داشته باشند.
آیا OpenAI Verify میتواند محتوای ابزارهای هوش مصنوعی دیگر را شناسایی کند؟
OpenAI Verify برای شناسایی نشانههای منشأ پشتیبانیشده در محتوای تولیدشده یا خروجیگرفتهشده با ابزارهای OpenAI طراحی شده است.
این ابزار برای شناسایی محتوای تولیدشده با سایر سرویسهای هوش مصنوعی طراحی نشده است. همچنین اگر نشانه مرتبط وجود نداشته باشد، پشتیبانی نشود یا آسیب دیده باشد، ممکن است محتوای تولیدشده با OpenAI را نیز شناسایی نکند.
آیا توسعهدهندگان میتوانند محتوا را از طریق API راستیآزمایی کنند؟
توسعهدهندگان و سازمانها میتوانند با استفاده از API راستیآزمایی OpenAI، وجود نشانههای منشأ OpenAI را در محتوای پشتیبانیشده بررسی و قابلیت راستیآزمایی را در برنامهها یا گردشهای کاری خود ادغام کنند. برای اطلاعات مربوط به دسترسی به API، به openai.com/verify مراجعه کنید. سازمانهایی که به سقف استفاده بالاتری نیاز دارند، میتوانند برای افزایش سقف درخواست دهند. برای اطلاعات بیشتر، لطفاً به openai.com/verify مراجعه کنید.