مرور کلی
OpenAI از سامانه‌های خودکار و گزارش‌های کاربران برای شناسایی محتوایی استفاده می‌کند که ممکن است آسیب‌زا باشد یا سیاست‌های استفاده آن را نقض کند. بسته به شرایط، ChatGPT ممکن است پاسخ را محدود کند، اشتراک‌گذاری را محدود کند، به گفتگو پایان دهد یا دسترسی به حساب را موقتاً تعلیق کند. OpenAI ممکن است درباره یک حساب یا GPT نیز اقدام جداگانه‌ای انجام دهد.
این تدابیر حفاظتی مکمل آزمایش‌ها و اقدامات کاهش ریسک در زمینه ایمنی و هم‌راستایی هستند که OpenAI پیش از انتشار مدل‌هایش انجام می‌دهد.
شناسایی محتوای بالقوه آسیب‌زا
OpenAI از ابزارهای خودکار نظارت بر محتوا برای شناسایی محتوای بالقوه آسیب‌زا در اعلان‌ها، پاسخ‌ها، فایل‌های بارگذاری‌شده و GPTها استفاده می‌کند.
ChatGPT می‌تواند برخی اقدامات ایمنی را به‌طور خودکار انجام دهد، بدون اینکه شخصی ابتدا گفتگو را بررسی کند. وقتی کسی محتوایی را گزارش می‌کند، OpenAI از سامانه‌های خودکار و بازبینان آموزش‌دیده برای ارزیابی آن گزارش استفاده می‌کند.
اقدامات در ChatGPT و ChatGPT Images
وقتی محتوایی ممکن است سیاست‌های OpenAI را نقض کند یا نگرانی ایمنی ایجاد کند، ChatGPT ممکن است:
به شما هشدار دهد که محتوایتان ممکن است سیاست‌های استفاده از OpenAI را نقض کند.
از پاسخ دادن به یک اعلان خودداری کند.
از اشتراک‌گذاری یک گفتگو جلوگیری کند.
به گفتگویی که نگرانی جدی درباره خشونت یا آسیب به دیگران ایجاد می‌کند پایان دهد.
اگر پس از پایان دادن مکرر به گفتگوها، گفتگوهای بعدی نیز نگرانی‌های جدی درباره خشونت یا آسیب به دیگران ایجاد کنند، حساب شما را موقتاً تعلیق کند.
OpenAI ممکن است در اقدامی جداگانه، حسابی را به‌دلیل نقض جدی یا مکرر سیاست‌ها برای همیشه ببندد.
گفتگوهای پایان‌یافته
اگر ChatGPT به گفتگویی پایان دهد، آن گفتگو دیگر در سابقه گفتگوها یا نتایج جستجوی شما نمایش داده نمی‌شود. می‌توانید گفتگوی جدیدی شروع کنید، مگر اینکه حسابتان تعلیق شده یا به شکل دیگری محدود شده باشد.
تعلیق موقت حساب
اگر ChatGPT حساب شما را موقتاً تعلیق کند، بلافاصله از حساب خارج می‌شوید و تا پایان تعلیق نمی‌توانید وارد شوید یا از ChatGPT استفاده کنید. تعلیق موقت با بسته شدن دائمی حساب متفاوت است.
برای اطلاعات بیشتر درباره این اقدامات، ببینید: چرا ChatGPT به‌دلیل نگرانی درباره خشونت به گفتگوی شما پایان داده یا حسابتان را موقتاً تعلیق کرده است.
بسته شدن دائمی حساب
OpenAI ممکن است حسابی را به‌دلیل نقض جدی یا مکرر سیاست‌های خود برای همیشه ببندد. این اقدام از پایان دادن به گفتگو یا تعلیق موقت حساب جداست.
برای اطلاعات درباره بسته شدن دائمی حساب و گزینه‌های موجود برای بازبینی وضعیت حساب، ببینید: بسته شدن حساب‌های OpenAI و تعلیق آن‌ها به دلایل ایمنی.
اقدامات مربوط به GPTها
OpenAI همچنین از ابزارهای خودکار برای شناسایی محتوای احتمالاً مشکل‌ساز مرتبط با یک GPT استفاده می‌کند. اگر یک GPT احتمالاً سیاست‌های OpenAI را نقض کند، OpenAI ممکن است از توزیع آن جلوگیری کند.
سازنده GPT می‌تواند برای رفع مشکل، GPT یا پیکربندی API را به‌روزرسانی کند. اگر امکان ثبت اعتراض درون محصول فراهم باشد، سازنده می‌تواند از آن برای درخواست بازبینی استفاده کند. در موارد به‌ویژه جدی، OpenAI ممکن است حساب سازنده را نیز برای همیشه ببندد.
گزارش محتوای مشکل‌ساز
می‌توانید محتوایی را گزارش کنید که به باور شما ممکن است سیاست‌های OpenAI را نقض کند یا به شکل دیگری نگرانی ایمنی ایجاد کند. OpenAI از سامانه‌های خودکار و بازبینان آموزش‌دیده برای ارزیابی گزارش‌های ارسالی استفاده می‌کند.
برای محتوایی که مستقیماً در ChatGPT قرار دارد، ببینید: گزارش محتوا در ChatGPT و پلتفرم‌های OpenAI.
برای گفتگوی به‌اشتراک‌گذاشته‌شده در ChatGPT، ببینید: گزارش محتوای آسیب‌زا یا غیرقانونی در یک پیوند اشتراکی.
برای GPT، ببینید: گزارش یک GPT.
اگر احتمال می‌دهید کسی در معرض خطر فوری است، با خدمات امدادی محل خود تماس بگیرید. گزارش محتوا به OpenAI جایگزین دریافت کمک اضطراری نیست.