ما به توسعه و استقرار مسئولانه و تکرارشونده به‌عنوان راهی برای دستیابی به هوش مصنوعی عمومی ایمن باور داریم. پیش از آنکه مدلی را برای عموم عرضه کنیم، میزان قابل‌توجهی آزمایش و کاهش ریسک در زمینه ایمنی و همسویی انجام می‌دهیم، و همچنین سامانه‌های خودکار و انسانی داریم تا به شناسایی محتوای مشکل‌داری کمک کنند که در سرویس‌های ما برای افراد، مانند ChatGPT و GPTها، ظاهر می‌شود. در ادامه برخی از این تلاش‌ها را شرح می‌دهیم.
ChatGPT و ChatGPT Images
ما از ابزارهای خودکار، مانند نسخه‌ای داخلی از API مربوط به /moderations خود، برای شناسایی محتوایی (اعلان‌ها، پاسخ‌های تولیدشده و فایل‌های بارگذاری‌شده) استفاده می‌کنیم که ممکن است زیان‌آور باشد یا خط‌مشی‌های استفاده ما را نقض کند. اگر محتوای مشکل‌داری شناسایی کنیم، معمولاً یا به شما هشدار می‌دهیم که محتوایتان ممکن است خط‌مشی‌های استفاده ما را نقض کند، یا از پاسخ‌دادن مدل به اعلان شما جلوگیری می‌کنیم. همچنین ممکن است از اشتراک‌گذاری گفت‌وگویی که حاوی اعلان یا پاسخ تولیدشده مشکل‌دار است، جلوگیری کنیم. در موارد بسیار محدودی، ممکن است حساب شما را نیز به‌دلیل رفتار به‌شدت نامناسب مسدود کنیم.
همچنین گزارش‌های افراد درباره محتوای مشکل‌دار در ChatGPT را می‌پذیریم. برای بررسی این گزارش‌ها، از ترکیبی از سامانه‌های خودکار و یک تیم متخصص آموزش‌دیده استفاده می‌کنیم.
ChatGPT: اگر کسی گفت‌وگویی را به اشتراک بگذارد که به‌نظر شما حاوی محتوای مشکل‌دار است، می‌توانید آن را به ما گزارش دهید.
برای جزئیات بیشتر درباره نحوه گزارش محتوا به‌طور مستقیم در ChatGPT، به این مطلب مراجعه کنید: گزارش محتوا در ChatGPT و پلتفرم‌های OpenAI.
GPTها
همچنین از ابزارهای خودکار، مانند API مربوط به /moderations خود، استفاده می‌کنیم تا بررسی کنیم آیا یک GPT ممکن است مشکل‌دار باشد یا خیر. اگر محتوای مشکل‌داری در ارتباط با آن GPT شناسایی کنیم، اقداماتی مانند جلوگیری از انتشار آن انجام می‌دهیم. سازنده می‌تواند با ویرایش پیکربندی GPT یا API، محتوای مشکل‌دار را حذف کند یا از طریق فرایندی درون محصول به این تصمیم اعتراض کند. در موارد بسیار محدودی، ممکن است حساب سازنده را نیز به‌دلیل رفتار به‌شدت نامناسب مسدود کنیم.
همچنین گزارش‌های افراد درباره GPTهای مشکل‌دار را می‌پذیریم. اگر GPTای دیدید که به‌نظر شما خط‌مشی‌های استفاده ما را نقض می‌کند یا به هر شکل دیگری محتوای مشکل‌داری دارد، می‌توانید آن را به ما گزارش دهید. برای بررسی این گزارش‌ها، از ترکیبی از سامانه‌های خودکار و یک تیم متخصص آموزش‌دیده استفاده می‌کنیم.