ہم محفوظ آرٹیفیشل جنرل انٹیلیجنس کے حصول کے وسیلے کے طور پر ذمہ دارانہ، مرحلہ وار ترقی اور تعیناتی پر یقین رکھتے ہیں. ہم کسی ماڈل کو عوام کے لیے لانچ کرنے سے پہلے حفاظت اور الائنمنٹ کی خاصی جانچ اور تخفیف کرتے ہیں، اور ChatGPT اور GPTs جیسی افراد کے لیے ہماری سروسز پر ظاہر ہونے والے مسئلہ پیدا کرنے والے مواد کا پتہ لگانے میں مدد کے لیے ہمارے پاس خودکار اور انسانی نظام بھی موجود ہیں. ہم ذیل میں ان میں سے کچھ کوششوں کا خاکہ پیش کرتے ہیں.

ChatGPT اور ImageGen

ہم خودکار ٹولز استعمال کرتے ہیں، جیسے ہماری /moderations API کا داخلی ورژن، تاکہ ایسے مواد (پرومپٹس، تکمیلات، اپ لوڈز) کا پتہ لگا سکیں جو نقصان دہ ہو سکتا ہے یا ہماری استعمال کی پالیسیوں کی خلاف ورزی کر سکتا ہے. اگر ہمیں مسئلہ پیدا کرنے والا مواد ملتا ہے، تو عموماً ہم یا تو آپ کو خبردار کرتے ہیں کہ آپ کا مواد ہماری استعمال کی پالیسیوں کی خلاف ورزی کر سکتا ہے یا ماڈل کو آپ کے پرومپٹ کا جواب دینے سے روک دیتے ہیں. ہم مسئلہ پیدا کرنے والے پرومپٹ یا تکمیل والی چیٹ کو شیئر کیے جانے سے بھی روک سکتے ہیں. بہت محدود حالات میں، ہم انتہائی سنگین طرزِ عمل پر آپ کے اکاؤنٹ پر پابندی بھی لگا سکتے ہیں.

ہم ChatGPT پر مسئلہ پیدا کرنے والے مواد سے متعلق انسانی رپورٹس بھی قبول کرتے ہیں. ہم ان رپورٹس کا جائزہ لینے کے لیے خودکار نظاموں اور ماہرین کی تربیت یافتہ ٹیم کا مجموعہ استعمال کرتے ہیں.

• ChatGPT: اگر کوئی ایسی چیٹ شیئر کرتا ہے جس کے بارے میں آپ کو لگتا ہے کہ اس میں مسئلہ پیدا کرنے والا مواد ہے، تو آپ بھی اس کی رپورٹ ہمیں دے سکتے ہیں.

ChatGPT میں براہِ راست مواد کی رپورٹ کرنے کے طریقے کے بارے میں مزید تفصیلات کے لیے، یہ مضمون دیکھیں.

GPTs

ہم خودکار ٹولز بھی استعمال کرتے ہیں، جیسے ہماری /moderation API، تاکہ دیکھ سکیں کہ آیا کوئی GPT ممکنہ طور پر مسئلہ پیدا کرنے والا ہے. اگر ہمیں GPT سے وابستہ مسئلہ پیدا کرنے والا مواد ملتا ہے، تو ہم کارروائی کریں گے، مثلاً اسے تقسیم ہونے سے روکنا. بنانے والا GPT یا API کی تشکیل میں ترمیم کر کے مسئلہ پیدا کرنے والا مواد ہٹا سکتا ہے، یا پروڈکٹ کے اندر موجود عمل کے ذریعے فیصلے پر اپیل کر سکتا ہے. بہت محدود حالات میں، ہم انتہائی سنگین طرزِ عمل پر بنانے والے کے اکاؤنٹ پر پابندی بھی لگا سکتے ہیں.

ہم مسئلہ پیدا کرنے والے GPTs سے متعلق انسانی رپورٹس بھی قبول کرتے ہیں. اگر آپ کوئی ایسا GPT دیکھتے ہیں جس کے بارے میں آپ کو لگتا ہے کہ وہ ہماری استعمال کی پالیسیوں کی خلاف ورزی کر رہا ہے یا کسی اور طرح مسئلہ پیدا کرنے والا مواد ظاہر کرتا ہے، تو آپ بھی اس کی رپورٹ ہمیں دے سکتے ہیں. ہم ان رپورٹس کا جائزہ لینے کے لیے خودکار نظاموں اور ماہرین کی تربیت یافتہ ٹیم کا مجموعہ استعمال کرتے ہیں.