ہم محفوظ آرٹیفیشل جنرل انٹیلیجنس کے حصول کے وسیلے کے طور پر ذمہ دارانہ، مرحلہ وار ترقی اور تعیناتی پر یقین رکھتے ہیں. ہم کسی ماڈل کو عوام کے لیے لانچ کرنے سے پہلے حفاظت اور الائنمنٹ کی خاصی جانچ اور تخفیف کرتے ہیں، اور ChatGPT اور GPTs جیسی افراد کے لیے ہماری سروسز پر ظاہر ہونے والے مسئلہ پیدا کرنے والے مواد کا پتہ لگانے میں مدد کے لیے ہمارے پاس خودکار اور انسانی نظام بھی موجود ہیں. ہم ذیل میں ان میں سے کچھ کوششوں کا خاکہ پیش کرتے ہیں.
ChatGPT اور ImageGen
ہم ایسے مواد (پرومپٹس، تکمیلات اور اپ لوڈز) کا پتا لگانے کے لیے خودکار ٹولز استعمال کرتے ہیں جو نقصان دہ ہو سکتا ہے یا ہماری استعمال کی پالیسیوں کی خلاف ورزی کر سکتا ہے، مثلاً ہمارے /moderations API کا ایک داخلی ورژن۔ اگر ہمیں کسی نامناسب مواد کا پتا چلتا ہے تو ہم عموماً آپ کو خبردار کریں گے کہ آپ کا مواد ہماری استعمال کی پالیسیوں کی خلاف ورزی کر سکتا ہے، یا ماڈل کو آپ کے پرومپٹ کا جواب دینے سے روک دیں گے۔ ہم نامناسب پرومپٹ یا تکمیل والی چیٹ کا اشتراک بھی روک سکتے ہیں۔ انتہائی محدود حالات میں، سنگین بدسلوکی پر ہم آپ کے اکاؤنٹ پر پابندی بھی لگا سکتے ہیں۔
ہم ChatGPT پر نامناسب مواد کے بارے میں لوگوں کی رپورٹس بھی قبول کرتے ہیں۔ ان رپورٹس کا جائزہ لینے کے لیے ہم خودکار نظاموں اور تربیت یافتہ ماہرین کی ٹیم، دونوں کا استعمال کرتے ہیں۔
ChatGPT: اگر کوئی ایسی چیٹ شیئر کرتا ہے جس میں آپ کے خیال میں نامناسب مواد موجود ہے، تو آپ اس کی اطلاع ہمیں دے سکتے ہیں۔
ChatGPT میں براہ راست مواد کی اطلاع دینے کے طریقے سے متعلق مزید تفصیلات کے لیے یہ مضمون دیکھیں۔
GPTs
ہم خودکار ٹولز بھی استعمال کرتے ہیں، جیسے ہماری /moderation API، تاکہ دیکھ سکیں کہ آیا کوئی GPT ممکنہ طور پر مسئلہ پیدا کرنے والا ہے. اگر ہمیں GPT سے وابستہ مسئلہ پیدا کرنے والا مواد ملتا ہے، تو ہم کارروائی کریں گے، مثلاً اسے تقسیم ہونے سے روکنا. بنانے والا GPT یا API کی تشکیل میں ترمیم کر کے مسئلہ پیدا کرنے والا مواد ہٹا سکتا ہے، یا پروڈکٹ کے اندر موجود عمل کے ذریعے فیصلے پر اپیل کر سکتا ہے. بہت محدود حالات میں، ہم انتہائی سنگین طرزِ عمل پر بنانے والے کے اکاؤنٹ پر پابندی بھی لگا سکتے ہیں.
ہم مسئلہ پیدا کرنے والے GPTs سے متعلق انسانی رپورٹس بھی قبول کرتے ہیں. اگر آپ کوئی ایسا GPT دیکھتے ہیں جس کے بارے میں آپ کو لگتا ہے کہ وہ ہماری استعمال کی پالیسیوں کی خلاف ورزی کر رہا ہے یا کسی اور طرح مسئلہ پیدا کرنے والا مواد ظاہر کرتا ہے، تو آپ بھی اس کی رپورٹ ہمیں دے سکتے ہیں. ہم ان رپورٹس کا جائزہ لینے کے لیے خودکار نظاموں اور ماہرین کی تربیت یافتہ ٹیم کا مجموعہ استعمال کرتے ہیں.