AI پروڈکٹس اس وقت زیادہ مددگار ہو سکتی ہیں جب وہ آپ کی ایپس اور ویب سے منسلک ہوں، اور ہم نے منسلک ڈیٹا کو پرومپٹ انجیکشن حملوں جیسے خطرات سے محفوظ رکھنے میں بڑی سرمایہ کاری کی ہے. ہماری پروڈکٹس میں ماڈل، پروڈکٹ اور سسٹم کی سطحوں پر پہلے سے کئی حفاظتی اقدامات موجود ہیں. اس میں سینڈ باکسنگ، URL پر مبنی ڈیٹا ایکسفلٹریشن کے خلاف تحفظات، نگرانی اور نفاذ، نیز کردار پر مبنی رسائی اور آڈٹ لاگز جیسے انٹرپرائز کنٹرولز شامل ہیں.
اسی وقت، نیٹ ورک سے متعلق کچھ صلاحیتیں نئے خطرات، خاص طور پر پرومپٹ انجیکشن، پیدا کرتی ہیں جنہیں صنعت کی حفاظتی اور سیکیورٹی تدابیر ابھی پوری طرح حل نہیں کر پائی ہیں. کچھ صارفین یہ خطرات قبول کرنے میں مطمئن ہو سکتے ہیں، اور ہمارا ماننا ہے کہ صارفین کے پاس یہ فیصلہ کرنے کی صلاحیت ہونا ضروری ہے کہ وہ انہیں استعمال کریں یا نہیں، اور کیسے استعمال کریں، خاص طور پر جب وہ اپنے نجی ڈیٹا کے ساتھ کام کر رہے ہوں.
ایسے خطرات کو سمجھنا آسان بنانے کے لیے، ہمارا مقصد ایک مستقل ”بلند خطرہ“ لیبل، اصطلاحات، اور آئیکن (شیلڈ کے اندر تعجب کا نشان) کے ذریعے اس خطرے کو اس انداز میں بتانا ہے جو ہر فیچر اور پروڈکٹ کے لیے موزوں ہو. یہ لیبلنگ موجودہ حفاظتی اقدامات کے علاوہ صارف کو اضافی وضاحت اور کنٹرول فراہم کرتی ہے.
نوٹ: ”بلند خطرہ“ کے لیبل والے فیچرز اختیاری اور ابتدائی رسائی کی بنیاد پر پیش کیے جاتے ہیں، اور یہ ہماری عام طور پر دستیاب سروسز کے لیے دی جانے والی معیاری نمائندگیوں اور ضمانتوں سے باہر ہیں. صارفین کو یہ فیچرز صرف اسی صورت میں آن کرنے چاہئیں جب وہ اضافی خطرات کو سمجھتے ہوں اور ان سے مطمئن ہوں.
”زیادہ خطرے“ کا کیا مطلب ہے؟
جب کسی صلاحیت پر ”زیادہ خطرہ“ کا لیبل لگا ہو، تو اس کا مطلب ہے کہ اس خصوصیت کے استعمال سے کچھ ایسے خطرات پیدا ہوتے ہیں جن سے نمٹنے کے لیے صنعت کے حفاظتی اور سکیورٹی اقدامات ابھی پوری طرح مؤثر نہیں ہیں۔ جب بھی آپ یہ لیبل دیکھیں گے، تو عموماً اس خصوصیت کے استعمال سے پیدا ہونے والے خطرے اور ضروری احتیاطوں سے متعلق رہنمائی بھی ملے گی، اکثر ”مزید جانیں“ کے ربط کے ذریعے۔
مثال کے طور پر، ہمارے کوڈنگ معاون Codex میں ڈیولپرز Codex کو نیٹ ورک تک رسائی دے سکتے ہیں، تاکہ وہ ویب پر دستاویزات تلاش کرنے جیسے کام کر سکے۔ اس صلاحیت کے ساتھ پرومپٹ انجیکشن حملوں کا خطرہ بھی زیادہ ہوتا ہے۔ اسی لیے متعلقہ ترتیبات کی اسکرین پر ”زیادہ خطرہ“ کا لیبل اور اس بات کی واضح وضاحت شامل ہوتی ہے کہ کیا تبدیلی آتی ہے، کون سے خطرات پیدا ہو سکتے ہیں اور یہ رسائی کب مناسب ہے۔
اس لیبل والی خصوصیات سے وابستہ سب سے عام زیادہ خطرہ پرومپٹ انجیکشن حملوں کا ہے۔
حفاظتی تدابیر بہتر ہونے کے بعد، اگر ہم یہ طے کریں کہ صارفین کے لیے خطرات معقول حد تک کم ہو گئے ہیں، تو ہم ”زیادہ خطرہ“ کا لیبل ہٹا سکتے ہیں۔