वाढीव जोखीम लेबले

तुमच्या अॅप्स आणि वेबशी जोडल्यावर AI उत्पादने अधिक उपयुक्त ठरू शकतात, आणि प्रॉम्प्ट इंजेक्शन हल्ले यांसारख्या जोखमींपासून जोडलेला डेटा सुरक्षित ठेवण्यासाठी आम्ही मोठी गुंतवणूक केली आहे. आमच्या उत्पादनांमध्ये मॉडेल, उत्पादन आणि प्रणाली स्तरांवर अनेक विद्यमान संरक्षणे आहेत. यामध्ये सँडबॉक्सिंग, URL-आधारित डेटा बाहेर काढण्याविरुद्ध संरक्षणे, निरीक्षण आणि अंमलबजावणी, तसेच भूमिकाधारित प्रवेश आणि ऑडिट लॉग्स यांसारखी एंटरप्राइझ नियंत्रणे समाविष्ट आहेत.

त्याच वेळी, नेटवर्क-संबंधित काही क्षमता नवीन जोखीम निर्माण करतात, विशेषतः प्रॉम्प्ट इंजेक्शन्स, ज्या उद्योगाच्या सुरक्षा आणि संरक्षण उपायांनी अद्याप पूर्णपणे हाताळलेल्या नाहीत. काही वापरकर्त्यांना या जोखीम स्वीकारणे सोयीचे वाटू शकते, आणि वापरकर्त्यांना त्या वापरायच्या की नाही आणि कशा वापरायच्या हे ठरवण्याची क्षमता असणे महत्त्वाचे आहे असे आम्हाला वाटते, विशेषतः त्यांच्या खाजगी डेटासोबत काम करताना.

अशा जोखीम समजणे सोपे व्हावे म्हणून, प्रत्येक वैशिष्ट्य आणि उत्पादनाला सुसंगत अशा पद्धतीने, सुसंगत “वाढीव जोखीम” लेबल, संज्ञा आणि चिन्ह (ढालीतील उद्गारवाचक चिन्ह) वापरून ही जोखीम सांगण्याचे आमचे उद्दिष्ट आहे. हे लेबलिंग विद्यमान संरक्षणांव्यतिरिक्त वापरकर्त्यांना अधिक दृश्यमानता आणि नियंत्रण देते.

टीप: “वाढीव जोखीम” असे लेबल असलेली वैशिष्ट्ये ऐच्छिक आणि प्रारंभिक प्रवेशाच्या आधारावर दिली जातात, आणि आमच्या सर्वसाधारणपणे उपलब्ध सेवांसाठी आम्ही देत असलेल्या मानक निवेदने आणि हमीं यांच्या बाहेर असतात. वापरकर्त्यांनी ही वैशिष्ट्ये फक्त तेव्हाच सुरू करावीत जेव्हा त्यांना अतिरिक्त जोखीम समजतात आणि त्या स्वीकारणे त्यांना सोयीचे वाटते.

“वाढीव धोका” म्हणजे काय?

एखाद्या क्षमतेला “वाढीव धोका” असे लेबल दिलेले असल्यास, त्या वैशिष्ट्याच्या वापरामुळे असे काही धोके निर्माण होतात जे उद्योगातील सुरक्षा उपायांनी अद्याप पूर्णपणे हाताळलेले नाहीत. हे लेबल जिथे दिसेल, तिथे त्या वैशिष्ट्याच्या वापरामुळे निर्माण होणारा धोका आणि कोणत्या बाबींची काळजी घ्यावी याबद्दलचे मार्गदर्शन सहसा “अधिक जाणून घ्या” या दुव्याद्वारे दिलेले असेल.

उदाहरणार्थ, आमचा कोडिंग सहाय्यक Codex मध्ये विकसक Codex ला नेटवर्क प्रवेश देऊ शकतात, जेणेकरून तो दस्तऐवज शोधण्यासारख्या कृती वेबवर करू शकेल. या क्षमतेमुळे प्रॉम्प्ट इंजेक्शन हल्ल्यांचा वाढीव धोकाही निर्माण होतो. त्यामुळे संबंधित सेटिंग्ज स्क्रीनवर “वाढीव धोका” हे लेबल असते आणि त्यासोबत नेमके काय बदलते, कोणते धोके निर्माण होऊ शकतात आणि असा प्रवेश कधी योग्य आहे याचे स्पष्ट स्पष्टीकरण दिलेले असते.

असे लेबल असलेल्या वैशिष्ट्यांमध्ये सर्वाधिक आढळणारा वाढीव धोका म्हणजे प्रॉम्प्ट इंजेक्शन हल्ले.

संरक्षणात्मक उपाय सुधारल्यानंतर, वापरकर्त्यांसाठी हे धोके पुरेशा प्रमाणात कमी झाल्याचे आम्ही ठरवल्यास “वाढीव धोका” हे लेबल काढून टाकू शकतो.