AI उत्पाद आपके ऐप्स और वेब से जुड़े होने पर अधिक सहायक होते हैं, और हमने जुड़े हुए डेटा को प्रॉम्प्ट इंजेक्शन हमलों जैसे जोखिमों से सुरक्षित रखने के लिए भारी निवेश किया है. हमारे प्रोडक्ट में मॉडल, प्रोडक्ट और सिस्टम स्तरों पर कई मौजूदा सुरक्षा उपाय हैं. इसमें सैंडबॉक्सिंग, URL-आधारित डेटा एक्सफ़िल्ट्रेशन से सुरक्षा, मॉनिटरिंग और प्रवर्तन, और भूमिका-आधारित एक्सेस और ऑडिट लॉग्स जैसे एंटरप्राइज़ नियंत्रण शामिल हैं.
साथ ही, नेटवर्क से संबंधित कुछ क्षमताएँ नए जोखिम पेश करती हैं, विशेष रूप से प्रॉम्प्ट इंजेक्शन, जिन्हें अभी तक उद्योग के सुरक्षा और संरक्षा उपायों द्वारा पूरी तरह से संबोधित नहीं किया गया है. कुछ उपयोगकर्ता इन जोखिमों को लेने में सहज हो सकते हैं, और हमारा मानना है कि उपयोगकर्ताओं के लिए यह महत्वपूर्ण है कि उनके पास यह तय करने की क्षमता हो कि उन्हें इनका उपयोग करना है या नहीं, और अगर करना है तो कैसे, विशेष रूप से जब वे अपने निजी डेटा के साथ काम कर रहे हों.
ऐसे जोखिमों को समझना आसान बनाने के लिए, हमारा उद्देश्य इस जोखिम को एक सुसंगत “एलिवेटेड रिस्क” लेबल, शब्दावली और आइकन (शील्ड के भीतर विस्मयादिबोधक चिह्न) के माध्यम से इस तरह से बताना है, जो प्रत्येक फ़ीचर और प्रोडक्ट के लिए उपयुक्त हो. यह लेबलिंग मौजूदा सुरक्षा उपायों के अतिरिक्त उपयोगकर्ताओं को अतिरिक्त दृश्यता और नियंत्रण प्रदान करती है.
नोट: “एलिवेटेड रिस्क” लेबल वाले फ़ीचर्स वैकल्पिक हैं और आपको इन्हें जल्दी आज़माने का मौका मिलता है. ये हमारी आम तौर पर उपलब्ध सेवाओं के लिए दी जाने वाली सामान्य गारंटी और वादों के दायरे में नहीं आते हैं. उपयोगकर्ताओं को इन फ़ीचर्स को केवल तभी चालू करना चाहिए, जब वे अतिरिक्त जोखिमों को अच्छी तरह समझते हों और उनके साथ सहज हों.
“एलिवेटेड रिस्क” का क्या मतलब है?
जब किसी क्षमता पर “एलिवेटेड रिस्क” का लेबल लगाया जाता है, तो इसका संकेत यह होता है कि उस फ़ीचर का उपयोग कुछ ऐसे जोखिम उत्पन्न करता है, जिन्हें अभी तक उद्योग के सुरक्षा और संरक्षा उपायों द्वारा पूरी तरह से संबोधित नहीं किया गया है. हर बार जब आप यह लेबल देखते हैं, तो आपको आमतौर पर इस सुविधा के उपयोग से उत्पन्न होने वाले जोखिम और किन बातों के प्रति सावधान रहना है, इस बारे में मार्गदर्शन मिलेगा, अक्सर “अधिक जानें” लिंक के माध्यम से.
उदाहरण के लिए, Codex, हमारे कोडिंग सहायक में, डेवलपर्स Codex को नेटवर्क एक्सेस दे सकते हैं, ताकि वह वेब पर डाक्यूमेंटेशन खोजने जैसी कार्रवाइयाँ कर सके. यह क्षमता प्रॉम्प्ट इंजेक्शन हमलों का उच्च जोखिम भी लाती है. इसलिए, संबंधित सेटिंग स्क्रीन में “एलिवेटेड रिस्क” लेबल शामिल है, साथ ही यह स्पष्ट व्याख्या भी है कि क्या परिवर्तन होते हैं, कौन-से जोखिम उत्पन्न हो सकते हैं, और वह एक्सेस कब उपयुक्त है.
ऐसे लेबल वाली सुविधाओं में सबसे आम जोखिम प्रॉम्प्ट इंजेक्शन हमले हैं.
जैसे-जैसे सुरक्षा उपाय बेहतर होते जाएंगे, हम “एलिवेटेड रिस्क” लेबल को हटा सकते हैं, जब हमें यह निर्धारित हो जाएगा कि उपयोगकर्ताओं के लिए जोखिमों को उचित रूप से कम कर दिया गया है.