हम सुरक्षित आर्टिफ़िशियल जनरल इंटेलिजेंस हासिल करने के साधन के रूप में ज़िम्मेदार, चरणबद्ध (इटरेटिव) विकास और परिनियोजन में विश्वास करते हैं। किसी मॉडल को सार्वजनिक रूप से लॉन्च करने से पहले हम सुरक्षा और अलाइनमेंट टेस्टिंग और मिटिगेशन का काफी काम करते हैं, और हमारे पास ऐसे स्वचालित और मानव सिस्टम भी हैं जो ChatGPT और GPTs जैसी व्यक्तियों के लिए हमारी सेवाओं पर दिखाई देने वाली समस्याग्रस्त सामग्री का पता लगाने में मदद करते हैं। इन प्रयासों में से कुछ को हम नीचे बताते हैं।

ChatGPT, ImageGen और SORA

हम स्वचालित टूल्स का उपयोग करते हैं, जैसे हमारे /moderations API का एक आंतरिक संस्करण, ताकि ऐसी सामग्री (प्रॉम्प्ट्स, कंप्लीशन्स, अपलोड्स) का पता लगाया जा सके जो हानिकारक हो सकती है या हमारी उपयोग नीतियों का उल्लंघन कर सकती है। यदि हमें समस्याग्रस्त सामग्री मिलती है, तो आमतौर पर हम या तो आपको चेतावनी देंगे कि आपकी सामग्री हमारी उपयोग नीतियों का उल्लंघन कर सकती है, या मॉडल को आपके प्रॉम्प्ट का जवाब देने से रोक देंगे। हम समस्याग्रस्त प्रॉम्प्ट या कंप्लीशन वाली चैट को साझा किए जाने से भी रोक सकते हैं। बहुत सीमित परिस्थितियों में, गंभीर/घोर (एग्रीजियस) व्यवहार के लिए हम आपका अकाउंट बैन भी कर सकते हैं।

हम ChatGPT और SORA पर समस्याग्रस्त सामग्री के मानव रिपोर्ट्स भी स्वीकार करते हैं। इन रिपोर्ट्स की समीक्षा के लिए हम स्वचालित सिस्टम और प्रशिक्षित विशेषज्ञों की टीम—दोनों के संयोजन का उपयोग करते हैं।

• ChatGPT: यदि कोई ऐसा चैट साझा करता है जिसमें आपको समस्याग्रस्त सामग्री होने का संदेह है, तो आप हमें इसकी रिपोर्ट भी कर सकते हैं।

• SORA: यदि आपको अपनी फ़ीड में कोई वीडियो या इमेज दिखती है जिसमें आपको समस्याग्रस्त सामग्री होने का संदेह है, तो आप हमें इसकी रिपोर्ट कर सकते हैं।

ChatGPT या SORA में सीधे सामग्री की रिपोर्ट कैसे करें, इस पर अधिक विवरण के लिए यह लेख देखें।

GPTs

हम यह देखने के लिए भी स्वचालित टूल्स का उपयोग करते हैं—जैसे हमारा /moderation API—कि कोई GPT संभावित रूप से समस्याग्रस्त तो नहीं है। यदि हमें GPT से जुड़ी समस्याग्रस्त सामग्री मिलती है, तो हम कार्रवाई करेंगे, जैसे उसे वितरित होने से रोकना। बिल्डर GPT या API के कॉन्फ़िगरेशन को संपादित करके समस्याग्रस्त सामग्री हटा सकता है, या प्रोडक्ट के भीतर उपलब्ध प्रक्रिया (इन-प्रोडक्ट फ़्लो) के माध्यम से निर्णय के खिलाफ अपील कर सकता है। बहुत सीमित परिस्थितियों में, गंभीर/घोर (एग्रीजियस) व्यवहार के लिए हम बिल्डर का अकाउंट भी बैन कर सकते हैं।

हम समस्याग्रस्त GPTs के मानव रिपोर्ट्स भी स्वीकार करते हैं। यदि आपको कोई ऐसा GPT दिखता है जो हमारी उपयोग नीतियों का उल्लंघन कर रहा हो या किसी अन्य रूप में समस्याग्रस्त सामग्री दर्शाता हो, तो आप हमें इसकी रिपोर्ट भी कर सकते हैं। इन रिपोर्ट्स की समीक्षा के लिए हम स्वचालित सिस्टम और प्रशिक्षित विशेषज्ञों की टीम—दोनों के संयोजन का उपयोग करते हैं।