जब आप Playground का उपयोग करके टेक्स्ट जनरेट करते हैं, तो संभावित रूप से संवेदनशील या असुरक्षित आउटपुट का पता लगाने में मदद के लिए OpenAI की मॉडरेशन सिस्टम द्वारा सामग्री की स्वचालित जाँच की जाती है।
इसका मतलब है कि कुछ सुरक्षित आउटपुट कभी-कभी गलती से असुरक्षित के रूप में वर्गीकृत हो सकते हैं।
हालाँकि इससे वास्तव में हानिकारक सामग्री के छूट जाने का जोखिम कम होता है, लेकिन इससे फ़ॉल्स पॉज़िटिव हो सकते हैं।
अगर किसी आउटपुट का गलत वर्गीकरण हो जाए, तो क्या करें
अगर आपको लगता है कि Playground ने किसी सुरक्षित आउटपुट को गलत तरीके से फ़्लैग किया है:
मॉडरेशन चेतावनी के बगल में थंब्स-डाउन आइकन पर क्लिक करें।
अगर आप चाहें तो वैकल्पिक फ़ीडबैक शामिल करें।
हम सावधानी को प्राथमिकता क्यों देते हैं
मॉडरेशन सिस्टम को हानिकारक सामग्री के छूट जाने की संभावना को कम से कम करने के लिए ट्यून किया जाता है।
वास्तव में असुरक्षित प्रतिक्रिया छूटने के बजाय थोड़ा ज़्यादा पकड़ लेना बेहतर है।