ChatGPT मददगार हो सकता है—लेकिन यह हमेशा सही नहीं होता

ChatGPT को इस तरह बनाया गया है कि वह अपने प्रशिक्षण में इस्तेमाल हुए डेटा के पैटर्न के आधार पर उपयोगी उत्तर दे. लेकिन किसी भी भाषा मॉडल की तरह, यह गलत या भ्रामक उत्तर दे सकता है. कभी-कभी इसका जवाब आत्मविश्वास से भरा लग सकता है—भले ही वह गलत हो.

इसे अक्सर मतिभ्रम कहा जाता है: जब मॉडल ऐसे उत्तर देता है जो तथ्यात्मक रूप से सही नहीं होते, जैसे:

• गलत परिभाषाएँ, तारीखें या तथ्य

• मनगढ़ंत उद्धरण, अध्ययन, संदर्भ या ऐसे स्रोतों का उल्लेख जो मौजूद ही नहीं हैं

• अस्पष्ट या जटिल सवालों के अत्यधिक आत्मविश्वास से दिए गए उत्तर

इसीलिए हम उपयोगकर्ताओं को प्रोत्साहित करते हैं कि वे ChatGPT के उत्तरों को परखें और महत्वपूर्ण जानकारी की पुष्टि विश्वसनीय स्रोतों से करें.

नए उपकरण तथ्यात्मक सटीकता बेहतर बना सकते हैं

आपकी सदस्यता योजना के आधार पर, ChatGPT को ऐसे उपकरण उपलब्ध हो सकते हैं जो अधिक ताज़ा या सत्यापन योग्य जानकारी के साथ उत्तर देने में मदद करते हैं:

ChatGPT सब कुछ नहीं जानता

हमारे नवीनतम मॉडल बेहद सक्षम हैं, फिर भी उनकी कुछ सीमाएँ हैं:

• नॉलेज कटऑफ: मॉडल को एक निश्चित समय तक के डेटा पर प्रशिक्षित किया जाता है. उपकरणों का उपयोग न होने पर, उनके उत्तरों में उस समय के बाद की घटनाओं की जानकारी शामिल नहीं होती.

• आत्मविश्वास का मतलब विश्वसनीयता नहीं है: मॉडल गलत उत्तर भी पूरे विश्वास के साथ दे सकता है.

• जानकारी तक पहुँच न होना: तकनीकी समस्याओं, भुगतान की अनिवार्यता या robots.txt के ज़रिए तय की गई प्राथमिकताओं के कारण मॉडल किसी वेबसाइट से प्रासंगिक जानकारी प्राप्त करने में असमर्थ हो सकता है.

• पक्षपात और अत्यधिक सरलीकरण: कुछ मामलों में यह:

  • किसी एक दृष्टिकोण को ही पूर्ण सत्य के रूप में प्रस्तुत कर सकता है

  • जटिल या बारीकियों वाले मुद्दों को ज़रूरत से ज़्यादा सरल बनाकर पेश कर सकता है

  • वैज्ञानिक सहमति या सामाजिक बहस के महत्व को गलत ढंग से प्रस्तुत कर सकता है

कृत्रिम बुद्धिमत्ता से तैयार पाठ और लेखक की पहचान

ChatGPT विश्वसनीय रूप से यह तय नहीं कर सकता कि कोई पाठ कृत्रिम बुद्धिमत्ता से तैयार किया गया था या उसने खुद वह पाठ लिखा था. यह ऐसे सवालों के मनगढ़ंत उत्तर दे सकता है, जैसे “क्या तुमने यह निबंध लिखा था?” या “क्या इसे कृत्रिम बुद्धिमत्ता ने लिखा हो सकता है?” ऐसे उत्तर लेखक की पहचान के विश्वसनीय प्रमाण नहीं हैं.

इंटरनेट तक ChatGPT की पहुँच

आम तौर पर, हाँ. ChatGPT वेब पर तभी खोज करता है जब कुछ खास उपकरण चालू हों, लेकिन ये उपकरण सभी मॉडल के लिए पहले से चालू होते हैं.

• खोज बंद होने पर: उत्तर उस जानकारी पर आधारित होते हैं जो मॉडल ने प्रशिक्षण के दौरान सीखी है.

• खोज या डीप रिसर्च के साथ: यह वेब स्रोतों तक उसी समय पहुँचकर और उनके संदर्भ देकर अधिक ताज़ा जानकारी के साथ सवालों के उत्तर दे सकता है.

खोज चालू है या नहीं, यह जानने के लिए ChatGPT में लिखते समय देखें कि लिखने वाली पट्टी में खोज या डीप रिसर्च के चिह्न सक्रिय हैं या नहीं, या उत्तर में वेब स्रोतों के संदर्भ दिए गए हैं या नहीं.

ChatGPT का जिम्मेदारी से उपयोग करने के व्यावहारिक सुझाव

• ChatGPT को अंतिम स्रोत नहीं, बल्कि पहले मसौदे के रूप में उपयोग करें. कृपया महत्वपूर्ण जानकारी की जांच करें.

• उद्धरणों, डेटा, तकनीकी जानकारी या बाहरी दस्तावेज़ों के संदर्भों को हमेशा सत्यापित करें.

• सटीकता महत्वपूर्ण होने पर खोज या डीप रिसर्च जैसे उपलब्ध टूल का उपयोग करें और लिंक पर सीधे जाकर स्रोतों की जांच करें.

• आलोचनात्मक सोच को प्रोत्साहित करें, विशेष रूप से शैक्षणिक परिवेश में.