पाठ-228: AI की ग़लतियाँ — झूठे जवाब पहचानना

उद्देश्य

पाठ-214 में हमने संकेत दिया था कि AI कभी-कभी ग़लत बात भी आत्मविश्वास से कह सकता है। आज हम इसे गहराई से समझेंगे — यह क्यों होता है, इसे "मतिभ्रम" (Hallucination) क्यों कहा जाता है, और इसे कैसे पहचानें। पाठ के बाद आप AI के जवाब में ग़लती की पहचान कर पाएँगे।

मुख्य बात

याद करें पाठ-214 की बात — AI एक-एक शब्द चुनकर जवाब बनाता है, अंदाज़े के आधार पर। जब AI को किसी बात की सही जानकारी न हो, तो भी वह "चुप" नहीं रहता — वह फिर भी एक "संभावित लगने वाला" जवाब बना देता है, भले ही वह ग़लत हो। इसे "मतिभ्रम" (Hallucination) कहते हैं — यानी AI ने ऐसी बात कह दी जो सच नहीं है, पर सुनने में सच जैसी लगती है।

यह ख़ासकर तीन जगह ज़्यादा होता है — (एक) बहुत ख़ास, बारीक तथ्य पूछने पर, जैसे किसी छोटी जगह की सटीक जनसंख्या या किसी बहुत पुरानी घटना की सटीक तारीख़; (दो) संख्या व हिसाब में, ख़ासकर बड़े, जटिल हिसाब में; (तीन) हाल की घटनाओं में, क्योंकि AI का प्रशिक्षण एक तय समय पर रुक जाता है (पाठ-214 में समझा)।

मतिभ्रम पहचानने के कुछ संकेत हैं — अगर AI बहुत सटीक, विशिष्ट संख्या या नाम बहुत आत्मविश्वास से बताए, ख़ासकर किसी छोटी, कम-जानी बात पर, तो सतर्क रहें। सबसे अच्छा तरीक़ा है — किसी भी ज़रूरी, फ़ैसला-बदलने वाली जानकारी को हमेशा एक और स्रोत से जाँचना, यह हम अगले पाठ में विस्तार से सीखेंगे।

2ब. मतिभ्रम से बचाव के व्यावहारिक तरीक़े

मतिभ्रम से बचने का एक तरीक़ा है — AI से ख़ुद यह पूछना, "क्या तुम इस बारे में पूरी तरह निश्चित हो, या यह अंदाज़ा है?" कई बार AI ख़ुद ईमानदारी से बता देता है कि किसी बात के बारे में उसे पूरी निश्चितता नहीं है। यह जवाब में शामिल "शायद", "आमतौर पर", "सामान्यतः" जैसे शब्दों को ध्यान से पढ़ने से भी समझ आ जाता है।

एक और तरीक़ा है — किसी बहुत ख़ास संख्या या नाम को AI से दो अलग-अलग तरीक़े से पूछना (जैसे पहले सीधे पूछना, फिर थोड़ा अलग शब्दों में दोबारा पूछना) और देखना कि दोनों बार एक-सा जवाब आता है या नहीं। अगर जवाब बदल जाए, तो यह एक चेतावनी है कि AI उस बात के बारे में निश्चित नहीं है।

यह भी समझें — मतिभ्रम कोई "बुराई" या "जान-बूझकर झूठ" नहीं है, यह AI के काम करने के तरीक़े की एक तकनीकी सीमा है। इसे समझकर सावधानी बरतना, AI को पूरी तरह छोड़ देने से कहीं बेहतर तरीक़ा है, क्योंकि सही इस्तेमाल में AI की मदद अब भी बहुत बड़ी रहती है।

2अ. मतिभ्रम व सामान्य ग़लती में फ़र्क़

यह समझना भी ज़रूरी है कि "मतिभ्रम" व "सामान्य टाइपिंग/समझने की ग़लती" अलग चीज़ें हैं। कभी-कभी हमारा अपना सवाल अस्पष्ट होने से भी ग़लत जवाब आ सकता है, जो मतिभ्रम नहीं, बल्कि प्रॉम्प्ट की कमी है। साफ़ प्रॉम्प्ट (पाठ-216) लिखने से ऐसी ग़लतियाँ पहले ही कम हो जाती हैं।

आज का काम

AI से कोई बहुत ख़ास, बारीक सवाल पूछें (जैसे "मेरे गाँव के पास सबसे नज़दीकी विशेष जगह की सटीक जनसंख्या क्या है")। जवाब मिलने पर सोचें — क्या यह जानकारी बिना जाँचे भरोसे लायक़ लगती है, या इसे किसी और स्रोत से जाँचना चाहिए।

3ब. दूसरा अभ्यास

अब उसी सवाल को थोड़े अलग शब्दों में दोबारा पूछें और देखें कि जवाब में कोई फ़र्क़ आता है या नहीं। अगर जवाब बदल जाए, यह मतिभ्रम का एक संभावित संकेत है — अपनी कॉपी में यह नोट करें।

3स. तीसरा अभ्यास

एक बहुत साफ़, विस्तृत प्रॉम्प्ट व एक अस्पष्ट, छोटा प्रॉम्प्ट दोनों से एक ही सवाल पूछें, और देखें कि क्या साफ़ प्रॉम्प्ट में मतिभ्रम की संभावना कम लगती है।

नाप

4ब. एक और नाप

2स. मतिभ्रम की एक असली मिसाल

कल्पना करें — कोई AI से किसी बहुत छोटे, कम-मशहूर गाँव के बारे में उसकी सटीक स्थापना-तारीख़ पूछे। हो सकता है AI कोई तारीख़ बता दे, भले ही असल में इतनी बारीक जानकारी उसके पास न हो — यह ठीक वैसे ही है जैसे कोई इंसान, शर्मिंदा होने के डर से, "मुझे नहीं पता" कहने की जगह कोई अंदाज़न जवाब दे दे। फ़र्क़ यह है कि AI यह "शर्म" महसूस नहीं करता, यह सिर्फ़ उसके पैटर्न-आधारित तरीक़े का नतीजा है।

यह समझ जितनी गहरी होगी, AI का इस्तेमाल उतना ही समझदारी से किया जा सकेगा — न पूरी तरह अंधा भरोसा, न पूरी तरह अविश्वास, बल्कि एक संतुलित, जाँचा-परखा भरोसा।

सबूत

अपनी कॉपी में अपना सवाल, AI का जवाब, व अपनी राय (जवाब भरोसेमंद लगा या नहीं, क्यों) लिखें।

5ब. दूसरा सबूत

अपनी कॉपी में यह भी लिखें कि "मतिभ्रम" की मिसाल (छोटे गाँव की तारीख़ वाली) को पढ़कर आपकी समझ में यह बात कैसे और साफ़ हुई, व आगे किस तरह के सवालों में आप ख़ास सतर्क रहेंगे।

AI-सहायक

AI से ख़ुद पूछें — "इस जवाब में तुम्हें कितना भरोसा है, कि यह पूरी तरह सही है?" कुछ AI-सेवाएँ अपने जवाब पर "भरोसे का स्तर" (confidence) भी बता सकती हैं, जो एक उपयोगी संकेत है।

6ब. दूसरा AI-सहायक-सुझाव

AI से यह भी पूछें — "इस जवाब में कौन-सी बात सबसे ज़्यादा जाँचने लायक़ लगती है?" ख़ुद AI से अपने ही जवाब की सबसे कमज़ोर कड़ी पूछना, एक दिलचस्प व उपयोगी तरीक़ा है, जो जाँच को आसान बनाता है।

7ब. दूसरी आम ग़लती

एक और ग़लती है, मतिभ्रम के डर से AI का इस्तेमाल पूरी तरह छोड़ देना। सही रवैया है — AI का इस्तेमाल जारी रखें, पर ज़रूरी जगहों पर सतर्कता व दो-स्रोत नियम अपनाएँ, यह डर से बचने से कहीं बेहतर तरीक़ा है।

आम ग़लती

सबसे बड़ी ग़लती है — AI के हर जवाब को, चाहे वह कितना भी आत्मविश्वास से कहा गया हो, बिना सोचे-समझे सच मान लेना। AI का आत्मविश्वास भरा लहजा उसकी सत्यता की गारंटी नहीं है।

7स. तीसरी आम ग़लती

एक तीसरी ग़लती है, मतिभ्रम की चिंता में इतना डूब जाना कि AI से हर छोटी, आसान, कम-जोखिम वाली बात पर भी शक करने लगें। संतुलन ज़रूरी है — छोटी बातों में सामान्य भरोसा रखें, बड़ी, ज़रूरी बातों में सतर्कता व दो-स्रोत नियम अपनाएँ।

सुरक्षा-पत्रक

किसी भी बड़े फ़ैसले (जैसे पैसे का निवेश, स्वास्थ्य से जुड़ी बात, क़ानूनी मामला) में AI से मिली जानकारी को अंतिम सच मानकर कभी फ़ैसला न लें — हमेशा किसी जानकार इंसान या भरोसेमंद, आधिकारिक स्रोत से पुष्टि करें।

8ब. एक और सुरक्षा-बात

अगर AI किसी बात पर बहुत आत्मविश्वास से कोई ऐसी जानकारी दे जो आपके पहले के ज्ञान/अनुभव से बिल्कुल मेल न खाए, तो उस पर आँख मूँदकर भरोसा करने की जगह, अपने अनुभव व सामान्य समझ को प्राथमिकता दें — यह भी एक तरह की जाँच है।

स्रोत

यह जानकारी सामान्य AI-साक्षरता व "AI मतिभ्रम" (Hallucination) की सार्वजनिक समझ पर आधारित है (देखा गया 14-08-2026)।

9स. अतिरिक्त टिप्पणी

मतिभ्रम को समझना, असल में एक बड़ी सोच-क्षमता (Critical Thinking) सिखाता है — यही हुनर सिर्फ़ AI तक सीमित नहीं, अख़बार, विज्ञापन, व सुनी-सुनाई बातों को परखने में भी जीवन-भर काम आता है।

योग्यता-जाँच

1. "मतिभ्रम" (Hallucination) का क्या मतलब है?
2. यह कब ज़्यादा होने की संभावना रहती है?
3. AI का आत्मविश्वास भरा लहजा सत्यता की गारंटी क्यों नहीं है?
4. मतिभ्रम से बचने का सबसे अच्छा तरीक़ा क्या है?
5. बड़े फ़ैसलों में AI-जानकारी का इस्तेमाल कैसे करना चाहिए?