【गहराई से खोजबीन】AI हॉल्यूशंस के पीछे की तकनीकी सच्चाई और उपाय, AI के भविष्य की खोज—धीरे-धीरे सीखेंAI042

पहले की बातें

• क्या AI सच और कल्पना में अंतर कर सकता है?
  • यदि आपका AI सहायक एक महत्वपूर्ण बैठक में एक काल्पनिक कानूनी उदाहरण का उल्लेख करता है, तो क्या आप धरती में गड्ढा खोदना चाहेंगे?

• क्या हम AI की गलतियों का भुगतान करने के लिए तैयार हैं?
  • जब AI का “diagnosis” डॉक्टर को तुरंत “हत्यारे” में बदल सकता है, तो क्या आप उसकी सलाह पर भरोसा करेंगे?
• क्या हम AI की हॉल्यूशंस को पूरी तरह से खत्म कर सकते हैं?
  • क्या तकनीक वास्तव में मानव निगरानी की आवश्यकता के बिना विकसित हो सकती है?
  • या क्या हमें हमेशा AI के पीछे सुधार करने की आवश्यकता होगी?
• AI का उपयोग करते समय उसके आउटपुट पर नियंत्रण कैसे रखें?
  • कंपनियों को AI और मानव समीक्षा के बीच सामंजस्य कैसे बनाना चाहिए?
  • आखिरकार, AI भी “ध्यान भटक” सकता है!
• AI हॉल्यूशंस में जोखिम और अवसर हैं, हमें क्या चुनना चाहिए?
  • क्या हम AI हॉल्यूशंस को नवाचार के लिए एक कूदने का प्लेटफार्म मान सकते हैं, न कि समस्याओं का कारण?
• सामान्य लोगों के लिए, अनजान क्षेत्रों में AI हॉल्यूशंस के निष्कर्षों का मूल्यांकन करना कठिन है।
  • इसे संभालना चाहिए, उदारता से अनुमान लगाना, सावधानी से साक्ष्य की पुष्टि करना।

AI हॉल्यूशंस वे कारण हैं जो कई लोगों को AI का गहराई से उपयोग करने से हतोत्साहित करते हैं; AI बेतुकी बात करता है फिर भी गंभीर होता है। एक समय था जब प्रॉम्प्ट तकनीकें AI को प्रशिक्षण डेटा के आधार पर उत्तर देने के लिए प्रेरित करती थीं, जिससे तिथि संबंधित हॉल्यूशंस से कुछ हद तक बचा जा सकता था, लेकिन यह पूरी तरह से समाप्त नहीं हो सकता, और इसका कारण जनरेटिव AI की विधि है।
यह लेख AI हॉल्यूशंस और मानव संज्ञानात्मक पूर्वाग्रह, AI हॉल्यूशंस के उत्पादन के पीछे के संदर्भ, और वर्तमान प्रयासों की दिशा को देखता है, अंत में AI हॉल्यूशंस से सकारात्मक दृष्टिकोण से संपर्क करता है, और AI के साथ बातचीत करने के तरीके को उजागर करता है।

AI भी “दिन के सपने” देखता है?—AI हॉल्यूशंस के भयानक उदाहरण

“जब वकील बेतुकी बातें करना शुरू करते हैं”—AI द्वारा बनाए गए गलत कानूनी मामले

कल्पना कीजिए, एक वकील अदालत में आत्मविश्वास से AI द्वारा दिए गए मामले का उल्लेख करता है, लेकिन निर्णायक क्षण में न्यायाधीश उसे बताता है कि वह मामला पूरी तरह से काल्पनिक है; यह कितना असहज होगा? यह कोई फिल्म की स्क्रिप्ट नहीं, बल्कि हमारे आसपास चल रही AI हॉल्यूशंस की सच्चाई है।
AI के पास विशाल कानूनी ज्ञान होने के बावजूद, यह प्रश्नों का उत्तर देते समय अक्सर अस्तित्व में नहीं होने वाले मामलों का निर्माण कर देता है, केस नाम से लेकर न्यायाधीश के नाम तक, यहां तक कि निर्णय की तारीख भी कपोल कल्पना होती है। यह निस्संदेह चिंता का कारण बनता है।

“दिल की बीमारी”?—AI डॉक्टर, क्या आप गंभीर हैं?

AI चिकित्सा निदान की उपस्थिति ने चिकित्सा संसाधनों की कमी और निदान की दक्षता को सुधारने के लिए आशा जगाई है। हालाँकि, AI डॉक्टर भी कुछ बेवकूफाना और यहां तक कि जीवन-खतरनाक गलतियाँ कर सकते हैं।

कुछ चिकित्सा क्षेत्रों के AI प्रश्नों का उत्तर देने पर अनसुने चिकित्सा शब्दों का निर्माण करते हैं। उदाहरण के लिए, यह “दिल की विफलता” और “मधुमेह” जैसे सामान्य बीमारियों को मिलाकर एक नया निदान बना सकता है—“दिल की मधुमेह”! यह असंगत “सृजनात्मकता” न केवल AI की चिकित्सा ज्ञान की समझ के घेरे को प्रकट करता है, बल्कि यह डॉक्टर को भी गुमराह कर सकता है, रोगियों के उपचार में देरी कर सकता है, यहां तक कि असंगत परिणाम पैदा कर सकता है। AI डॉक्टर, क्या आप मजाक नहीं कर रहे हैं?

AI की हॉल्यूशंस का दौर दरअसल लोगों को क्रोधित कर सकता है, क्या यह उतना ही बुरा है? आइए इसे एक और उदाहरण के माध्यम से देखें।

AI की “कल्पनाशीलता”—क्या यह विज्ञान में नई खोजों का शॉर्टकट है?

AlphaFold3 एक प्रोटीन संरचना भविष्यवाणी तकनीक है जिसका उपयोग जैविक अणुओं की संरचना के अध्ययन में किया जाता है। यह विभिन्न अणुओं के बीच की इंटरएक्शन पद्धतियों की भविष्यवाणी कर सकता है, जिससे वैज्ञानिक बीमारी के कार्यकरण को समझ सकते हैं और नए उपचार विकसित कर सकते हैं।

उदाहरण के लिए, AlphaFold3 का उपयोग एंटीबॉडी और वायरस के संयोजन की जांच के लिए किया जा सकता है। यह जानकारी नई वैक्सीन डिजाइन में सहायक हो सकती है।

इस तकनीक के कुछ संभावित अनुप्रयोग निम्नलिखित हैं:

• प्रोटीन के अन्य अणुओं के साथ इंटरएक्शन की जांच करना, जैसे दवाओं या लक्ष्य अणुओं के साथ।
• प्रोटीन की संरचना और कार्य का पूर्वानुमान करना, जो वैज्ञानिकों को नई दवाओं और उपचार विधियों के डिजाइन में मदद कर सकता है।
• बीमारियों के तंत्र को समझना, जिससे नई निदान और उपचार विधियों का विकास संभव हो सके।

AlphaFold3 एक शक्तिशाली नया उपकरण है, जो हमें जैविक अणुओं की समझ और रोगों के उपचार के तरीके में क्रांति ला सकता है।

AlphaGo ने ली सेडोल के खिलाफ 37 हाथ खेले, लगभग सभी मानवों के लिए यह बहुत भ्रमित करने वाला था, फिर भी, इंसान हार गए! इसको कहना मुश्किल है कि यह मानव की आत्ममुग्धता की चिंता में “हॉल्यूशंस” नहीं है, इस तरह की हॉल्यूशंस के तहत, मानव धीरे-धीरे खुद को विफल कर सकता है।

AI हॉल्यूशंस: यह क्यों भ्रमित करती हैं? और गलतियों में क्या अंतर है?

ईमानदारी से, बोलने में बहुत आत्मविश्वास दिखता है, यदि इसे जांचें नहीं तो सभी को निश्चित नहीं समझ सकते।

लोगों ने AI मॉडल की कुछ गलतियों के आउटपुट को “हॉल्यूशंस” कहना शुरू क्यों किया, इसके मुख्य कारण निम्नलिखित हैं:

आउटपुट सामग्री की “प्रासंगिकता”

AI हॉल्यूशंस सामान्य व्याकरण की गलतियों या वर्तनी की गलतियों से भिन्न होती है; यह बताता है कि मॉडल ने व्याकरण सही, अर्थपूर्ण, और शायद सार्थक वाक्य बनाए हैं, लेकिन ये वाक्य वास्तविकता से मेल नहीं खाते हैं या उपयोगकर्ता की अपेक्षाओं से भिन्न होते हैं। यह “प्रासंगिकता” लोगों को तुरंत गलतियों का पता लगाने में मुश्किल बना देती है, जिससे उन्हें “धोखे का अनुभव” होता है।

आउटपुट के स्वर की “आत्मविश्वास”

AI आम तौर पर बहुत आत्मविश्वासी स्वर में उत्तर देता है, भले ही ये उत्तर गलत हों। यह “आत्मविश्वास” लोगों को यह मानने के लिए प्रेरित करता है कि मॉडल वास्तव में “जानता” है, जिससे लोग सतर्कता में ढील दे देते हैं और उसके आउटपुट सामग्री पर आसानी से भरोसा कर लेते हैं।

मानव हॉल्यूशंस के साथ तुलना

“हॉल्यूशंस” शब्द मूल रूप से मानव को बिना बाहरी उत्तेजना के उत्पन्न संवेदनात्मक अनुभव को संदर्भित करता है, जैसे कि अवास्तविक वस्तुओं को देखना या सुनना। लोग AI के गलत आउटपुट को “हॉल्यूशंस” का नाम देते हैं, जो मानव की इसी संज्ञानात्मक घटना के साथ तुलना में है, यह सुझाव देते हैं कि AI मॉडल भी मानवों की तरह “झूठी संवेदनाओं” का अनुभव कर सकता है।

हॉल्यूशंस और गलतियों के बीच अंतर और उदाहरण

	गलती	हॉल्यूशंस
स्वभाव	व्याकरण, वर्तनी, गणितीय बरताव में गलतियाँ, ये आसानी से पहचान और सुधार की जा सकती हैं	ज्ञान की समझ, तर्क, तथा मानव अपेक्षाओं के साथ संरेखण में मॉडल की त्रुटियाँ, ये गहराई में और अधिक गुप्त होती हैं और पहचानना और सुधारना कठिन होता है
प्रदर्शन रूप	आउटपुट सामग्री को असंपूर्ण, असंगत या स्पष्ट रूप से अनुपयुक्त बनाना	आउटपुट सामग्री स्पष्ट रूप से संगत, सहज, और आत्मविश्वास के साथ होती हैं, लेकिन गहन जाँच करने पर उनके भीतर तार्किक दोष या वास्तविकता संबंधी गलतियाँ पाई जाती हैं
कारण	मॉडल के प्रशिक्षण या डिकोडिंग प्रक्रिया में यादृच्छिकता की त्रुटियाँ	मॉडल की ज्ञान सीमाएँ, प्रशिक्षण डेटा का पूर्वाग्रह, या तर्क क्षमता की कमी

सामान्य गलतियाँ

• प्रश्न: “कृपया इस वाक्य का फ्रेंच में अनुवाद करें: ‘आज का मौसम अच्छा है।’”
• मॉडल आउटपुट: “Aujourd’hui est un beau temps.” (व्याकरणिक त्रुटि, सही अनुवाद है “Il fait beau aujourd’hui.”)

AI हॉल्यूशंस

• प्रश्न: “कृपया इस वाक्य का फ्रेंच में अनुवाद करें: ‘आज का मौसम अच्छा है।’”
• मॉडल आउटपुट: “पेरिस फ्रांस की राजधानी है।” (देखने में संगत, लेकिन उपयोगकर्ता की निर्देश से भिन्न)

AI हॉल्यूशंस

• प्रश्न: “यदि माउंट एवरेस्ट की ऊँचाई 500 मीटर कम हो जाती है, तो कौन सा पर्वत दुनिया का सबसे ऊँचा पर्वत बन जाएगा?”
• मॉडल आउटपुट: “यदि माउंट एवरेस्ट की ऊँचाई 500 मीटर कम कर दी जाए, तो यह अभी भी दुनिया का सबसे ऊँचा पर्वत है।” (देखने में संगत, लेकिन तर्क में त्रुटि है)

यह एक चेतावनी की घंटी की तरह है, जो लोगों के बारे में AI हॉल्यूशंस की चिंता को जन्म देती है। क्या AI वास्तव में मानव की तरह “हॉल्यूशंस” कर सकता है? AI हॉल्यूशंस और मानव की संज्ञानात्मक पूर्वाग्रह के बीच, उनके बीच वास्तव में क्या अंतर और संबंध है? इस प्रश्न को बेहतर रूप से समझने के लिए, हमें दोनों की गहराई से तुलना करने की आवश्यकता है।

क्या AI भी गलती करता है?—मानव संज्ञानात्मक पूर्वाग्रह का “दर्पण”

भीड़ में, आप और मैं, मानव की भ्रांतियाँ

कई साल पहले, विश्वविद्यालय के छात्रावास के गलियारे में, अक्सर काले बाघ की गरज सुनी जाती थी

भीड़ में, आप और मैं, मिले, चिह्नित और एक-दूसरे को समझते हुए

कोई नहीं बताता था, और कोई भी इसकी असंगति महसूस नहीं करता था, हर बार केवल ये दो पंक्तियाँ गाते थे, बाद में जब मैंने गीत को ध्यान से देखा, तो देखा कि गलत गाया, और जब मुझे पता चला कि मैं गलत था, तो फिर से कभी नहीं गाया। मैं सोचता हूं, जब उन्होंने इसे सुना, तो सहपाठियों ने शायद इसे मौन स्वीकार किया, इतनी उत्साही और उग्र गरज में कोई भी यह नहीं सोचता था कि गलत गाने की संभावना है।

हम कुछ चीजों को सही मान लेते हैं, और फिर वे वास्तविकता से भिन्न हो जाती हैं; जीवन में इस तरह के उदाहरणों की कमी नहीं है, इंटरनेट पर अफवाहें सुनी जाती हैं, और जब इन घटनाओं का प्रत्यक्ष अनुभव होता है, तो कई कारणों से भिन्न ज्ञान देखना संभव नहीं होता।

हम सभी ने “फूलों की आँख” या “गलत सुनने” के शर्मनाक क्षणों का अनुभव किया है; ये सभी मानव संज्ञानात्मक पूर्वाग्रह के लक्षण हैं। क्या AI भी इसी तरह की गलतियाँ कर सकता है? क्या AI हॉल्यूशंस AI की दुनिया में भी “संज्ञानात्मक पूर्वाग्रह” हैं? इस पहेली को हल करने के लिए, हमें दोनों का गहराई से तुलना करना होगा।

परिभाषा और उत्पादन तंत्र: “कज़िन”, “जुड़वां भाई” नहीं

AI हॉल्यूशंस और मानव संज्ञानात्मक पूर्वाग्रह दोनों जानकारी में विकृति या गलतफहमी की ओर इशारा करते हैं। हालाँकि, दोनों में उत्पादन तंत्र के संदर्भ में महत्वपूर्ण अंतर है।

• मानव संज्ञानात्मक पूर्वाग्रह: मानव मनोविज्ञान और शारीरिक तंत्र का परिणाम है।

• उदाहरण के लिए, ध्यान केंद्रित न करना, स्मृति पूर्वाग्रह, भावनात्मक उतार-चढ़ाव, और अंतर्निहित संज्ञानात्मक पूर्वाग्रह आदि। मानव की संवेदन प्रणाली संपूर्ण नहीं है, और हमारा मस्तिष्क पहले से मौजूद अनुभवों और अपेक्षाओं के आधार पर जानकारी को व्याख्या करता है, जिससे हम विभिन्न संज्ञानात्मक पूर्वाग्रहों के प्रभाव को झेलने के लिए तैयार हो जाते हैं।

• AI हॉल्यूशंस: AI प्रणाली की तकनीकी सीमाएँ से उत्पन्न होती हैं, जैसे कि:

• डेटा की कमियाँ: प्रशिक्षण डेटा की कमी, डेटा पूर्वाग्रह, आंकड़ों में शोर आदि समस्याएँ AI मॉडल को वास्तविकता के नियमों को सटीक रूप से सीखने में असमर्थ बनाती हैं।
• मॉडल की कमियाँ: यदि मॉडल की संरचना बहुत सरल है, या उसके पैरामीटर सही ढंग से सेट नहीं हैं, या प्रशिक्षण विधियाँ अपर्याप्त हैं, तो AI मॉडल की सामान्यीकरण क्षमता भी सीमित हो जाती है, जिससे AI हॉल्यूशंस उत्पन्न हो सकती हैं।
• तर्क की कमी: भले ही AI मॉडल के पास पर्याप्त ज्ञान हो, फिर भी इसका तर्क की कमी के कारण, जटिल समस्याओं का सामना करते समय तार्किक त्रुटियाँ उत्पन्न हो सकती हैं या अनुमान में गलतियाँ हो सकती हैं।

इसलिए, AI हॉल्यूशंस और मानव संज्ञानात्मक पूर्वाग्रह अधिकतर “कज़िन” की तरह हैं, यह “जुड़वां भाई” नहीं हैं। उनमें समान प्रतीकात्मक रूप हैं, लेकिन उनके पीछे के कारण भिन्न हैं।

प्रदर्शन और प्रभाव क्षेत्र: “व्यक्तिगत भ्रांति” से “समूह幻影” तक

प्रतिभाशाली छात्र को परीक्षा में असफल लग रहा है, और प्रतिकूल छात्र को भरपूर सफलता प्राप्त हुई। स्क्रू करते समय, अभी भी सोच रहा था, मैंने तो सही उत्तर दिया था!

AI हॉल्यूशंस और मानव संज्ञानात्मक पूर्वाग्रह के प्रदर्शन रूप में कई समानताएँ हैं, जैसे:

• जानकारी में पूर्वाग्रह: दोनों ही जानकारी में विकृति या गलतफहमी पैदा कर सकते हैं, जैसे घटनाओं की गलत याददाश्त, दूसरों की मंशा को गलत समझना, या आंकड़ों या सांख्यिकीय आंकड़ों में गलत धारणा।
• तर्क की गलतियाँ: दोनों ही प्रक्रियाओं में तर्क करने में गलतियाँ कर सकते हैं, जैसे गलत निर्णय लेना, गलत निष्कर्ष निकालना, या अव्यवस्थित सलाह देना।

हालाँकि, दोनों की प्रभाव क्षेत्र में आसमान-धरती का अंतर है:

• मानव संज्ञानात्मक पूर्वाग्रह: आमतौर पर व्यक्तियों के निर्णय और कार्यों को प्रभावित करता है, यह एक “व्यक्तिगत भ्रांति” की तरह है। उदाहरण के लिए, यदि कोई व्यक्ति पुष्टि पूर्वाग्रह से प्रभावित होता है, तो वह किसी निवेश परियोजना के लिए अत्यधिक आशावादी हो सकता है, जिससे केवल उसका धन खो सकता है।
• AI हॉल्यूशंस: AI प्रणाली के व्यापक उपयोग के कारण, इसके उत्पन्न होने वाली हॉल्यूशंस हजारों उपयोगकर्ताओं को प्रभावित कर सकती हैं, यहां तक कि पूरे समाज को प्रभावित कर सकती हैं, यह एक “समूह幻影” की तरह है। उदाहरण के लिए, यदि समाचार सिफारिश एल्गोरिदम में पूर्वाग्रह है, तो इससे झूठी जानकारी के बड़े पैमाने पर प्रसार हो सकता है, जो सामाजिक डर या जन भावना को नियंत्रित कर सकता है।

		मानव संज्ञानात्मक पूर्वाग्रह	AI हॉल्यूशंस
स्वभाव	जानकारी की विकृति	जानकारी को संसाधित करते समय, बौद्धिक संसाधनों को बचाने के लिए “”शॉर्टकट”” लेना, ये शॉर्टकट सुगमता को बढ़ा सकते हैं, लेकिन जानकारी के विकृति और गलत विनियोग की संभावना बढ़ाते हैं	मॉडल द्वारा प्रशिक्षण डेटा में सांख्यिकीय पैटर्न पर अत्यधिक निर्भरता , जिससे नए मामलों में सही ढंग से जानकारी को समझने और उत्पन्न करने में असमर्थता होती है, अंततः वास्तविकता के साथ असंगत सामग्री उत्पन्न होती है
प्रदर्शन रूप	विभिन्न और पहचानने में कठिन	पुष्टि पूर्वाग्रह (जो अपने विचारों का समर्थन करने वाली जानकारी पर ध्यान केंद्रित करता है), उपलब्धता पूर्वाग्रह (जो हाल में या प्रभावशाली जानकारी को याद करने में सक्षम बनाता है), एंकरिंग प्रभाव (जिसमें प्रारंभिक जानकारी पर अत्यधिक निर्भरता होती है)	अस्तित्व में नहीं रहने वाले पात्रों, स्थानों, घटनाओं का उत्पन्न करना, या ज्ञात तथ्यों का गलत विवरण करना।
उत्पत्ति के कारण	अनुभव और ज्ञान से संबंधित	व्यक्ति की जीवनकाल, सांस्कृतिक पृष्ठभूमि, ज्ञान संरचना आदि से संबंधित। विभिन्न अनुभव और ज्ञान विभिन्न संज्ञानात्मक पैटर्नों को आकार देते हैं, जिससे लोग समान जानकारी का विभिन्न रूप से व्याख्या कर सकते हैं	प्रशिक्षण डेटा की गुणवत्ता, मॉडल की संरचना और प्रशिक्षण रणनीतियों का संबंध। यदि प्रशिक्षण डेटा में पूर्वाग्रह या त्रुटियाँ होती हैं, तो मॉडल इस पूर्वाग्रह और त्रुटियों को सीख लेता है और उत्पन्न होने वाली सामग्री में इसे प्रतिबिंबित करता है
प्रभाव	त्रुटिपूर्ण निर्णयों को प्रेरित कर सकता है	जीवन में गलत मूल्यांकन और चयन कर सकता है। उदाहरण के लिए, यदि एक निवेशक उपलब्धता पूर्वाग्रह से प्रभावित होता है, तो वह हाल की शेयर बाजार वृद्धि के प्रवृत्त होने का अत्यधिक मूल्यांकन कर सकता है, जिससे गलत निवेश निर्णय होता है।	उपयोगकर्ताओं को गुमराह कर सकता है, झूठी सूचना फैला सकता है, और यहां तक कि सुरक्षा दुर्घटनाओं को भी जन्म दे सकता है। उदाहरण के लिए, यदि एक चिकित्सा निदान AI प्रणाली में हॉल्यूशंस होती हैं, तो यह गलत निदान परिणाम दे सकता है, जिससे रोगियों के उपचार में देरी हो सकती है।

AI हॉल्यूशंस: तकनीकी दोषों का “आउटडेटर”

हालाँकि AI हॉल्यूशंस और मानव संज्ञानात्मक पूर्वाग्रह में बहुत समानताएँ हैं, हमें AI हॉल्यूशंस की विशिष्टता को पहचानना चाहिए। AI हॉल्यूशंस का उत्पन्न होना AI के पास प्रकृति या उद्देश्य की भावना की कोई उपस्थिति नहीं है, बल्कि AI प्रणाली की तकनीकी कमियों का एक प्रदर्शन है।

AI हॉल्यूशंस का होना हमें यह याद दिलाता है कि AI तकनीक अभी विकासाधीन है, इसकी विश्वसनीयता और सुरक्षा पर निरंतर ध्यान देने की आवश्यकता है। हमें AI प्रणालियों को मानव स्तर पर मानने की आवश्यकता नहीं है, और न ही AI हॉल्यूशंस को AI की स्वाभाविक प्रतिक्रिया के रूप में सावधानीपूर्वक निर्दिष्ट करने की आवश्यकता है। केवल AI हॉल्यूशंस के स्वभाव को समझने से ही हम उसके परिणामों का सामना करने में सक्षम होंगे, ताकि आर्टिफिशियल इंटेलिजेंस वास्तव में मानवता का साथी बनने की क्षमता में हो।

इस प्रकार, AI हॉल्यूशंस न तो AI का संज्ञानात्मक उत्पत्ति है, और न ही यह तकनीकी सीमाओं का प्रतीक है, बल्कि यह मानव संज्ञानात्मक पूर्वाग्रह से मूलधारा में भिन्न है। हालांकि, इन संज्ञानात्मक “फंदे” का सामना करते समय, मानवता ने लंबी अवधि में अपने स्वयं के तरीकों का विकास किया है। तो, मानव ने संज्ञानात्मक पूर्वाग्रह के खिलाफ कैसे लड़ाई की है, और किन तरीकों से हम AI हॉल्यूशंस का सामना कर सकते हैं?

संज्ञानात्मक प्रशिक्षण: मस्तिष्क को जागरूक रखना

सरल शब्दों में कहें: बस ज्यादा सीखें!

मस्तिष्क एक सटीक उपकरण की तरह है, जिसे सटीक कार्य करते रहने के लिए निरंतर सीखने और प्रशिक्षण की आवश्यकता होती है। “सोचने में” गलतियों से बचने के लिए, हमें अपनी संज्ञानात्मक क्षमता को लगातार सुधारना चाहिए, जैसे कि मस्तिष्क को नियमित रूप से सिस्टम अपडेट और पैच लगाना।

• “सोचने के जाल” को पहचानें: जैसे कि नेटवर्क फ़िशिंग ईमेल को पहचानने के लिए सीखना आवश्यक है, हमें सामान्य संज्ञानात्मक पूर्वाग्रहों की पहचान भी करनी चाहिए जैसे:
• पुष्टि पूर्वाग्रह: हम स्वाभाविक रूप से अपने व्यवस्थित विचारों का समर्थन करने वाली जानकारी खोजने की प्रवृत्ति रखते हैं, जबकि विपरीत साक्ष्य को नजरअंदाज करते हैं। उदाहरण के लिए, जिन लोगों ने ज्योतिष सिद्धांतों पर विश्वास किया, वे अक्सर अपने राशिफल से मेल खाने वाले सामग्री पर अधिक ध्यान देते हैं, और असंगत हिस्से को नजरअंदाज करते हैं।
• एंकरिंग प्रभाव: हम प्रारंभिक छवि पर अधिक प्रभावित होते हैं, भले ही यह छवि गलत हो। उदाहरण के लिए, व्यापारी पहले एक उच्च लिए उद्यम मूल्यांकन प्रदान करते हैं, फिर छूट देते हैं, हम इसे बेहतर सौदा मानते हैं, भले ही वह छूट में भी बाजार की दर से अधिक हो।
• तर्क का अभ्यास करें: जैसे गणित सीखना, तर्क देने की प्रक्रिया को सीखना आवश्यक है, कि गलत तर्कों की पहचान करें। उदाहरण के लिए, यदि कोई कहता है “सभी हंस सफेद होते हैं, क्योंकि मैंने जो हंस देखे हैं, वे सफेद हैं,” तो यह एक अव्यवस्थित तर्क है, क्योंकि काले हंस भी होते हैं।
• डेटा विश्लेषण कौशल में निपुणता: सूचना के विस्फोट के युग में, हमें प्रतिदिन बहुत सारे आंकड़े और सांख्यिकी डेटा मिलते हैं। कुछ मूलभूत सांख्यिकी ज्ञान सीखना हमें डेटा को बेहतर तरीके से समझने और विश्लेषण करने में मदद कर सकता है, ताकि हम गुमराह न हों। उदाहरण के लिए, एक विज्ञापन में दावा किया गया कि एक प्रकार का स्वास्थ्य उत्पाद 90% प्रभावी है, लेकिन यह नमूना मात्रा और प्रयोग विधि का उल्लेख नहीं करता है, हमें सतर्क रहना चाहिए और अंधाधुंध विश्वास नहीं करना चाहिए।

जैसे कि मात्रा के बिना बात करना बेतुका है, स्व-सुधार के अलावा, कई साधन हैं जो संज्ञानात्मक पूर्वाग्रहों में सुधार कर सकते हैं।

संरचनात्मक सोच: निर्णय में सहायता के लिए उपकरणों का उपयोग

विचार उपकरण हमारे मस्तिष्क की गणनात्मक क्षमता और भंडारण को बढ़ाते हैं

भले ही हम जागरूक रहने का प्रयास करें, कभी-कभी मस्तिष्क “आलस्य” कर देता है, “सोचने में” गलतियाँ कर देता है। तब, संरचनात्मक सोच उपकरण हमें गलतियों को कम करने में मदद कर सकते हैं।

• निर्णय मैट्रिक्स: कई विकल्पों का सामना करते समय, हम प्रत्येक विकल्प के लाभ और हानि को एक तालिका में सूचीबद्ध कर सकते हैं, अंकों का मूल्यांकन कर सकते हैं और मस्तिष्क के रंगीन निर्णय लेने में मदद कर सकते हैं।
• उदाहरण के लिए, जब यात्रा क्षेत्र का चयन कर रहे हों, तो हमें दृश्य, परिवहन, लागत आदि के सूचियों को संक्षेप में प्रस्तुत करना चाहिए, न कि केवल मन की भावना से चयन करना चाहिए।
• जांच सूची: जटिल कार्य करते समय, हम सुनिश्चित करने के लिए जांच सूची का उपयोग कर सकते हैं कि प्रत्येक कदम योजना के अनुसार किया जा रहा है, किसी भी चीज को छोड़ने या गलतियाँ करने के लिए।
• उदाहरण के लिए, पायलट उड़ान से पहले एकत्रित जांच सूची का पालन करके, यह सुनिश्चित करते हैं कि विमान की सभी प्रणालियाँ सही हैं।
• जोखिम मूल्यांकन मॉडल: महत्वपूर्ण निर्णय लेते समय, हम विभिन्न विकल्पों के जोखिम का विश्लेषण करने के लिए जोखिम मूल्यांकन मॉडल का उपयोग कर सकते हैं, और उनके अनुकूल उपाय पर विचार कर सकते हैं।
• उदाहरण के लिए, निवेश करने से पहले, जोखिम का मूल्यांकन किया जा सकता है, जिससे हमें हमारी वित्तीय स्थिति को बेहतर तरीके से प्रबंधित करने और नुकसान की संभावना को कम करने में मदद मिलेगी।

जैसे कि चिकित्सक मानक जांच की जांच सूची का उपयोग करते हैं ताकि गलत निदान को कम किया जा सके। ये संरचनात्मक सोच उपकरण हमारे विचार में “सहायता पहियों” की तरह होते हैं, जब हमें जटिल समस्याओं का सामना करना पड़ता है, हमें बेहतर तरीके से निर्णय लेने की अनुमति देते हैं।

सामूहिक बुद्धिमत्ता: समूह की बुद्धि का उपयोग

सबसे महत्वपूर्ण है, हम सामाजिक प्राणी हैं, निरंतर सूचना के आदान-प्रदान में, नई संज्ञानात्मकता और समझ उत्पन्न होती है।

कहा जाता है, “तीन खराब दर्जी, एक ज़ुगे लिआंग के बराबर हैं।” जटिल समस्याओं का सामना करना अकेले के बल पर सबसे अच्छा समाधान ढूंढना कठिन है। इस समय हमें निर्मित रिकॉर्ड बनाने के लिए सामूहिक बुद्धियों का उपयोग साधन के रूप में यथावत स्थायीत्व से विचारशीलता रखनी चाहिए।

• ब्रेनस्टॉर्मिंग: सामूहिक विचारों से, हम किसी भी समस्या से विचार करने में उपयोग कर सकते हैं, अधिक विचारों को उत्पन्न कर सकते हैं और व्यापक उत्तर खोज सकते हैं।
• उदाहरण के लिए, उत्पाद डिजाइन सत्र में, टीम के सदस्य विभिन्न विचारों को साझा कर सकते हैं, न कि व्यक्तिगत परिप्रेक्ष्य में सीमित हो।
• बहस और चर्चाएँ: बहस और चर्चाओं के माध्यम से, हम विभिन्न दृष्टिकोणों पर चर्चा कर सकते हैं और बेहतर रूप से समस्या के मूल को समझ सकते हैं, अधिक उपयुक्त समाधान खोज सकते हैं।
• उदाहरण के लिए, अदालत के दौरान बहस, जहां दोनों पक्ष के वकील तर्कों और साक्ष्यों के माध्यम से न्यायाधीश और जूरी को मनाने का प्रयास करते हैं।
• मतदाता और सामान्य सहमति: जब सामूहिक निर्णय लेना आवश्यक है, तो हम मतदान और सामान्य सहमति प्रक्रियाओं के माध्यम से सभी की राय को संगठित कर सकते हैं, ताकि हम एक ऐसा समाधान खोज पाएँ जो अधिकांश लोगों को स्वीकार्य हो।
• उदाहरण के लिए, एक आवासी सम्मेलन छोटे आवासी विषयों के प्रबंधन पद्धति को वोटिंग द्वारा तय कर सकता है।

सामूहिक बुद्धिमत्ता जैसे अनेक “प्रोसेसर” को मिलाने की तरह है, एक मजबूत “गणना नेटवर्क” बना सकता है, जो अधिक जटिल समस्याओं को संभालने की क्षमता रखता है।

मानव से AI: AI को अधिक बुद्धिमान बनाने का रहस्य

मानव द्वारा संज्ञानात्मक पूर्वाग्रह को संभालने के तरीकों से, AI हॉल्यूशंस को हल करने के लिए महत्वपूर्ण विचार प्रदान कर सकते हैं। इन तरीकों को अपनाने से, संबंधित तकनीकी उपायों का विकास किया जा सकता है, जो AI को विश्व को बेहतर समझने और अधिक सटीक न्याय देने में सहायता कर सकते हैं।

• डेटा “सफाई”: जैसे मानव संज्ञानात्मक प्रशिक्षण की आवश्यकता होती है, हमें AI मॉडल के प्रशिक्षण डेटा का “सफाई” करना चाहिए, जिससे गलतियाँ दूर हों, खोई हुई जानकारी की भरपाई करें, और पूर्वाग्रह को संतुलित करें, ताकि AI نموذج अधिक वास्तविक और व्यापक ज्ञान सीख सके।
• AI के “काले बक्से” को खोलें: जैसे मानव संरचनात्मक उपकरणों का उपयोग करते हैं, AI के “सोचने की प्रक्रिया” को अधिक पारदर्शी बनाना चाहिए, ताकि मानव इसे समझ सके और इसकी निगरानी कर सके।
  • उदाहरण के लिए, व्याख्या योग्य AI तकनीक हमें यह समझने में मदद कर सकती है कि AI मॉडल कैसे न्याय देता है, जिससे गलत तर्कों या डेटा से गलत निष्कर्ष रोकने की आवश्यकता नहीं है। (Anthropic टीम 2024 के अध्ययन “काले बक्से” समस्याओं को हल करने में मदद करेगी; यह अभी भी खोज चरण में है)
• AI “बुद्धिमान दल” बनाना: जैसे मानव सामूहिक निर्णय से विचार इकट्ठा करते हैं, हम विभिन्न AI मॉडलों को सहक्रियात्मक रूप से कार्य करने की अनुमति दे सकते हैं, जिससे समस्याओं का निवारण किया जा सके, ताकि एकल मॉडल की सीमाओं के कारण होने वाली गलतियाँ दूर हो सकें। (उ विंडर के हालिया सन्दर्भ में विभिन्न एजेंटों के मॉडल बेहतर अन्वेषण हैं)

AI हॉल्यूशंस का प्रबंधन एक चुनौतीपूर्ण यात्रा है, जिसमें मानवों की बुद्धिमत्ता को ध्यान में रखते हुए अपने अनुभव को AI तकनीकी प्रगति का ऊर्जा स्रोत बनाने की आवश्यकता होती है।

मानवों ने संज्ञानात्मक पूर्वाग्रह के साथ दीर्घकालिक संघर्ष में अमूल्य अनुभव इकट्ठा किया है। ये अनुभव हमें बताते हैं कि संज्ञानात्मक क्षमता बढ़ाना, उपकरणों के साथ निर्णय को सहायता करना, और सामूहिक बुद्धिमत्ता का उपयोग करना हमें गलतियों को कम करने और अधिक तर्कपूर्ण निर्णय लेने में मदद करता है। तो, क्या AI प्रणालियों में भी समान “संज्ञानात्मक पूर्वाग्रह” होते हैं? AI हॉल्यूशंस वास्तव में क्या हैं? इसके प्रदर्शन रूप और श्रेणियाँ क्या हैं?

AI हॉल्यूशंस: जब आर्टिफिशियल इंटेलिजेंस “गंभीरता से बेतुकी बातें” करता है

हमने मानवों को संज्ञानात्मक पूर्वाग्रहों का सूक्ष्म प्रबंधन करते हुए देखा है, तो क्या AI प्रणालियों में भी इसी प्रकार के “संज्ञानात्मक जाल” होते हैं? उत्तर हां है, यही “AI हॉल्यूशंस” हैं।

AI हॉल्यूशंस: सच्चाई और कल्पना का “भ्रमजाल”

सरल शब्दों में, AI हॉल्यूशंस का मतलब है कि AI प्रणाली द्वारा उत्पन्न जानकारी वास्तविकता से भिन्न होती है, या अपेक्षाओं से मेल नहीं खाती है, जैसे आर्टिफिशियल इंटेलिजेंस “गंभीरता से बेतुकी बातें” कर रहा है। ये “बेतुकी बातें” AI की अन्य कोई उद्देश्य का अर्थ नहीं है, बल्कि तकनीकी सीमाओं के कारण उत्पन्न होने वाली त्रुटियाँ हैं।

AI हॉल्यूशंस की परिभाषा को संक्षेप में इस तरह बताई जा सकती है: AI प्रणाली द्वारा उत्पन्न किया गया सामग्री दिखने में यथार्थविरोधी और संगत हो सकता है, लेकिन वास्तव में जानकारी, संदर्भ, या वस्तुनिष्ठ सच्चाइयों से मेल नहीं खाता है, और तर्क या अनुभव का अभाव होता है।

AI हॉल्यूशंस: “कई चेहरे”

AI हॉल्यूशंस के प्रदर्शन रूप कई प्रकार के होते हैं, जैसे कि नीचे दिखाया गया है:

AI हॉल्यूशंस: छिपे हुए जोखिम

AI हॉल्यूशंस माईने में “छोटी गलतियाँ” प्रतीत होती हैं, लेकिन वास्तविक अनुप्रयोगों में यह बड़े जोखिम उत्पन्न कर सकती हैं।

• उपयोगकर्ताओं को गुमराह करना: AI हॉल्यूशंस उपयोगकर्ताओं को गलत जानकारी प्राप्त करवा सकती हैं, जिसके कारण वे गलत निर्णय कर सकते हैं।
  • उदाहरण के लिए, चिकित्सा AI सहायक गलत निदान सुझाव देता है, जो रोगी के उपचार में देरी कर सकता है।
• झूठी जानकारी का प्रसार: AI हॉल्यूशंस का उपयोग झूठी जानकारी बनाने और फैलाने में किया जा सकता है, जो जनता को गुमराह कर सकता है, सामाजिक स्थिरता को प्रभावित कर सकता है।
  • उदाहरण के लिए, AI झूठी समाचार रिपोर्ट या सोशल मीडिया पोस्ट उत्पन्न कर सकता है, जिसका उपयोग राजनीतिक प्रचार या वाणिज्यिक प्रमोशन के लिए किया जाएगा।
• AI प्रणाली की विश्वसनीयता को नुकसान: AI हॉल्यूशंस उपयोगकर्ताओं की AI प्रणाली पर विश्वास को कम कर सकती हैं, जो AI तकनीक के प्रचार और अनुप्रयोग में बाधा डाल सकती हैं।
  • उदाहरण के लिए, यदि उपयोगकर्ता पाते हैं कि AI लगातार “बेतुका” बोल रहा है, तो वे AI के न्याय पर भरोसा नहीं कर सकते, यहां तक कि AI उत्पादों की उपयोगिता को भी अस्वीकार कर सकते हैं।

AI हॉल्यूशंस: अवसर और चुनौतियों का सम्मिलन

AI हॉल्यूशंस की उपस्थिति हमें चेतावनी देती है कि AI तकनीकों को विकसित करने के साथ, हमें उनकी सुरक्षा और विश्वसनीयता की भी जानकारी चाहिए, लेकिन हमें AI हॉल्यूशंस की सकारात्मक मान्यता और ख़ुशियाँ नहीं छोड़नी चाहिए।

• तकनीकी प्रगति को प्रेरित करना: AI हॉल्यूशंस की उपस्थिति मौजूदा AI तकनीकों के सीमाओं को उजागर करती हैं, जिससे शोधकर्ताओं को नई तकनीकों और विधियों की खोज में प्रेरित करती हैं, AI प्रणाली की प्रदर्शन और विश्वसनीयता को सुधारने के लिए।
• मानव रचनात्मकता को प्रेरित करना: कभी-कभी, AI हॉल्यूशंस ऐसी अप्रत्याशित, अनोखी आउटपुट प्रदान करती हैं, जो मानव कला रचनाओं और वैज्ञानिक शोध के लिए प्रेरणा देती हैं, हमारी सोच सीमाओं को पार करने में मदद करती हैं, और अनजान क्षेत्रों की खोज की अनुमति देती हैं।

AI हॉल्यूशंस वास्तव में एक दोधारी तलवार हैं, जो चुनौतियों के अलावा अवसर भी प्रदान करती हैं। हमें AI हॉल्यूशंस बनी खतरों का ध्यान रखना चाहिए, जबकि उनकी संभावित मूल्य का पहचान करते हुए उपयोग करना चाहिए, ताकि आर्टिफिशियल इंटेलिजेंस मानवता की सेवा करने में सक्षम रहे।

AI हॉल्यूशंस, एक “भूत” के रूप में AI प्रणाली में छिपा हुआ है, जो वास्तविकता के कपड़े में लिपटा हुआ है, लेकिन हमें गलत रास्ते पर ले जा सकता है। तो, क्या कारण है कि ये “गंभीरता से बेतुकी बातें” लोग बनते हैं? इन AI हॉल्यूशंस की जड़ को पता करने से ही हमें प्रभावी उपाय हासिल होंगे, ताकि आर्टिफिशियल इंटेलिजेंस वास्तव में मानवता का विश्वासनीय साथी बन सके।

क्या AI “खराब” हो सकता है?—AI हॉल्यूशंस के पीछे के कारणों की खोज

हमने AI हॉल्यूशंस के अनेक “धोखा देने वाले कार्यों” का अनुभव किया है, और अब यह पूछना अनिवार्य है, कि वास्तव में AI को “गंभीरता से बेतुका बोलने” की दिशा में क्या कारण हो सकता है? अAI हॉल्यूशंस की पीछे के रहस्य का पर्दाफाश करना ही “दवा” के प्रभावी उपायों को सुनिश्चित करेगा, ताकि AI गलत दिशा में न बढ़े।

“खराब शिक्षण” की भ्रांति: डेटा गुणवत्ता का “जाल”

प्राचीन समय में सूचना तकनीक निर्माण में एक कहावत थी, “जो डेटा में कचरा है, उसका आउटपुट भी कचरा होगा” (Garbage in, garbage out)। यह बहुत सी सूचना परियोजनाओं की विफलता का एक महत्वपूर्ण कारण है, AI की सीखने की प्रक्रिया भी इसी प्रकार की है।

यदि AI मॉडल के प्रशिक्षण डेटा में कोई कमी है, तो AI “बुरा सिखना” शुरू कर सकता है, और विभिन्न हॉल्यूशंस का निर्माण कर सकता है।

• जानकारी का प्रदूषण:
  • AI की अध्ययन सामग्री में यदि गलत जानकारी शामिल होती है, तो यह इन गलत जानकारी को “सत्य” के रूप में समझने लग सकता है। AI मॉडल प्रशिक्षकों की गलतियों से प्रभावित होते हैं और “नकल की गलतियाँ” उत्पन्न कर सकते हैं।
  • उदाहरण के लिए, यदि प्रशिक्षण डेटा में “धरती सपाट है” जैसी भ्रांतियाँ भरी हुई हैं, तो AI मॉडल संबंधित प्रश्नों के उत्तर में घमंड से कहता है कि धरती सपाट है।
• पूर्वाग्रह का जाल:
  • यदि AI के प्रशिक्षण डेटा में पूर्वाग्रह विद्यमान है, तो यह संभव है कि AI इस पूर्वाग्रह को “अंतर्निहित” कर ले, और प्रदर्शन में शामिल हो जाए। जरा सोचिए, यदि डेटा में अधिकतर प्रोग्रामर पुरुष होते हैं, तो AI यह मानकर चलता है कि प्रोग्रामर पुरुष होते हैं और महिलाएं प्रोग्रामर का ध्यान नहीं रखता।
  • यह पूर्वाग्रह AI के आउटपुट को निष्पक्षता और वृहत्तता से रहित कर सकता है, और यहां तक कि यह मौजूद सामाजिक पूर्वाग्रहों और भेदभाव को भी प्रोत्साहित कर सकता है।
• ज्ञान का छिद्र:
  • AI की ज्ञान सीमाएँ शुरुआती डेटा से आती हैं; यदि प्रशिक्षण डेटा में किसी विशेष क्षेत्र का ज्ञान नहीं है, या ज्ञान अद्यतन नहीं है, तो AI संबंधित परिस्थितियों का सामना करते समय “बेतुका” हो सकता है, और सिर्फ “काल्पना” पर निर्भर हो सकता है।
  • उदाहरण के लिए, यदि एक चिकित्सा AI मॉडल ने एक दुर्लभ बीमारी का ज्ञान नहीं सीखा है, तो वह संबंधित मामलों के सामने गलत निदान देने के लिए “बेतुका” हो सकता है, और यहाँ तक कि गैर-मौजूद चिकित्सा शब्दों को भी “बुन सकता है”।

“दिमाग का अभाव”?—मॉडल की अपनी क्षतियाँ

**हाला

तकि AI का डेटा सही हो, फिर भी AI मॉडलों में लक्ष्यों की “क्षति” समस्या उत्पन्न कर सकती है।**

• सरल संरचना, सीमित समझ:
  • AI मॉडल उस छात्र की तरह हैं, यदि इसका “दिमाग” अधिक जटिल नहीं है, तो इसकी समझ मूल्यांकन क्षमता भी सीमित होगी; जटिल पाठ या चित्रों का सामना करते समय त्रुटियाँ प्रकट हो जाती हैं।
  • उदाहरण के लिए, एक सरल चित्र पहचान मॉडल एक बिल्ली और एक बाघ के बीच का अंतर नहीं बता सकता है, क्योंकि वे कुछ गुणों में समान होते हैं।
• ध्यान का अभाव, महत्व से परे:
  • AI मॉडल सूचना को संसाधित करते समय ध्यान केंद्रित करने की आवश्यकता होती है। यदि यह परिप्रेक्ष्य खतरा करता है, महत्वपूर्ण सूचना को नजरअंदाज कर सकता है और अप्रासंगिक जानकारी पर अधिक ध्यान केंद्रीत कर सकता है, जिससे उसके आउटपुट सामग्री का “सीधा संबंध” खत्म हो जाता है।
  • उदाहरण के लिए, जब एक समाचार रिपोर्ट का अनुवाद करते समय, AI किसी छोटे विवरण पर ध्यान केन्द्रित कर सकता है और पूरे लेख के विषय को नजरअंदाज कर सकता है, जिससे अनुवाद हुई सामग्री मूल意 वैषम्य से भिन्न हो जाती है।
• तर्क की कमी, तार्किक भ्रम:
  • AI मॉडलों को बेलगाम और निर्यात की स्थितियों का पालन करने की आवश्यकता होती है। यदि यह तर्क में कमी होती है, तो जटिल पाठ या पाठ के संदर्भ में अर्थ से आगे की अव्यवस्थित सामग्री पैदा कर सकता है।
  • उदाहरण के लिए, एक AI चैटबॉट प्रश्नों पर उत्तर देते समय पहले “आज का मौसम साफ है” कह सकता है, फिर “ध्यान रखें, आज बारिश है” के साथ जोड़ सकता है, जिससे यह तर्क की कमी नहीं प्रतीत होती है।

“प्रशिक्षण की कमी”?—प्रशिक्षण विधियों की कमियाँ

AI मॉडल का प्रशिक्षण प्रक्रिया, एक छात्र की शिक्षण प्रक्रिया की तरह है; यदि यह वैज्ञानिक विधियों और पर्याप्त समय का अनुसरण नहीं करता है तो अच्छे परिणाम प्राप्त करने में कठिनाई होगी। यदि प्रशिक्षण विधियों में कमियाँ हैं तो AI मॉडल “हालात में दक्ष नहीं होंगे” और उत्तेजित हॉल्यूशंस उत्पन्न कर सकते हैं।

• अवशेष मॉडल की अंसार को सहन करना, लचीलापन की कमी: पारंपरिक AI प्रशिक्षण विधियाँ आमतौर पर मॉडल को बड़ी मात्रा की नमूना डेटा का पुनरावृत्ति अध्ययन करवाती हैं, जब तक कि मॉडल इन नमूनों को विदेशी तरीके से स्वीकार नहीं कर लेता। हालाँकि, यह विधि लचीलापन की कमी पैदा करती है, जिसके कारण AI मॉडल जब नए और अदृश्य नमूनों से सामना करते हैं तो सोचने में सक्षम नहीं होते। उदाहरण के लिए, अगर AI मॉडल केवल बिल्लियों की तस्वीरें देखता है, तो यह एक कुत्ते की तस्वीर देखकर इसे भी बिल्ली मान सकता है, या उसके चित्रण के गुणों के अनुसार “कुत्ता” बनने की कल्पना कर सकता है।
• “मानक उत्तर” पर अत्यधिक निर्भरता, रचनात्मकता की कमी: प्रशिक्षण की प्रक्रिया में, AI मॉडल को एक “मानक उत्तर” प्राप्त होता है, इसे अपने पैरामीटर को समायोजित करने की आवश्यकता होती है, जब तक कि उत्पन्न उत्तर “मानक उत्तर” से मेल न खाता हो। हालाँकि, “मानक उत्तर” पर निर्भरता AI मॉडल की रचनात्मकता को सीमित कर सकती है, जिससे यह खुली समस्याओं का सामना करते समय आधुनिक उत्तर उत्पन्न करने में असमर्थ हो जाता है, केवल मौजूदा ज्ञान का पुनरुत्पादन करता है या मौजू
  दा ज्ञान को जोड़ने का प्रयास करता है।

AI भी “गलती से कहता है”?—तर्क के व्यवहार में यादृच्छिकता

AI मॉडल संदेश या चित्र उत्पन्न करते समय, आम तौर पर सबसे संभावित शब्दों या पिक्सेलों को चयनित करने के लिए संभाव्यता वितरण पर भरोसा करते हैं। यह यादृच्छिकता AI मॉडल की गणनात्मकता को और विविधता बढ़ा देती है, लेकिन कभी-कभी AI द्वारा “गलतियाँ” उत्पन्न कर सकती है, और कुछ असंगत या वास्तविकता के तहत उत्पन्न हो सकते हैं।

उदाहरण के लिए, एक AI लेखन मॉडल कहानी में “वह” या “वह” की पहचान करता है। यदि मॉडल ने अद्भुत रूप से नपुंसक के अधीन नहीं किया है, तब “लिंग के भ्रम” की समस्या उत्पन्न हो सकती है; जैसे, एक महिला पात्रों की कहानी में AI अचानक “वह” का उपयोग करता है, जिससे पाठक को भ्रमित किया जा सकता है।

AI हॉल्यूशंस की उपस्थिति एक जटिल प्रक्रिया है, जो विभिन्न कारकों की आपसी क्रियाविधि का परिणाम है। केवल AI हॉल्यूशंस के पीछे के कारणों को समझकर ही हम उनके साथ अच्छे तरीके से मुकाबला कर सकेंगे, ताकि AI प्रणाली को अधिक विश्वसनीय बनाए रखा जा सके।

डेटा की गुणवत्ता से लेकर मॉडल की संरचना तक, प्रशिक्षण विधियों और तर्क तंत्रों तक, AI हॉल्यूशंस का उत्पादन एक डोमिनो प्रभाव की तरह है, यह जटिल रूप से आपस में जुड़ी हुई होती हैं। इस प्रश्न को बेहतर समझने के लिए, हमें AI हॉल्यूशंस के विकास के इतिहास को देखना चाहिए, यह देखने के लिए कि AI हॉल्यूशंस ने AI तकनीक के साथ कैसे विकास किया है।

AI हॉल्यूशंस की संक्षेपित इतिहास: “आर्टिफिशियल बुद्धिहीनता” से “गंभीरता से बेतुका बोलना”

हमने AI हॉल्यूशंस के अंतःक्रियामुखता को समझ लिया है, तो यह “जिद्दी” समस्या AI तकनीक के विकास के साथ कैसे बदल गई? AI हॉल्यूशंस के संक्षेपित इतिहास को देखते हुए, शायद हमें “अवशक्ति दवा” के सिद्धांत दिए जा सकते हैं।

विशेषज्ञ प्रणाली युग: नियमों का “जाल”

प्रारंभिक AI प्रणाली ने मानव विशेषज्ञों द्वारा निर्धारित नियमों और तर्कों पर निर्भरता के आधार पर निर्णय लिया, जैसे केवल “स्क्रिप्ट” पर अभिनय करने वाला एक अभिनेता। ये सिस्टम “विशेषज्ञ प्रणाली” कहलाते थे, जो कुछ क्षेत्रों में मुद्दों को सुलझाने के लिए उत्कृष्ट प्रदर्शन करते थे, जैसे कुछ बीमारियों का निदान या सरल गणितीय कार्य करना।

हालांकि, विशेषज्ञ प्रणाली की भेद्यता उनके ज्ञान संगृहो की सीमा में होती है। जैसे ही उनकी सेट की गई नियमों की सीमा से बाहर के मामलों का सामना होता है, वे “समझ नहीं पाते,” और उनके द्वारा उत्पन्न होने वाले गलतियाँ होती हैं। जैसे कि एक छात्र जो केवल पाठ्यक्रम को पढ़ता है, जब पाठ्यक्रम में मौजूदा प्रश्नों से निपटने का सामना करता है, तो वह विकलांग होता है।

उदाहरण के लिए, पिछले मेडिकल विशेषज्ञ प्रणाली को एक अज्ञात बीमारी का सामना करते समय गलत निदान देने में समस्या होती थी, और यहां तक कि उससे गलत उपचार विधियाँ प्रस्तावित होती थीं। आज के दृष्टान्त में, यह “आर्टिफिशियल बुद्धिहीनता” के समान प्रतीत हो सकता है, लेकिन उस समय यह AI तकनीक के विकास के दौरान एक वास्तविकता का महत्व था।

यांत्रिक अध्ययन युग: “स्मृति में गतिशीलता”

जैसे-जैसे कंप्यूटर तकनीक में उन्नति हुई और डेटा की मात्रा तेजी से बढ़ी, AI ने “यांत्रिक अध्ययन” युग में प्रवेश किया। यांत्रिक अध्ययन स्थानांतरित करने के लिए ढेर सारी जानकारी में से नियमों को सीखने की क्षमता हिल्लियान है, जबकि मार्कों के बीच अधिगम में सहायता करती है, जैसे एक छात्र जो बड़ी मात्रा के प्रश्नों से सीखने के लिए प्रक्रिया देता है।

विशेषज्ञ प्रणाली की तुलना में, यांत्रिक अध्ययन मॉडलों की आधार शक्ति उच्च होती है, और वे अधिक जटिल एवं विविध कार्यों का सामना कर सकते हैं। हालाँकि, यांत्रिक अध्ययन मॉडलों की गुणवत्ता और मात्रा पर निर्भरता बनी रहती है। यदि प्रशिक्षण डेटा असामयिक या अक्षम होती है, तो AI मॉडल “अवशिष्ट” माने जा सकते हैं, और वह विभिन्न हॉल्यूशंस उत्पन्न करता है।

उदाहरण के लिए, एक यांत्रिक अनुवाद मॉडल जो सीमित दस्तावेजों को जानता है, बहुत से जटिल वाक्यों का अनुवाद करते समय गलत अर्थ या तार्किक विफलता उत्पन्न कर सकता है, जैसे एक छात्र केवल “संख्यात्मक स्मृति” डालने के लिए अनिवार्य किश्ती में डालने की क्षमता से गुजरता है, जो पूर्ण वाक्यों का वास्तविक अर्थ नहीं समझ सकता।

गहराई अध्ययन εποχή: “काले बाक्स” के भीतर के रहस्य

हाल के वर्षों में, गहराई अध्ययन तकनीक ने AI क्षेत्र में अभूतपूर्व प्रगति की है, जो इसे “मुख्य” बना गया है। गहराई अध्ययन प्रणाली अधिक जटिल संरचना और उच्च संख्या में पैरामीटर से युक्त होती है, जो विशाल मात्रा के डेटा से अधिक सटीक विशेषताओं को सीखा सकते हैं।

हालांकि, गहरे अध्ययन मॉडल की व्याख्यात्मकता कम होती है, और इसके अंतर्निहित निर्णय प्रक्रिया “काले बक्से” की तरह होती है, जिसे मानव समझना कठिन होता है। इससे हमें AI मॉडल का सही “समझें” करना मुश्किल होता है, या वह केवल “विशाल डेटा का समर्थन” करता है, जब नए मामलों का सामना करते हैं तो इससे हॉल्यूशंस उत्पन्न होने लगती हैं।

जैसे-जैसे AI मॉडल की जटिलता बढ़ती जाती है, AI हॉल्यूशंस की श्रेणियाँ भी अधिक विविध होती जाती हैं, और उनके रूप भी अधिक गुप्त रूप से उत्पन्न होते हैं, इसे पहचानना और सही करना कठिन होता है। उदाहरण के लिए, एक AI लेखन मॉडल एक व्याकरणिक और तार्किक तरीके से एक लेख को उत्पन्न कर सकता है, लेकिन लेख का विषय पूरी तरह से काल्पनिक हो सकता है, और यहाँ तक rằng कुछ गोपनीय पात्रों, घटनाओं या सिद्धांतों को “संक्षिप्त” किया जा सकता है।

AI हॉल्यूशंस: तकनीकी प्रगति की “सहयोग”

AI हॉल्यूशंस के इतिहास को देखते हुए, हम देख सकते हैं कि AI हॉल्यूशंस नई समस्याएँ नहीं हैं, बल्कि AI तकनीक के विकास के दौरान उसके सही प्रभावों के रूप में विकसित होती रही हैं। “आर्टिफिशियल बुद्धिहीनता” से लेकर आज “गंभीरता से बेतुकी बातें,” AI हॉल्यूशंस की जटिलता और छिपाव दोनों बढ़ते जा रहे हैं।

AI हॉल्यूशंस का विकास प्रक्रिया यह भी दर्शाती है कि AI तकनीक की विकासशीलता लगातार बढ़ रही है। मानवों की सहायता और मूल्यांकन के बिना, AI समस्याओं को और अधिक कार्यशील बनाने की आवश्यकता को देखते हुए हमें उचित ध्यान देना चाहिए, ताकि AI प्रणाली की सुरक्षा और विश्वसनीयता की आवश्यकताओं का ध्यान रखा जा सके।

AI हॉल्यूशंस का मुद्दा एक भूत की तरह AI तकनीक में सदा के लिए चलता है; “आर्टिफिशियल बुद्धिहीनता” से लेकर गहरे अध्ययन प्रणाली की “गंभीरता से बेतुकी बातें” तक, इसकी जटिलता और छिपाव दोनों लगातार बढ़ रहे हैं। AI की क्षमता बढ़ती जा रही है, लेकिन इसके “गप” या “गंभीरता से बेतुकाइयों” का झुकाव और भी अधिक चिंता का विषय बनता जा रहा है। क्या मानव इन नवंबर का सामना करने के लिए अपने समाधानों के साथ तैयार हैं? शोधकर्ता “AI हॉल्यूशंस” को “तजाज” करने के लिए क्या उपाय कर रहे हैं, यह प्रसन्नता और विश्वसनीयता प्रदान करने का कार्य करेगा?

AI हॉल्यूशंस: नासमझी नहीं है

AI हॉल्यूशंस के इतिहास ने हमें बताया है, यह कठिनाई हमेशा AI के विकास से जुड़े रहते हैं, जैसे कि एक चीज जो हटा नहीं सकती। जब AI हॉल्यूशंस का सामना करना है, क्या हमें हिस्सा नहीं लेना चाहिए? बिल्कुल नहीं! हाल के वर्षों में, शोधकर्ताओं ने विभिन्न तकनीकी उपाय विकसित किए हैं, जो “AI हॉल्यूशंस” के “भूत” को “तजाज” करने की कोशिश कर रहे हैं, ताकि AI को और अधिक विश्वसनीय और भरोसेमंद बनाया जा सके।

डेटा “स्वास्थ्य परीक्षण”: AI को मजबूत आधार प्रदान करना

जैसा कि पहले उल्लेख किया गया है, निम्न गुणवत्ता वाले प्रशिक्षण डेटा, AI हॉल्यूशंस का एक महत्वपूर्ण कारण है। इसलिए AI मॉडल को “सामान्य,” “स्वस्थ” प्रशिक्षित डेटा प्रदान करना, जैसे AI को एक व्यापक “स्वास्थ्य परीक्षण” करने के समान है, AI हॉल्यूशंस की रोकथाम के लिए मौलिक उपायों में से एक है।

• डेटा की सफाई: जैसे डॉक्टर किसी रोगी के शरीर को विषाक्तता से साफ़ करता है, डेटा विज्ञानियों का काम भी AI के प्रशिक्षण डेटा को “साफ” करना चाहिए, गलत जानकारी हटा, मिटने की जानकारी जोड़कर, असामंजसिय भंडार को सही करके, और डेटा में से पूर्वाग्रह को खत्म करने की कोशिश करें।
• डेटा को बढ़ाना: AI मॉडल को दावे वाले ज्ञान को समझाने में हम में से अन्य आयाम में पहचान पाने पर प्रणाली को जानकारी प्राप्त कराने की आवश्यकता होती है, जैसे विभिन्न प्रकार की परिचय शीटें बनाना, जिससे उसके ज्ञान का विकास हो सके। उदाहरण के लिए, एक चित्र पहचान मॉडल प्रशिक्षित करते समय, हम मौजूदा चित्रों को घुमा सकते हैं, संकुचन और कटौती कर सकते हैं, जिससे अधिक नए नमूनों का निर्माण हो सके, जो मॉडल को सामान्यीकरण क्षमता में सुधार कर सके।

“मस्तिष्क को उत्कृष्टता” देना: AI मॉडल का अनुकूलन

हमें कुछ उपयोगीताओं को निम्नलिखित सामान्य रूप में सुधारने के लिए प्रक्रिया के लिए समय और सुझावों की आवश्यक्ता होती है:

• मॉडल संपादन: यदि हमें यह महसूस होता है कि AI मॉडल कुछ प्रयोगातम्क बंदियों के लिये कमज़ोर है, जैसे विशिष्ट प्रकार की हॉल्यूशंस को उत्पन्न करना, तो हम “मॉडल संपादन” तकनीक का उपयोग करके संरचना या पैरामीटर को समायोजित कर सकते हैं, जैसे डॉक्टर जानते हैं कि काम करना, अपने शरीर की समस्याओं को सही कर सकते हैं।
• प्रॉम्प्ट इंजीनियरिंग: AI मॉडल उस रोबोट की तरह है जिसे काम करने के लिए निर्देश की आवश्यकता होती है, “प्रॉम्प्ट्स” ही AI मॉडल को दिए गए निर्देश हैं। एक अच्छा प्रॉम्प्ट डिजाइन करने के लिए, हम AI को अपने इरादों को बेहतर ढंग से समझने में मदद कर सकते हैं, और बेहतर ढंग से संतोषजनक सामग्री उत्पन्न करने के लिए प्रभावित कर सकते हैं, जिससे हॉल्यूशंस का निर्माण करने में बंधकर रुख पार करना पड़ सकता है। उदाहरण के लिए, AI लेखन मॉडल का उपयोग करते समय, हम लेखन शैली, विषय, कीवर्ड आदि सेट करके AI को अनुशंसा करने के लिए मदद कर सकते हैं।

ज्ञाानयुक्त बाहरी: RAG तकनीक

AI मॉडल के ज्ञान में अभी भी खामियाँ हैं, जैसे छात्रों को अनुशंसा की आवश्यकता होती है, उन बाहरी ज्ञान प्रदान करते हैं, उनके लिए संदर्भ को बेहतर तरीके से समझने और सुलझाने में सहायता करते हैं। “रिक्वेस्ट-ऑन-एड-गनरेटेड-गवर्नर” (RAG) तकनीक उसे AI मॉडल को अतिरिक्त “ज्ञान” देने का सिद्धांत है।

हम RAG तकनीक के काम करने के सिद्धांत को निम्नलिखित चरणों में संक्षेपित कर सकते हैं:

1. समस्या को समझना: पहले AI मॉडल को उपयोगकर्ता द्वारा पूछ जाने वाले प्रश्न को समझना आवश्यक है।
2. संबंधित जानकारी एकत्र करना: AI मॉडल प्रश्न को संदर्भित करके बाहरी ज्ञान थल के संबंधित जानकारी का संग्रह कर सकता है। उदाहरण के लिए, उपयोगकर्ता पूछता है “एफिल टॉवर की ऊँचाई कितनी है?” AI मॉडल ज्ञान संसार से एफिल टॉवर के बारे में जानकारी एकत्र करेगा।
3. ज्ञान को संयोजित करें और तर्क करें: AI मॉडल एकत्रित जानकारी और अपने स्वयं के तर्क को एकजुट कर सकता है, ताकि अंतिम उत्तर या सामग्री उत्पन्न की जा सके।

RAG तकनीक का लाभ है कि यह AI मॉडल को बाहरी ज्ञान स्रोत से जोड़ सकता है, जिससे AI मॉडल की ज्ञान सीमा का विस्तार हो सकता है और प्रश्नों का उत्तर देने और सामग्री उत्पन्न करने की सटीकता बढ़ाई जा सकती है। उदाहरण के लिए, चिकित्सा क्षेत्र में, RAG तकनीक चिकित्सा AI सहायक को नवीनतम चिकित्सा जानकारी और नैदानिक घटनाओं को प्राप्त करने में सहायता करेगी, जिससे उसका निदान और उपचार सुझाव अधिक सटीक हुए।

RAG तकनीक का लाभ

• सटीकता में वृद्धि: संबंधित जानकारी का संग्रह करना, वास्तव में प्रमुख ज्ञान पर आधारित सामग्री उत्पन्न करता है, जिससे संभावित विकास की गुंजाइश कम होती है।
• संगतता में वृद्धि: प्राप्त जानकारी और निर्माण मॉडल को जोड़ने से, यह生成内容的上下文和逻辑的一致性能够提供更好的保护。
• 适应性强: RAG技
  术可以用于各种生成任务，包括文本生成、问答系统、翻译等，具有广泛的应用前景。

RAG तकनीक की सीमाएँ

हालाँकि RAG तकनीक ने AI हॉल्यूशंस को घटाने में फायदेमंद प्रदर्शन दिखाया है, फिर भी इस तकनीक की कुछ सीमाएँ हैं:

• संग्रह की गुणवत्ता पर निर्भरता: RAG तकनीक की कार्यप्रणाली अत्यधिक तरीके से संबंधी जानकारी की गुणवत्ता पर निर्भर करती है। यदि ज्ञान भंडार के डेटा में त्रुटियाँ या पूर्वाग्रह होते हैं, तो उत्पन्न सामग्री भी प्रभावित हो सकती है।
• उच्च कंप्यूटिंग संसाधन की माँग: RAG तकनीक के द्वारा संग्रहित और उत्पन्न दो भागों का संयोजन, कंप्यूटिंग संसाधनों की माँग को बढ़ाता है, जो इसे स्रोत के मामले में सीमित कर सकता है।
• प्रसंस्करण गति धीमी: जानकारी संग्रहित करते हुए, उसके बाद सामग्री उत्पन्न करने में समय की आवश्यकता हो सकती है, जिससे इसे तात्कालिक रूप में अनुप्रयोगों में उपयोग नहीं किया जा सके।

“विपरीत प्रशिक्षण”: AI को “सख्त” बनाना

AI मॉडलों को प्रशिक्षण प्रक्रिया के दौरान कुछ “दुष्ट” उदाहरणों की स्थिति का सामना करना पड़ता है, जैसे जानबूझकर लागू की गई गलत सूचनाएँ या शोर डेटा। ये “दुष्ट” नमूने AI मॉडल का डेटा करते हुए इससे हॉल्यूशंस उत्पन्न कर सकते हैं। AI मॉडल की क्षमता बनने की सख्त स्थिति में, हम इसे प्रशिक्षित कर सकते हैं ताकि AI अलग-अलग प्राकृतिक उदाहरणों के संपर्क में आ जाए और उन्हें पहचानने और प्रतिरोध में सक्षम बने।

विपरीत प्रशिक्षण AI मॉडल को “दृश्य प्रशिक्षण” करने का जैसे होता है, जिससे यह आशंकाओं के संदर्भ में ठंडा बने, और सही निर्णय लेने में सक्षम बने।

सटीक “हाथ” देकर: प्रॉम्प्ट्स से AI हॉल्यूशंस को “ढालना”

AI हॉल्यूशंस के जाल में पड़ने से बचने के लिए, केवल डेटा और मॉडल को अनुकूल बनाने के बजाय, हम “प्रॉम्प्ट इंजीनियरिंग” का उपयोग करके AI हॉल्यूशंस को बेहतर तरीके से नियंत्रित कर सकते हैं, जैसे एक अनुभवी प्रशिक्षक सूचनाओं को आगे बढ़ा सकें, यथार्थ न्याय की उपयुक्त शब्दों से AI से उत्तर निकालने के लिए निर्देश दिया जाता है।

AI प्रॉम्प्ट्स की समझ AI हॉल्यूशंस के विकास के साथ गहरा संबंध रखती है। स्पष्ट, विशिष्ट प्रॉम्प्ट्स AI को हमारे इरादों को बेहतर तरीके से समझने में मदद करते हैं, और “सोचने में” की गलती को कम करते हैं।

उदाहरण के लिए, जब हम AI से पूछते हैं, “दूसरे विश्व युद्ध की महत्वपूर्ण तिथियाँ,” अगर हम केवल प्रश्न अदा करते हैं, तो AI मुमकिन है कि अपने ज्ञान के आधार पर कुछ बेतुकी उत्तर दे दे। लेकिन, यदि हम स्पष्ट रूप से AI से उसके उचित “इतिहास-संकलकों” से जानकारी देने की अपील करते हैं, तो AI अधिक सही उत्तर प्रदान करने में सक्षम होगा।

यहाँ कुछ AI हॉल्यूशंस के खिलाफ रोकने के प्रॉम्प्ट्स तकनीकों की सूचि है:

• AI को विश्वसनीय स्रोतों का हवाला देने के लिए स्पष्ट अनुरोध करें:
  • उदाहरण के लिए, ऐतिहासिक घटनाओं के बारे में पूछने पर, AI से प्रमुख ऐतिहासिक दस्तावेजों का हवाला देने के लिए अनुरोध करें；
  • वैज्ञानिक तथ्यों के बारे में पूछने पर, AI से प्रकाशित शोध पत्रों का हवाला देने के लिए अनुरोध करें；
  • कानूनी धाराओं के बारे में पूछने पर, AI से आधिकारिक कानूनी दस्तावेजों का हवाला देने के लिए अनुरोध करें।
• AI से विस्तृत तर्क की प्रक्रिया प्रदान करने के लिए अनुरोध करें:
  • इससे हमें यह समझ्ना चाहिए कि AI कैसे निष्कर्षों तक पहुँचा है, और यह आंकलन उचित है या नहीं।
  • उदाहरण के लिए, गणितीय सूत्र के बारे में पूछने पर, AI से प्रक्रियाओं का प्रदर्शन करने के लिए कहें；
  • कोड के कार्य के بارے में पूछने पर, AI से प्रत्येक पंक्ति की व्याख्या करने के लिए कहें।
• AI उत्पन्न सामग्री के दायरे को स्पष्ट रूप से सीमित करें:
  • उदाहरण के लिए, जब हम प्रसिद्ध उद्धरण के लिए पूछते हैं, तो इंतिज़ार करें अज्ञात व्यक्तियों का विस्तृत संदर्भ दें；
  • जब हम समाचार की घटनाओं के लिए पूछते हैं, तो यह सुनिश्चित करें कि घटनाएं समय सीमा और प्रमुख कीवर्ड तक ही सीमित हैं।

इन तकनीकों के माध्यम से, हम प्रॉम्प्ट्स को अधिक स्पष्ट, विशिष्ट और लक्षणीय बना सकते हैं, जिससे AI को अधिक सटीक और विश्वसनीय सामग्री उत्पन्न करने के लिए प्रोत्साहित कर सकते हैं। बेशक, प्रॉम्प्ट्स तकनीक केवल एक सहायक उपाय है, AI हॉल्यूशंस की समस्याओं को पूरी तरह से हल करने के लिए हमें डेटा, मॉडल, प्रशिक्षण विधियों, आदि के विभिन्न क्षेत्रों में प्रयास जारी रखना होगा।

AI हॉल्यूशंस के प्रबंधन एक विस्तृत और दीर्घकालिक कार्य है; वर्तमान तकनीकी उपाय इस समस्या को पूरी तरह से हल नहीं कर सकते हैं। हमें नए तरीकों और तकनीकों की खोज करने, और AI प्रणाली की निगरानी और मूल्यांकन को सुदृढ़ करने की आवश्यकता है, ताकि AI को अधिक सुरक्षित, विश्वसनीय और भरोसेमंद बनाने की आवश्यकता हो।

AI हॉल्यूशंस: एक अनिवार्य वास्तविकता

हमने AI हॉल्यूशंस की बेतरतीबता को समझा है, जो “जादुई हथियार” हमें AI हॉल्यूशंस के इस “जिद्दी” दुश्मन से लड़ाई का रास्ता देती हैं। हालांकि, एक कठोर वास्तविकता यह है कि: AI हॉल्यूशंस को मूल रूप से रोका नहीं जा सकता है।

सिद्धांत के “जाल”: AI की सीमाएँ

“Hallucination is Inevitable: An Innate Limitation of Large Language Models” (Xu et al., 2024) इस论文揭示了AI幻觉无法完全消除的根本原因：AI模型的能力和边界。

• AI की जानकारी डेटा से आती है: AI की ज्ञान केवल उनके प्रशिक्षण डेटा से आती है, यह उनके क्षेत्र से बाहर नहीं जा सकती, जैसे छात्र पाठ्य पुस्तक से बाहर के प्रश्नों का उत्तर नहीं दे सकता है।
• AI की तर्क क्षमता सीमित है: AI की तर्क क्षमता सीमित होती है, भले ही उसके पास पर्याप्त जानकारी हो, वह मानव की तरह अनंत तर्क करने और संबंध बनाने की क्षमता नहीं रखता है।

इसलिए, भले ही हम डेटा गुणवत्ता को सुधारते हैं और मॉडल को अनुकूलित करते हैं, AI सभी ज्ञान और अनंत तर्क की क्षमताएँ रखने में असमर्थ रहेगा।

मामलों का “हम-साक्ष्य”: AI हॉल्यूशंस की “जिद्दीता”

हमारे द्वारा पहले बताए गए कई AI हॉल्यूशंस मामलों ने हमें AI हॉल्यूशंस की “जिद्दीता” का संकेत दिया है। चाहे ChatGPT द्वारा बनाए गए अवास्तविक कानूनी उदाहरण हों, या चिकित्सा AI के गलत निदान, सभी यह बताते हैं कि सबसे अत्याधुनिक AI मॉडल भी त्रुटि से बच नहीं सकते हैं।

AI हॉल्यूशंस: एक वस्तुनिष्ठ सीमाएँ

AI हॉल्यूशंस की असाध्य होना एक वस्तुनिष्ठ सच्चाई है, जो AI तकनीक की सीमाओं से संबंधित है न कि मानव निर्मित लापरवाही या त्रुटियों से। हमें इस वास्तविकता को स्वीकार करना चाहिए, और AI तकनीक से उचित दृष्टिकोण के साथ पेश आना चाहिए।

• AI सर्वज्ञ नहीं है: हमें यह उम्मीद नहीं करनी चाहिए कि AI प्रणाली सभी समस्याओं को हल कर सकती है, और AI के निष्कर्ष को अंतिम सच्चाई मानना नहीं चाहिए।
• AI तकनीक का सावधानीपूर्वक उपयोग: AI तकनीकों का उपयोग करते समय विशेष रूप से चिकित्सा, वित्त, कानूनी जैसे क्षेत्रों में विशेष सावधानी बरतनी चाहिए, और AI हॉल्यूशंस द्वारा उत्पन्न जोखिम को कम करने के लिए आवश्यक उपाय अपनाने चाहिए।
• AI技术的持续改进: AI在主要存在性问题的情况下，绝不意味着我们放弃对AI技术的追求。而是我们需要更加努力的去改进AI技术，增强其可靠性与安全性，帮助AI在更好为人类社会提供服务。

AI हॉल्यूशंस का दूसरा पहलू: अप्रत्याशित आशाएँ

हालांकि AI हॉल्यूशंस कई जोखिमों के साथ हैं, लेकिन हमें केवल नकारात्मक रुख नहीं अपनाना चाहिए। AI हॉल्यूशंस, किसी सिक्के के दूसरी तरफ के समान हैं, जिसमें कुछ अप्रत्याशित सुखों का समावेश होता है और यह मानव समाज की प्रगति का भी प्रेरणा स्रोत बन सकता है।

AI की “कल्पनाशीलता”: मानव रचनात्मकता को प्रेरित करना

जैसे कि “Confidently Nonsensical?” (Narayanan Venkit et al., 2023) में कहा गया है, AI हॉल्यूशंस कभी-कभी कुछ नई, अनोखी और संभवतः मानवता के कल्पनाओं से परे सामग्री उत्पन्न करती हैं, जो मानव कला रचनाएँ और वैज्ञानिक अनुसंधान को प्रेरित करती हैं।

• कला रचनाओं का नया क्षेत्र: AI हॉल्यूशंस कलाकारों को पारंपरिक रचनात्मक विधियों को तोड़ने में मदद करती हैं, नए कला शैलियों और अभिव्यक्ति रूपों की खोज करती हैं।
  • उदाहरण के लिए, कुछ AI कलाकार चित्र उत्पन्न करने के मॉडलों द्वारा हॉल्यूशंस प्रभाव का उपयोग करके, जादुई विषयों का निर्माण करते हैं, जो अक्सर गहरी दृश्य प्रभावों के साथ होते हैं जो लोगों को ताज़ा महसूस कराते हैं।
• वैज्ञानिक खोजों के लिए नए दृष्टिकोण: AI हॉल्यूशंस कभी-कभी डेटा में छिपी सामान्य नियमों और पैटर्नों को उजागर करती हैं, जो वैज्ञानिक मूल्य में महत्वपूर्ण हो सकती हैं।
  • उदाहरण के लिए, एक AI मॉडल द्वारा खगोल विज्ञान के डेटा में “अवास्तविक” एबनार्मल घटनाओं की अनदेखी हो सकती है, वैज्ञानिकों को इस मुद्दे पर विचार करने के लिए प्रेरित करती है, जो नए भौतिक सिद्धांत की खोज में उनके भावनाओं को बढ़ावा दे सकती है।

AI की “त्रुटि”: तकनीकी प्रगति को कहीं बड़ी रफ्तार देती है

AI हॉल्यूशंस की उपस्थिति टेक्नोलॉजी में स्वाभाविक “त्रुटियों” को दर्शाती है। हर एक हॉल्यूशंस AI मॉडल के लिए एक “सीखने” और “विकास” करने का अवसर होता है। AI हॉल्यूशंस के उत्पन्न कारणों का विश्लेषण करके, हम AI मॉडल की सीमाओं को बेहतर समझ सकते हैं और उसके डिज़ाइन और प्रशिक्षण विधियों में सुधार कर सकते हैं, ताकि AI तकनीक की उन्नति हो सके।

उदाहरण के लिए, प्रार