एआई को किसी भी चीज़ पर सीधा नियंत्रण देना एक बुरा विचार है - यह हमें कैसे वास्तविक नुकसान पहुंचा सकता है

लंदन: 2022 में उन्नत चैटबॉट चैटजीपीटी की रिलीज ने कृत्रिम बुद्धिमत्ता (एआई) को सबकी जुबान पर ला दिया। इसकी परिष्कृत क्षमताओं ने एआई के इतने उन्नत हो जाने को लेकर चिंताएं बढ़ा दीं कि हम इसे जल्दी नियंत्रित नहीं कर पाएंगे। इसने कुछ विशेषज्ञों और उद्योग जगत के नेताओं को चेतावनी तक दी कि यह प्रौद्योगिकी मानव के विलुप्त होने का कारण बन सकती है।

हालांकि,अन्य टिप्पणीकार आश्वस्त नहीं थे। भाषा विज्ञान के प्रोफेसर नोम चॉम्स्की ने चैटजीपीटी को ‘‘हाई-टेक साहित्यिक चोरी’’ कहकर खारिज कर दिया।

वर्षों तक, मैं मानव अस्तित्व और हमारे पर्यावरण पर एआई के प्रभाव की संभावना को लेकर निश्चिंत था। ऐसा इसलिए है क्योंकि मैंने हमेशा इसे इंसानों के लिए एक मार्गदर्शक या सलाहकार के रूप में सोचा है। लेकिन एआई द्वारा निर्णय लेने की संभावना - कार्यकारी नियंत्रण लागू करना - एक और मामला है। और यह वह है जिसके बारे में अब गंभीरता से सोचा जा रहा है।

एआई के पास कार्यकारी शक्ति न होने देने का एक प्रमुख कारण यह है कि इसमें पूरी तरह से भावनाओं का अभाव है, जो निर्णय लेने के लिए महत्वपूर्ण है। भावना, सहानुभूति और नैतिक दिशा-निर्देश के बिना, आपने एक आदर्श मनोरोगी का निर्माण कर दिया है। परिणामी प्रणाली अत्यधिक बुद्धिमान हो सकती है, लेकिन इसमें मानवीय भावनात्मक सोच की कमी होगी जो इसे अन्यथा तर्कसंगत निर्णय के संभावित विनाशकारी भावनात्मक परिणामों को मापने में सक्षम बनाती है।

जब एआई कार्यकारी नियंत्रण लेता है

महत्वपूर्ण बात यह है कि अगर हमें एआई को परमाणु शस्त्रागार का प्रभारी बनाना है तो हमें एआई को केवल अस्तित्व संबंधी खतरे के रूप में नहीं सोचना चाहिए। अनिवार्य रूप से नियंत्रण के पदों की संख्या की कोई सीमा नहीं है जहां से यह अकल्पनीय क्षति पहुंचा सकता है।

उदाहरण के लिए, विचार करें कि कैसे एआई आपकी स्वयं की कंज़र्वेटरी बनाने के लिए आवश्यक जानकारी को पहले से ही पहचान और व्यवस्थित कर सकता है। प्रौद्योगिकी की वर्तमान पुनरावृत्तियाँ आपको निर्माण के प्रत्येक चरण में प्रभावी ढंग से मार्गदर्शन कर सकती हैं और कई शुरुआती गलतियों को रोक सकती हैं। लेकिन भविष्य में, एक एआई परियोजना प्रबंधक के रूप में कार्य कर सकता है और ठेकेदारों का चयन करके और उन्हें सीधे आपके बजट से भुगतान करके निर्माण का समन्वय कर सकता है।

एआई का उपयोग पहले से ही सूचना प्रसंस्करण और डेटा विश्लेषण के लगभग सभी क्षेत्रों में किया जा रहा है - मौसम के पैटर्न को मॉडलिंग करने से लेकर चालक रहित वाहनों को नियंत्रित करने से लेकर चिकित्सा निदान में मदद करने तक। लेकिन यहीं से समस्याएं शुरू होती हैं - जब हम एआई सिस्टम को सलाहकार की भूमिका से कार्यकारी प्रबंधक की भूमिका तक महत्वपूर्ण कदम उठाने देते हैं।

किसी कंपनी के खातों के लिए केवल उपाय सुझाने के बजाय, क्या होगा यदि एक एआई को प्रत्यक्ष नियंत्रण दिया जाए, जिसमें ऋणों की वसूली के लिए प्रक्रियाओं को लागू करने, बैंक हस्तांतरण करने और मुनाफे को अधिकतम करने की क्षमता हो - ऐसा करने की कोई सीमा नहीं है। या कल्पना करें कि एक एआई प्रणाली न केवल एक्स-रे के आधार पर निदान प्रदान करती है, बल्कि सीधे उपचार या दवा लिखने की शक्ति भी देती है।

आप ऐसे परिदृश्यों के बारे में असहज महसूस करना शुरू कर सकते हैं - मैं निश्चित रूप से करूँगा। इसका कारण आपका अंतर्ज्ञान हो सकता है कि इन मशीनों में वास्तव में ‘‘आत्माएं’’ नहीं हैं। वे जटिल डेटा को बहुत सरल पैटर्न में सरल बनाने के लिए बड़ी मात्रा में जानकारी को पचाने के लिए डिज़ाइन किए गए प्रोग्राम हैं, जिससे मनुष्य अधिक आत्मविश्वास के साथ निर्णय ले सकते हैं।

उनमें भावनाएँ नहीं होती हैं - और हो भी नहीं सकती हैं, जो जैविक इंद्रियों और प्रवृत्तियों से घनिष्ठ रूप से जुड़ी होती हैं।

भावनाएँ और नैतिकता

भावनात्मक बुद्धिमत्ता तनाव को दूर करने, सहानुभूति व्यक्त करने और प्रभावी ढंग से संवाद करने के लिए हमारी भावनाओं को प्रबंधित करने की क्षमता है। यह तर्कसंगत रूप से अकेले बुद्धिमत्ता की तुलना में निर्णय लेने के संदर्भ में अधिक मायने रखता है, क्योंकि सबसे अच्छा निर्णय हमेशा सबसे तर्कसंगत नहीं होता है।

यह संभावना है कि बुद्धिमत्ता, तर्क करने और तार्किक रूप से काम करने की क्षमता को एआई-संचालित प्रणालियों में एम्बेड किया जा सकता है ताकि वे तर्कसंगत निर्णय ले सकें। लेकिन जलवायु संकट को हल करने के लिए कार्यकारी क्षमताओं वाले एक शक्तिशाली एआई से पूछने की कल्पना करें। पहली चीज़ जो इसे करने के लिए प्रेरित हो सकती है वह है मानव जनसंख्या में भारी कमी लाना।

इस कटौती को ज्यादा समझाने की जरूरत नहीं है. हम मनुष्य, परिभाषा के अनुसार, लगभग हर संभव रूप में प्रदूषण के स्रोत हैं। मानवता को खत्म करना जलवायु परिवर्तन का समाधान होगा।

एक उम्मीद है कि यह वह विकल्प नहीं है जो मानव निर्णय-निर्माताओं के पास आएगा, लेकिन एक एआई अपने स्वयं के समाधान ढूंढ लेगा - जिसमें नुकसान पहुंचाने से घृणा की न तो कोई भावना होगी और न ही ऐसा करने का कोई अपराधबोध। और यदि इसमें कार्यकारी शक्ति भी होगी, तो फिर इसे आगे बढ़ने से रोकने वाली कोई ताकत ही नहीं होगी।

खाद्य फार्मों को नियंत्रित करने वाले सेंसरों और मॉनिटरों को नुकसान पहुंचाने के बारे में क्या ख्याल है? यह शुरुआत में धीरे-धीरे हो सकता है, नियंत्रणों को एक निर्णायक बिंदु से थोड़ा पहले धकेलना ताकि किसी भी इंसान को पता न चले कि फसल बर्बाद हो गई है। कुछ परिदृश्यों में, इससे शीघ्र ही अकाल पड़ सकता है।

वैकल्पिक रूप से, विश्व स्तर पर हवाई यातायात नियंत्रण को बंद करने, या किसी एक समय में उड़ान भरने वाले सभी विमानों को दुर्घटनाग्रस्त करने के बारे में क्या ख्याल है? लगभग 22,000 विमान आम तौर पर एक साथ हवा में होते हैं, जो लाखों लोगों की संभावित मौत का कारण बन सकता है।

अगर आपको लगता है कि हम उस स्थिति से बहुत दूर हैं, तो फिर से सोचें। एआई पहले से ही स्वायत्त रूप से कार चलाते हैं और सैन्य विमान उड़ाते हैं।

वैकल्पिक रूप से, दुनिया के विशाल क्षेत्रों में बैंक खातों तक पहुंच बंद करने के बारे में क्या ख्याल है, जिससे हर जगह एक ही बार में नागरिक अशांति फैल जाए? या सर्दियों के बीच में कंप्यूटर-नियंत्रित हीटिंग सिस्टम बंद करना, या गर्मी के चरम पर एयर कंडीशनिंग सिस्टम बंद करना? 

संक्षेप में, मानवता के लिए गंभीर खतरे का प्रतिनिधित्व करने के लिए एआई प्रणाली को परमाणु हथियारों का प्रभारी बनाने की आवश्यकता नहीं है। लेकिन जब हम इस विषय पर हैं, यदि कोई एआई सिस्टम पर्याप्त शक्तिशाली और बुद्धिमान होता, तो यह परमाणु हथियारों वाले देश पर नकली हमले का एक तरीका ढूंढ सकता था, जिससे मानव-प्रारंभित प्रतिशोध शुरू हो सकता था।

क्या एआई बड़ी संख्या में इंसानों को मार सकता है? सैद्धांतिक रूप से इसका उत्तर हाँ होना चाहिए। लेकिन यह काफी हद तक इसे कार्यकारी नियंत्रण देने का निर्णय लेने वाले मनुष्यों पर निर्भर करता है। मैं वास्तव में एआई से अधिक भयानक किसी चीज़ के बारे में नहीं सोच सकता जो निर्णय ले सकती है और उन्हें लागू करने की शक्ति रखती है।