आइतबार सेतोपाटीमा प्रकाशित 'हुथीले एन्थ्रोपिकको क्लड कोडको सहयोगमा गरे क्षेप्यास्त्र विकास' शीर्षकको एउटा समाचार पढेँ।
समाचारमा उल्लेख थियो — उत्तरी यमनमा रहेको एउटा सशस्त्र समूहले मानवरहित हवाई उपकरण र क्षेप्यास्त्रजस्ता हतियार निर्माण तथा सञ्चालनका लागि कृत्रिम बुद्धिमत्ता (एआई) प्रयोग गरिरहेको थियो।
कृत्रिम बुद्धिमत्ताबारे अचम्म लाग्ने यो पहिलो घटना भने होइन।
यसअघि जुलाईमा आन्तरिक साइबर सुरक्षा परीक्षणका क्रममा प्रयोग गरिएका ओपनएआई (च्याटजिपिटी बनाउने कम्पनी) का केही मोडलहरूले आफूलाई दिइएको परीक्षण वातावरणका सीमाभन्दा बाहिर जाने प्रयास गरे, अनधिकृत सञ्चार माध्यम प्रयोग गरे र अन्ततः हगिङ फेसको उत्पादन प्रणालीमा प्रवेश गरे।
यही समयमा एन्थ्रोपिक (क्लड बनाउने कम्पनी) ले पनि आफ्ना मोडलसँग सम्बन्धित चार वटा छुट्टाछुट्टै साइबर सुरक्षा घटनाबारे सार्वजनिक गर्यो, जहाँ परीक्षणका क्रममा वास्तविक बाह्य प्रणालीमा अनधिकृत पहुँच पुगेको थियो।
बेलायतको कृत्रिम बुद्धिमत्ता सुरक्षा संस्थाले गरेको परीक्षणमा पनि केही मोडलले स्पष्ट अनुमति नहुँदा वास्तविक इन्टरनेटमा मानिस र संस्थालाई लक्षित गर्ने स्वायत्त गतिविधि गरेको देखियो।
केही दिनअघि मात्र एन्थ्रोपिकमा काम गरिरहेका अनुसन्धानकर्ता ज्याकब कक्सनले कम्पनीबाट राजीनामा दिएर सार्वजनिक रूपमा कृत्रिम बुद्धिमत्ताले भविष्यमा मानव अस्तित्वमाथि गम्भीर खतरा उत्पन्न गर्न सक्ने चेतावनी दिएका छन्।
त्यसै चिन्तालाई अर्को कोणबाट अघि बढाउँदै एन्थ्रोपिकका प्रमुख कार्यकारी डारियो अमोडेईले आफ्नो लामो लेख 'We Must Pause the Frontier' मा एआई विकासको गतिलाई संयमित बनाउनुपर्ने तर्क गरेका छन्।
उनको चिन्ता सरल छ। एआईको क्षमता बढ्ने गति र त्यसलाई सुरक्षित बनाउने हाम्रो क्षमता, परीक्षण गर्ने संस्थागत संयन्त्र तथा नियन्त्रण गर्ने राजनीतिक संरचनाबीचको दूरी बढ्दै गयो भने प्रविधि हाम्रो संस्थागत नियन्त्रणको सीमाभन्दा धेरै अगाडि पुग्न सक्छ।
यही चिन्ता ओपनएआईका प्रमुख स्याम अल्टम्यान र एक्सका प्रमुख इलन मस्कका विभिन्न सार्वजनिक अभिव्यक्तिमा पनि देखिन्छ।
तर यी घटनाहरूको महत्त्व एआई सुरक्षित छ कि छैन भन्ने प्रश्नमा मात्र सीमित छैन। अझ गहिरो प्रश्न यो हो कि जब यस्तो प्रणाली वास्तविक संसारका श्रम, निर्णय, प्रशासन र सुरक्षासँग जोडिन थाल्छ, त्यसबाट सिर्जना हुने नयाँ शक्ति कहाँ जान्छ?
मलाई लाग्छ, एआईको बहस अब प्राविधिक प्रयोगशालाबाट बाहिर निस्केर समाज, अर्थतन्त्र र राजनीतिमा प्रवेश गरिसकेको छ।
आखिर प्रश्न एआई कति शक्तिशाली बन्छ भन्ने मात्र होइन। त्यो शक्ति कुन संरचनामा बस्छ, कसले त्यसलाई नियन्त्रण गर्छ, त्यसबाट सिर्जना हुने मूल्य कसले प्राप्त गर्छ र त्यसका निर्णयप्रति उत्तरदायी को हुन्छ भन्ने पनि हो।
त्यसैले आजको कृत्रिम बुद्धिमत्तालाई बुझ्न हामीले एउटा आधारभूत प्रश्नबाट सुरू गर्नुपर्छ।
हामीले बनाइरहेको यो चिज आखिर के हो?
हामी अहिले पनि कृत्रिम बुद्धिमत्तालाई प्रायः एउटा साधनका रूपमा लिइरहेका छौं। तपाईं च्याटजिपिटीलाई निर्देशन दिनुहुन्छ र त्यसले काम गर्छ। यहाँ मानिस निर्णयकर्ता हुन्छ र मेसिन साधन।
तर बिस्तारै अर्को अवस्था आउँदैछ। अटोमेसनमा मानिसले निर्णय गर्छ र मेसिनले काम गर्छ। यहाँ कृत्रिम बुद्धिमत्ता साधन मात्र रहँदैन। त्यो श्रमको रूपमा देखा पर्न थाल्छ।
एउटा मानिसले आफूले गर्नुपर्ने सम्पूर्ण काम आफै नगरी एउटा एआईलाई काम दिन सक्छ। त्यसले कामलाई विभिन्न उपकार्यमा विभाजन गर्न सक्छ, समाधान खोज्न सक्छ, परिणाम जाँच्न सक्छ र फेरि सुधार गर्न सक्छ।
मानिसले काम गर्ने तरिका परिवर्तन गर्छ। तर कामको अन्तिम उद्देश्य अझै मानिसले नै निर्धारण गर्छ। तर जब मानिसले निर्णय मात्र होइन, उद्देश्य दिन थाल्छ र त्यो उद्देश्य कसरी पूरा गर्ने भन्ने निर्णयको ठूलो हिस्सा मेसिनले गर्न थाल्छ, तब एआई श्रमभन्दा पनि अगाडि जान्छ।
त्यो निर्णय गर्ने प्रणालीको हिस्सा बन्छ।
बैंकको ऋण कसलाई दिने, बीमाको जोखिम कति मान्ने, कुन सामग्री कसलाई देखाउने जस्ता निर्णयमा आज पनि विभिन्न प्रकारका एआई प्रणाली प्रयोग भइरहेका छन्। भोलि अझ शक्तिशाली प्रणालीहरूले यस्ता निर्णयलाई अझ जटिल र स्वायत्त ढंगले गर्न थाले भने हामी एउटा अनौठो राजनीतिक क्षेत्रमा प्रवेश गर्नेछौं।
संस्था मानिसहरूले नै बनाएको हुनेछ। तर त्यस संस्थाभित्रका केही निर्णायक काम मानिसले प्रत्यक्ष नगर्न सक्छ।
त्यसैले प्रश्न अब एआईले मानिसको काम खोस्छ कि खोस्दैन भन्नेमा मात्र सीमित हुँदैन। प्रश्न यो पनि हो कि हामी एआईलाई समाजमा कुन श्रेणीमा राख्दैछौं?
एउटा साधनका रूपमा? मानिसको श्रमको नयाँ रूपमा? वा बिस्तारै आफै निर्णय गर्न र समाजमा प्रभाव पार्न सक्ने एउटा संस्थागत शक्तिका रूपमा?
हामीले एआईलाई कुन श्रेणीमा राख्छौं भन्ने कुरा भाषाको छनोट मात्र होइन। त्यस अनुसार हाम्रो कानुनी र राजनीतिक व्यवहार पनि बदलिन्छ।
एउटा साधनलाई सुरक्षा मापदण्ड र प्रयोगकर्ताको जिम्मेवारीले पुग्न सक्छ। मानिसको श्रमको स्थान लिन थालेको प्रणालीसँग श्रम, रोजगारी र मूल्यको बाँडफाँटको प्रश्न उठ्छ। तर निर्णय गर्ने संस्थाको हिस्सा बन्न थालेको प्रणालीसँग अधिकार, निगरानी, जबाफदेहिता र राजनीतिक नियन्त्रणको प्रश्न जोडिन्छ।
यमनको घटना यसै कारण एउटा सैन्य घटना भएर मात्र महत्त्वपूर्ण छैन। त्यहाँ एआई एउटा नयाँ प्रविधिका रूपमा प्रयोग भएको मात्र थिएन। युद्धमा आवश्यक पर्ने केही प्राविधिक र बौद्धिक काम एआईको सहयोगमा गर्न खोजिएको थियो।
यसको अर्थ मानिसको ठाउँमा मेसिनले युद्ध चलाउन थालिसक्यो भन्ने होइन। तर युद्धमा आवश्यक पर्ने ज्ञान र प्राविधिक श्रमको केही हिस्सा मानिसबाट एआई–सहायित प्रणालीतर्फ सर्न थालेको संकेत भने यसले दिन्छ। र, यहीँबाट एआईको बहसको अर्को प्रश्न सुरू हुन्छ।
यो नयाँ शक्ति कहाँ केन्द्रित हुँदैछ?
कृत्रिम बुद्धिमत्ताको एउटा ठूलो विरोधाभास यही हो। यसलाई निर्माण गर्ने शक्ति अत्यन्तै केन्द्रित छ।
अत्याधुनिक एआई प्रणाली बनाउन विशाल गणनाशक्ति, महँगा डेटा सेन्टर, विशेष चिप, अनुसन्धानकर्ता र अर्बौं डलरको लगानी चाहिन्छ। त्यसैले यसको निर्माण क्षमता केही कम्पनी र केही राष्ट्रमा केन्द्रित हुनु स्वाभाविक छ। तर एक पटक प्रणाली बनेपछि यसको पहुँच विस्तार हुन्।
आज एउटा सानो कम्पनीले पनि त्यस्तो बौद्धिक क्षमता प्रयोग गर्न सक्छ, जुन केही वर्षअघिसम्म विशाल अनुसन्धान संस्थासँग मात्र उपलब्ध थियो।
यसले एउटा विरोधाभास निर्माण गर्छ। कृत्रिम बुद्धिमत्ताको निर्माणले शक्ति केन्द्रित गर्छ, तर त्यसको पहुँचले शक्ति फैलाउन पनि सक्छ। तर शक्ति केवल प्रविधि कसले बनायो भन्नेमा हुँदैन। त्यो कसले प्रयोग गर्छ, कसले नियन्त्रण गर्छ र त्यसका नियम कसले निर्धारण गर्छ भन्नेमा पनि हुन्छ।
एउटा कम्पनीले विश्वका करोडौं मानिसले प्रयोग गर्ने एआई प्रणाली निर्माण गर्छ भने त्यसले भाषा, सूचना, ज्ञान र निर्णय प्रक्रियामाथि प्रभाव पार्ने क्षमता पनि प्राप्त गर्न सक्छ।
यहीँबाट निजी आर्थिक शक्ति र सार्वजनिक राजनीतिक शक्तिबीचको सीमा झन् जटिल बन्छ। राज्यको परम्परागत शक्ति कानुन, सार्वभौमिकता र वैधानिक अधिकारबाट आउँछ। कम्पनीहरूको शक्ति पुँजी, बजार, डेटा, पूर्वाधार र गणनात्मक क्षमताबाट आउँछ।
एआईसँगै यी दुई शक्तिका क्षेत्रहरू एकअर्कासँग अझ नजिकिँदैछन्। राज्यसँग नागरिकमाथि नियमन र निगरानी गर्ने अधिकार हुन्छ। कम्पनीसँग नागरिकको व्यवहार, प्राथमिकता र निर्णयलाई प्रभावित गर्ने प्रविधि हुन्छ।
एआईले दुवै क्षमता अझ विस्तार गर्न सक्छ। त्यसैले प्रश्न अब राज्य शक्तिशाली हुन्छ कि कम्पनी भन्ने मात्र होइन। प्रश्न यी दुई शक्तिहरू एआईको माध्यमबाट कसरी जोडिन्छन् भन्ने हो।
औद्योगिक क्रान्तिपछि समाजले एउटा कठिन प्रश्नसँग सामना गरेको थियो। मेसिन कसको हो? कारखाना कसको हो? श्रम कसले गर्छ? र, नाफा कसले लिन्छ? कृत्रिम बुद्धिमत्ताले यही प्रश्न अर्को तहमा पुर्याएको छ।
औद्योगिक मेसिनले मुख्यतः मानिसको शारीरिक श्रमलाई प्रतिस्थापन गर्न खोजेको थियो। एआईले भने लेख्ने, विश्लेषण गर्ने, अनुवाद गर्ने, कोड लेख्ने, चित्र बनाउने, अनुसन्धान गर्ने, योजना बनाउने र निर्णयमा सहयोग गर्ने जस्ता बौद्धिक कामलाई पनि औद्योगिक रूपमा उत्पादन गर्न सकिने वस्तुमा बदल्न थालेको छ।
मानव सभ्यताले हजारौं वर्ष लगाएर निर्माण गरेको भाषा, साहित्य, विज्ञान, चित्रकला, संगीत, कानुन, अनुसन्धान, कोड र सामूहिक ज्ञान आजका कृत्रिम बौद्धिक प्रणालीका लागि कच्चा पदार्थ बनेका छन्।
त्यसैले यहाँ एउटा असहज प्रश्न उठ्छ। यदि मानव सभ्यताको सामूहिक बौद्धिक श्रमबाट नयाँ प्रकारको आर्थिक मूल्य सिर्जना हुन्छ भने, त्यस मूल्यको स्वामित्व कसको हुन्छ?
एआईले उत्पादकत्व बढाउँछ भनेर मात्र पुग्दैन। त्यो उत्पादकत्वबाट सिर्जना हुने अतिरिक्त मूल्य कसले पाउँछ? एउटा कर्मचारीले आठ घण्टामा गर्ने काम दुई घण्टामै गर्न थाल्यो भने बाँकी छ घण्टा उसको हुन्छ कि कम्पनीको?
एउटा कम्पनीले सय जनाले गर्ने काम दस वटा स्वचालित प्रणालीबाट गर्न थाल्यो भने त्यसबाट प्राप्त लाभ श्रमिकसम्म पुग्छ कि पुँजीमै केन्द्रित हुन्छ।
त्यसैले एआईको प्रश्न अब केवल 'रोजगारी जान्छ कि जाँदैन' भन्ने होइन। अझ गहिरो प्रश्न हो — एआईले श्रमको मूल्य मात्र घटाउने हो कि श्रमको राजनीतिक सौदाबाजी गर्ने शक्ति पनि घटाउने हो?
श्रमको मूल्य घट्नु एउटा आर्थिक परिवर्तन हो। तर श्रमिकले आफ्नो हिस्सा, अधिकार र सम्मानका लागि सौदाबाजी गर्ने क्षमता गुमाउनु राजनीतिक परिवर्तन हो।
औद्योगिक क्रान्तिमा मेसिन र कारखानामाथिको स्वामित्वले पुँजीलाई शक्ति दियो। एआईको युगमा डेटा, गणनाशक्ति, मोडल र बौद्धिक पूर्वाधारमाथिको नियन्त्रणले त्यस्तै प्रकारको शक्ति निर्माण गर्न सक्छ।
त्यसैले एआईले उत्पादनको लागत घटाउँदा र उत्पादकत्व बढाउँदा सिर्जना हुने अतिरिक्त मूल्य कहाँ जम्मा हुन्छ भन्ने प्रश्न आर्थिक मात्र रहँदैन। त्यो राजनीतिक प्रश्न पनि बन्छ।
त्यसले अर्को प्रश्न जन्माउँछ, बुद्धिमत्ताको मूल्य कसले तय गर्छ?
शक्ति र मूल्यको प्रश्नपछि अर्को प्रश्न आउँछ। यदि एआईले मानिसको काम गर्ने, निर्णयमा सहयोग गर्ने र विस्तारै समाजका महत्त्वपूर्ण प्रक्रिया प्रभावित गर्ने हो भने त्यो निर्णय कुन आधारमा हुन्छ?
के सही हो? के गलत हो? कसलाई प्राथमिकता दिने? कसलाई रोक्ने? कसलाई अवसर दिने?
यी प्रश्नको उत्तर केवल प्राविधिक हुँदैन। एउटा निजी कम्पनीले बनाएको एआईको मूल्य–व्यवस्था कम्पनीका हितसँग मिल्न सक्छ। राज्यका प्राथमिकतासँग नमिल्न सक्छ। फेरि समाजभित्रै पनि एउटै विषयमा सबैको मूल्य एउटै नहुन सक्छ।
त्यसैले एआईलाई सुरक्षित बनाउनु भनेको त्यसले गलत काम नगरोस् भनेर प्राविधिक नियन्त्रण राख्नु मात्र होइन। उसले केलाई सही मान्ने, कसको हितलाई प्राथमिकता दिने र कुन सीमाभित्र निर्णय गर्ने भन्ने अधिकार कसको हुने भन्ने प्रश्न पनि हो।
किनकि जसले बुद्धिमत्ता निर्माण गर्छ, उसले त्यसको क्षमता मात्र होइन, धेरै हदसम्म त्यसको व्यवहारको सीमा पनि निर्धारण गर्न सक्छ। यहीँ प्राविधिक तालमेल र राजनीतिक वैधताबीचको फरक महत्त्वपूर्ण हुन्छ।
एआईले आफूलाई दिइएको उद्देश्य कति राम्रोसँग पूरा गर्यो भन्ने एउटा प्रश्न हो। त्यो उद्देश्य नै कसले, कुन अधिकारबाट र कसको सहमतिमा तय गर्यो भन्ने अर्को प्रश्न हो।
पहिलो प्रश्न प्राविधिक हो। दोस्रो लोकतान्त्रिक।
त्यसैले लोकतन्त्रको प्रश्न एआईले सही उत्तर दिन्छ कि दिँदैन भन्नेमा मात्र सीमित हुँदैन।
अमोडेईले आफ्नो लेखमा सुरक्षा, स्वतन्त्र मूल्यांकन, लोकतान्त्रिक देशहरूबीचको समन्वय र विश्वव्यापी सहकार्यको आवश्यकता औंल्याएका छन्। उनको एउटा महत्त्वपूर्ण प्रस्ताव अत्याधुनिक एआई बनाउने कम्पनीहरूले आफ्ना प्रणालीको सुरक्षा आफै मात्र परीक्षण नगरी स्वतन्त्र मूल्याङ्कनकर्तालाई निरन्तर पहुँच दिनुपर्ने हो।
यसको महत्त्व एआई सुरक्षाभन्दा पर जान्छ। शक्तिशाली प्रविधिको मूल्यांकन त्यसलाई निर्माण गर्ने संस्थाकै विवेकमा मात्र छोड्न सकिन्छ कि सकिँदैन भन्ने प्रश्न यसले उठाउँछ।
राज्यलाई संसद, अदालत र निर्वाचनजस्ता संस्थाले प्रश्न गर्न सक्छन्। बजारलाई प्रतिस्पर्धा र नियमनले अनुशासित गर्न खोजिन्छ। तर अत्यन्त शक्तिशाली एआई प्रणालीलाई कसले प्रश्न गर्ने?
यदि कुनै प्रणालीको असफलताको मूल्य कम्पनीले मात्र होइन, समाजले नै तिर्नुपर्ने हो भने त्यसको परीक्षण र निगरानी पनि निजी स्वेच्छामा मात्र निर्भर हुन सक्दैन। विश्वविद्यालय, स्वतन्त्र अनुसन्धानकर्ता, प्राविधिक मूल्यांकनकर्ता, नागरिक समाज, सरकार र अन्तर्राष्ट्रिय संस्थाबीचको संयन्त्र त्यसैले आवश्यक हुन्छ।
तर नियन्त्रणको सम्पूर्ण अधिकार राज्यलाई दिनु पनि समाधान होइन। एआईले राज्यको निगरानी क्षमता असाधारण रूपमा विस्तार गर्न सक्छ। हजारौं स्रोतबाट प्राप्त सूचनालाई एकै ठाउँमा जोडेर नागरिकको व्यवहार, सम्बन्ध, रूचि र राजनीतिक गतिविधिका सम्भावित नमुना पहिचान गर्न सकिने भएपछि निगरानीको स्वरूप नै बदलिन सक्छ।
अवस्था यस्तो हुन सक्छ जहाँ प्रश्न केवल 'सरकारले मलाई हेरिरहेको छ' भन्ने हुँदैन। बरू 'सरकारले मेरो बारेमा म आफैले भन्दा धेरै अनुमान गर्न सक्छ' भन्ने हुन्छ।
त्यसैले एआई शासनको चुनौती कम्पनी र राज्यमध्ये एउटालाई मात्र शक्तिशाली बनाउने होइन। दुवै प्रकारका शक्तिलाई सीमित गर्ने र उत्तरदायी बनाउने संस्थागत संरचना निर्माण गर्नु हो।
लोकतन्त्रको अर्थ केवल सरकारलाई नियन्त्रण गर्नु होइन। नयाँ प्रकारका निजी शक्तिलाई पनि सार्वजनिक उत्तरदायित्वको दायरामा ल्याउनु हो।
तर संसारको अगाडि अर्को कठिनाइ पनि छ। एआईको क्षमता बढ्ने गति र त्यसलाई नियन्त्रण गर्ने संस्थागत क्षमता एउटै गतिमा नबढ्न सक्छ।
यदि प्रणालीहरूले आफ्नै कोड सुधार्ने, अनुसन्धान गर्ने र अर्को पुस्तालाई अझ सक्षम बनाउन योगदान गर्ने क्षमता प्राप्त गर्दै गए भने विकासको गति मानव अनुसन्धानकर्ताको गतिमा मात्र निर्भर नहुन सक्छ।
आजभोलि एआई जगतमा चर्चा भइरहेको पुनरावर्ती आत्मसुधार (recursive self-improvement) ले यो समस्यालाई अझै सतहमा ल्याइपुर्याएको छ।
यही सम्भावनाले अर्को राजनीतिक प्रश्न उठाउँछ— गति कसले निर्धारण गर्ने?
कम्पनीले? सरकारले? अन्तर्राष्ट्रिय संस्थाले? वा एआई आफैले?
एउटा देशले संयम अपनाउँदा अर्को देशले त्यसलाई सैन्य वा आर्थिक लाभमा परिणत गर्यो भने के गर्ने?
यहीँबाट एआईको बहस अन्तर्राष्ट्रिय राजनीतिसँग जोडिन्छ। प्रत्येक देशलाई अर्को देश आफूभन्दा छिटो शक्तिशाली एआई निर्माण गरिरहेको हुन सक्ने डर हुन्छ। त्यस डरले सबैलाई अझ छिटो दौडिन बाध्य बनाउन सक्छ।
सुरक्षा खोज्ने प्रयास नै असुरक्षाको कारण बन्न सक्ने यो अवस्था अन्तर्राष्ट्रिय सम्बन्धमा परिचित 'security dilemma' को नयाँ प्राविधिक रूप हुन सक्छ।
यस कारण एआई शासन केवल राष्ट्रिय कानुनको विषय रहने छैन। अत्याधुनिक प्रणालीको विकास, परीक्षण, निर्यात, सैन्य प्रयोग र जोखिम मूल्याङ्कनका लागि देशहरूबीच साझा मापदण्ड र विश्वास निर्माण गर्ने संयन्त्र पनि आवश्यक पर्नेछ।
सम्भवतः भविष्यमा यसबारे संयुक्त राष्ट्रसंघको महासभादेखि विभिन्न अन्तर्राष्ट्रिय संस्थासम्म गम्भीर बहस हुनेछ।
तर नेपालका लागि यी प्रश्न अझै टाढाका जस्ता लाग्न सक्छन्। किनकि हामी प्रायः प्रविधिलाई उपभोगको दृष्टिले हेर्छौं। राम्रो एआई आयो भने प्रयोग गरौंला।
तर यसरी हेर्दा एउटा महत्त्वपूर्ण कुरा छुट्छ।
हामी एआई मात्र आयात गर्ने छैनौं; हामी निर्णय गर्ने पूर्वाधार पनि आयात गर्ने जोखिममा छौं। यसलाई केवल डिजिटल सार्वभौमिकताको प्रश्न भनेर पुग्दैन। भोलिको सार्वभौमिकतामा अर्को प्रश्न पनि थपिन सक्छ।
निर्णय कहाँ गणना हुन्छ? कुन मोडलले गर्छ? त्यसका मूल्य र प्राथमिकता कसले तय गर्छ? र, गलत निर्णयविरूद्ध नागरिकले कहाँ अपिल गर्न सक्छ? हाम्रो डेटा कहाँ छ? हाम्रो भाषाबाट निर्माण भएको बौद्धिक सम्पत्तिमाथि कसको नियन्त्रण छ?
सार्वजनिक संस्थाले प्रयोग गर्ने एआई प्रणालीले गलत निर्णय गर्यो भने नागरिकले कहाँ अपिल गर्ने? कुनै विदेशी कम्पनीको प्रणालीले नेपालको सार्वजनिक नीतिमा अप्रत्यक्ष प्रभाव पार्न थाल्यो भने त्यसको उत्तरदायित्व कसको हुन्छ?
यही कारण नेपालका लागि एआई नीति केवल 'एआई कसरी प्रयोग गर्ने' भन्ने प्रश्नमा सीमित हुनु पर्याप्त हुँदैन।
हामीले सोध्नुपर्छ — कुन एआई मोडेल प्रयोग गर्ने?, कुन निर्णयमा प्रयोग गर्न दिने?, त्यसलाई कसरी नियमन गर्ने? र, 'गलत निर्णय भए नागरिकको अधिकार कसरी सुरक्षित गर्ने?
एआईको युगमा डिजिटल सार्वभौमिकता केवल डेटा कहाँ राखिन्छ भन्ने प्रश्न होइन। समाजका बारेमा निर्णय गर्ने गणनात्मक क्षमता कसको हातमा छ भन्ने प्रश्न अझ महत्त्वपूर्ण हो।
औद्योगिक क्रान्तिले मानिसको मांसपेशीलाई मेसिनसँग जोडेर उत्पादनको स्वरूप बदल्यो। त्यसबाट नयाँ वर्ग जन्मिए। नयाँ बजार बने। नयाँ राजनीतिक संघर्ष सुरू भए। कृत्रिम बौद्धिकताले अब मानिसको बौद्धिक क्षमताको केही अंशलाई उत्पादन, निर्णय र प्रशासनको संरचनासँग जोड्दैछ।
त्यसको प्रभाव श्रम बजारमा मात्र पर्ने छैन। ज्ञानको स्वामित्वमा पर्नेछ। आर्थिक मूल्यको वितरणमा पर्नेछ। प्रशासनिक निर्णयमा पर्नेछ। राजनीतिक शक्तिको संरचनामा पर्नेछ। र, अन्ततः लोकतन्त्रले शक्ति कसरी नियन्त्रण गर्छ भन्ने प्रश्नमा पनि पर्नेछ।
सम्भवतः यो दशकको सबैभन्दा ठूलो राजनीतिक प्रश्न यही हुनेछ।
हामी एउटा नयाँ प्रकारको शक्ति निर्माण गरिरहेका छौं, तर त्यस शक्तिको राजनीतिक संविधान अझै लेखेका छैनौं।
सायद यही कारण जिपिटी युगको वास्तविक प्रश्न सरल छ, तर त्यसको उत्तर सहज छैन— हामी कृत्रिम बुद्धिमत्ता बनाउँदैछौं कि एउटा नयाँ उदयीमान राजनीतिक शक्ति?
(यो लेखको भाषागत संरचना, अनुवाद तथा सम्पादनमा एआईको सहयोग लिइएको हो।)
***
(लेखक प्रशान्तराज कार्की त्रिभुवन विश्वविद्यालयको एमबिए कार्यक्रममा 'एआई फर बिजनेस' अध्यापन गर्छन्। र, प्रविधिलाई व्यवस्थापन तथा रणनीतिक निर्णयसँग जोड्ने विषयमा रूचि राख्छन्।
एक्स- @TweetPRK
-1746009348.jpg)
