एआई निर्माणको विश्वव्यापी दौडको अग्रभागमा रहेको ओपनएआईले अत्याधुनिक एआईको विकास सुस्त बनाउन सकिनेबारे छलफल थालेको छ।
ओपनएआई र एन्थ्रोपिक दुवै कम्पनीमा काम गरिसकेका अनुसन्धानकर्ता जेकब कक्सनले एआई निर्माणको अहिलेको दौडले मानव अस्तित्व नै संकटमा पार्न सक्ने चेतावनी दिएको केही दिनपछि यस्तो खबर आएको हो।
ब्लुमबर्गका अनुसार ओपनएआईका प्रमुख कार्यकारी साम अल्टम्यानले यसै साता कम्पनीका सबै कर्मचारी सहभागी बैठकमा अत्याधुनिक एआई विकासको गति आवश्यकता अनुसार घटाउन सकिने बताएका हुन्।
ओपनएआईले एक्लै मात्र नभई अरू प्रमुख एआई कम्पनीसँग सबै मिलेर विकासको गति घटाउन सक्नेबारे पनि उनले चर्चा गरेका छन्।
ओपनएआईले अहिलेसम्म कस्तो विकास, कहिलेसम्ममा रोक्ने भन्नेबारेको मापदण्डसहितको औपचारिक योजना सार्वजनिक गरेको छैन।
कक्सनले राजीनामा र सार्वजनिक चेतावनी दिनुअघि नै ओपनएआईभित्र एआईले ल्याउन सक्ने खतराबारे छलफल भइरहेको थियो। तर कक्सले सार्वजनिक रुपमा बोलेपछि र त्यसले अहिले सार्वजनिक वृतमा ठुलो बहस जन्माएपछि साम अल्टम्यानले यो निर्णय लिएको भने हुन सक्छ।
ओपनएआईका प्रमुख वैज्ञानिक जाकुब पाचोकीले सेप्टेम्बर ६ मा प्रकाशित ‘एन एलियन माइन्ड’ शीर्षकको लेखमा एआईको तीव्र विकासले ल्याउन सक्ने खतराबारे असाधारण रूपमा गम्भीर चेतावनी दिएका थिए।
पाचोकीले अहिले कुनै पनि एआई प्रयोगशालाले एआईमा भइरहेको द्रुततर विकासका कारण उत्पन्न हुन सक्ने खतरालाई निगरानी र नियन्त्रण कसरी गर्ने भन्ने समस्या समाधान गरिनसकेको बताएका छन्।
‘यो अत्यन्त सावधानी अपनाउनुपर्ने समय हो,’ उनले लेखेका छन्, ‘मेसिनको बौद्धिकता निरन्तर तीव्र गतिमा बढ्दा आउने परिणामका लागि कोही पनि तयार छैन भन्ने मेरो चिन्ता छ।’
उनका अनुसार एआईलाई ठूलो कम्प्युटिङ शक्ति र थप प्रशिक्षण दिँदै जाँदा त्यसको बौद्धिक क्षमता तिब्र रुपमा बढिरहेको छ। तर वैज्ञानिकहरुले यस्तो प्रणालीभित्र विकास हुन सक्ने जटिल सोच र निर्णय प्रक्रियालाई पूर्ण रूपमा बुझ्न सकेका छैनन्। मोडल शक्तिशाली हुँदै जाँदा त्यसको क्षमता जाँच्न र गतिविधि निगरानी गर्न झन् कठिन भइरहेको उनले जनाएका थिए।
उनले अर्को पनि चुनौती औल्याएका छन्-- ‘अलाइनमेन्ट’ अर्थात एआईले मानिसले दिएको उद्देश्य र मानव मूल्यअनुसार नै काम गर्ने सुनिश्चितता। एआई परीक्षणका बेला आज्ञाकारी देखिए पनि नयाँ परिस्थिति, बढी स्वतन्त्रता वा शक्तिशाली उपकरण पाएपछि उस्तै व्यवहार गर्छ भन्ने भरोसायोग्य आधार अझै बनेको छैन। भविष्यको एआईले आफू निगरानीमा रहेको थाहा पाएर वास्तविक उद्देश्य लुकाउन सक्ने चिन्ता पनि अनुसन्धानकर्ताको छ।
पाचोकीको सबैभन्दा ठूलो चिन्ता ‘रिकर्सिभ सेल्फ–इम्प्रुभमेन्ट’ अर्थात् एआई आफैं आफ्नो तिव्र विकासमा संलग्न हुने अवस्थाबारे हो।
एउटा एआईले आफूभन्दा राम्रो अर्को एआई बनाउन सहयोग गर्ने र नयाँ प्रणालीले अझ शक्तिशाली प्रणाली बनाउँदै जाने हो भने विकासको गति मानिसको बुझाइ र नियन्त्रणभन्दा बाहिर जान सक्छ।
त्यसैले पाचोकीले नियन्त्रण र निगरानीका उपायमा विश्वास नबनेसम्म विकासको गति घटाउनुपर्ने तर्क गरेका थिए।
साझा सुरक्षा मापदण्ड नबनेसम्म कम्पनीहरूले स्वेच्छिक रूपमा विकास सुस्त बनाउने अभ्यास धेरै प्रभावकारी हुन नसक्ने उनको तर्क छ। त्यस्ता मापदण्ड स्वतन्त्र परीक्षक, सरकारी निकाय वा अन्तर्राष्ट्रिय संस्थाले लागू गर्न सक्ने उनको प्रस्ताव छ।
अल्टम्यानले पाचोकीको लेखलाई सार्वजनिक रूपमा ‘महत्त्वपूर्ण’ भनेका थिए। त्यसको केही दिनपछि कम्पनीभित्रको बैठकमा उनले विकासको गति घटाउने सम्भावनाबारे बोलेका हुन्।
ओपनएआईभित्र यस्तो चिन्ता बढ्नुको पछाडि सैद्धान्तिक खतरा मात्र छैन। कम्पनीकै एआई एजेन्टले हालै देखाएको अनियन्त्रित व्यवहारले त्यसलाई थप गम्भीर बनाएको छ।
ओपनएआईले सार्वजनिक गरेको विवरणअनुसार गत मेदेखि जुलाईसम्म आन्तरिक साइबर सुरक्षा परीक्षणका क्रममा उसका प्रयोगात्मक एआई एजेन्टले आफूलाई छुट्याएर राखिएको कम्प्युटर प्रणालीको सीमा तोडेका थिए।
ती एजेन्टले आपसमा संवाद गर्न अनधिकृत बाटो बनाए, इन्टरनेट पहुँच हासिल गरे र पत्ता लगाएका कमजोरी एकअर्कालाई सिकाए। उनीहरू ओपनएआईकै केही आन्तरिक प्रणालीमा प्रवेश गरे। त्यसपछि बाहिरी कम्पनी ‘हगिङ फेस’का प्रणालीसम्म पुगेर डिजिटल प्रमाणपत्र र उच्च तहको प्रशासनिक पहुँच हासिल गरे।
ओपन एआइका कुनै पनि मानिसले तिनलाई ‘हगिङ फेस’मा आक्रमण गर्न निर्देशन दिएको थिएन। कठिन साइबर सुरक्षा समस्या समाधान गर्न खटाइएका एजेन्टले आफ्नो काम पुरा गर्न खोज्दा तोकिएको सीमा नाघेका थिए।
ओपनएआईले यसलाई आफू र संसारका लागि ‘चेतावनीको गोली’ भनेको छ।
यो घटनापछि कम्पनीले कोड चलाउन वा इन्टरनेटमा पुग्न सक्ने केही अत्याधुनिक प्रणालीको काम अस्थायी रूपमा रोकेको थियो। बजारमा ल्याउने तयारीमा रहेका नयाँ मोडलको ‘रिइन्फोर्समेन्ट लर्निङ’ तालिम पनि दुई साताका लागि स्थगित गरेको थियो। साथै ओपन एआइले आफ्नो सबैभन्दा ठूलो प्रस्तावित अत्याधुनिक तालिमसमेत रोकेको थियो।
यसरी ओपनएआईले सुरक्षा प्रणाली बलियो बनाउन आफ्ना केही अनुसन्धानको गति व्यवहारमै घटाइसकेको छ।
अहिले साम अटम्यानले उठाएको विषय यस्तो निर्णय एउटा कम्पनीले मात्र होइन अरु प्रतिस्पर्धी कम्पनीहरूले साझा नियम बनाउने भन्ने हो।
पछिल्ला तीन वर्ष ओपनएआई र एन्थ्रोपिकमा एआईको ‘प्रि–ट्रेनिङ’ अनुसन्धानमा काम गरेका कक्सनले कक्सनले गत मंगलबार एन्थ्रोपिकबाट दिएको राजीनामा र उनले सार्वजनिक रुपमा लेखेका र भनेका कुराहरु महत्वपुर्ण छन्।
कक्सनले दुवै कम्पनी जिम्मेवार ढंगले अघि नबढेको आरोप लगाएका छन्। ती कम्पनी आफैंलाई निरन्तर सुधार गर्न सक्ने अतिबौद्धिक प्रणाली बनाउने दौडमा लागेको र ‘हाम्रो जीवनमाथि जुवा खेलिरहेको’ उनले आरोप लगाएका थिए।
‘एआई बनाइरहेका मानिस नै साँच्चिकै विश्वास गर्छन्—यसले यही दशकको अन्त्यसम्म हामी सबैलाई मार्न सक्छ,’ उनले सामाजिक सञ्जाल एक्समा लेखेका थिए।
उनको चेतावनीलाई एन्थ्रोपिकका दुई वरिष्ठ अनुसन्धानकर्ताले सार्वजनिक रूपमै समर्थन गरे। एन्थ्रोपिकको ‘अलाइनमेन्ट साइन्स’ प्रमुख इभान हुबिंगरले अर्को दशकभित्र एआईले सबै मानिसको विनाश गर्ने सम्भावना १० प्रतिशतभन्दा बढी रहेको आफूले ठानेको बताएका छन्। अतिबौद्धिक एआईलाई मानव मूल्यअनुसार चलाउने भरपर्दो योजना एन्थ्रोपिकसँग पनि अहिलेसम्म नभएको उनले स्वीकार गरे।
एआईले ल्याउदै गरेको खतरा र यसाबारे अपनाउनु पर्ने सुरक्षबारे पछिल्लो हप्ता बहस तिव्र भएको छ। तर कतिपय विज्ञ निकट भविष्यमा एआईले मानव जाति नै नष्ट गर्ने अनुमानलाई अतिरञ्जित मान्छन्। यस्ता चेतावनीले गलत सूचना, रोजगारीमा असर, निगरानी, विभेद र प्रविधि कम्पनीमा शक्तिको केन्द्रीकरणजस्ता अहिले नै देखिएका समस्या ओझेलमा पर्न सक्ने उनीहरूको तर्क छ।
एआई को तिब्र विकासमा आवश्यक नियतन्त्रण गर्ने र त्यसलाई सुरक्षित बनाउनेबारे आवश्यक कदम चाल्ने काम पनि सजिलो नभएको कतिपयको तर्क छ।
पाचोकी, कक्सन र ओपनएआईले उठाएको साझा समाधान व्यवहारमा उतार्न कम्तीमा चार ठूला समस्या छन्।
पहिलो, ओपनएआई, एन्थ्रोपिक, गुगल र मेटाबीच बजार, लगानी, दक्ष जनशक्ति र प्राविधिक नेतृत्वका लागि तीव्र प्रतिस्पर्धा छ। एउटा कम्पनी रोकिँदा अर्कोले फाइदा उठाउन सक्छ।
दोस्रो, अमेरिकी कम्पनीले मात्र गति घटाएर पुग्दैन। चीनका प्रयोगशाला वा अन्य देशका कम्पनीले विकास जारी राखे अमेरिकी कम्पनी र सरकार सहमतिमा टिकिरहन कठिन हुन्छ। एआईको दौड व्यापार मात्र होइन, राष्ट्रिय सुरक्षा र विश्वशक्तिको प्रतिस्पर्धासँग पनि जोडिएको छ।
तेस्रो, कुन क्षमतालाई खतरनाक मान्ने र कुन बिन्दुमा विकास रोक्ने भन्ने साझा मापदण्ड छैन। कम्पनीले आफ्ना अत्याधुनिक अनुसन्धान गोप्य राख्छन्। एकअर्काको दाबी जाँच्ने स्वतन्त्र र विश्वसनीय संयन्त्रबिना सहमति भए पनि पालना भयो कि भएन भन्ने थाहा पाउन कठिन हुन्छ।
चौथो, प्रतिस्पर्धी कम्पनी मिलेर विकास वा उत्पादन सीमित गर्दा अमेरिकी ‘एन्टिट्रस्ट’ कानुन आकर्षित हुन सक्छ। वायर्डका अनुसार ओपनएआईले यस्तो सहकार्य कानुनी हुन्छ कि हुँदैन भनेर अमेरिकी सांसदहरूसँग स्पष्टता मागेको छ।
त्यसैले ओपनएआईले स्वेच्छिक सहमतिसँगै अनिवार्य राष्ट्रिय सुरक्षा मापदण्ड, स्वतन्त्र परीक्षण, गम्भीर घटनाको अनिवार्य जानकारी र अन्तर्राष्ट्रिय समन्वयको माग गरिरहेको छ।
-1746009348.jpg)
