विश्वका दुई प्रमुख एआई कम्पनी एन्थ्रोपिक र ओपनएआईका प्रमुखहरू अत्याधुनिक एआई विकासको गति सुस्त बनाउनुपर्ने पक्षमा सार्वजनिक रूपमा एकमत भएका छन्।
एन्थ्रोपिकका प्रमुख कार्यकारी डारियो अमोडेईले एआईको क्षमता बढाउने अहिलेको गति सुस्त बनाउन विश्वव्यापी आह्वान गरेपछि ओपनएआईका प्रमुख कार्यकारी साम अल्टम्यानले पनि त्यसमा समर्थन जनाएका हुन्।
अमोडेईले शनिबार प्रकाशन गरेको करिब ३८ सय शब्दको 'वी मस्ट पेस द फ्रन्टियर' शीर्षकको लेखमा एआईले मानव जीवनमा ठूलो लाभ ल्याउन सक्ने भए पनि यसको क्षमता सुरक्षित रूपमा नियन्त्रण गर्न सक्नेभन्दा छिटो बढिरहेको बताएका छन्।
अमोडेईले आफ्नो लेख सार्वजनिक गरेको केही घन्टापछि त्यसलाई उद्धृत गर्दै अल्टम्यानले सामाजिक सञ्जाल एक्समा लेखेका छन्, 'डारियोसँग म सहमत छु कि हामीले अत्याधुनिक एआई विकासको गति नियन्त्रित गर्नुपर्छ।'
पछिल्ला केही सातादेखि ओपनएआई (च्याटजिपिटी निर्माता कम्पनी) मा भइरहेको छलफलको प्रमुख विषय यही बनेको पनि उनले बताएका छन्।
अमोडेईले प्रस्ताव गरेजस्तै स्वतन्त्र मूल्यांकनकर्तालाई ओपनएआईका प्रणालीमा कर्मचारीसरह पहुँच दिने प्रतिबद्धतासमेत अल्टम्यानले गरेका छन्।
'यो उत्कृष्ट विचार हो र हामी पनि त्यसै गर्नेछौं,' अल्टम्यानले लेखेका छन्, 'हामी छिट्टै थप जानकारी दिनेछौं।'
एन्थ्रोपिक (क्लड निर्माता कम्पनी) का एक अनुसन्धानकर्ताले एआई कम्पनीहरूले मानव जीवनमाथि जुवा खेलिरहेको आरोप लगाउँदै राजीनामा दिएको केही दिनपछि अमोडेईको आह्वान र त्यसमा अल्टम्यानको समर्थन आएको हो।
'हामीले एआई मोडलहरूको क्षमता सुधार गर्ने गति सुस्त बनाउनुपर्छ,' अमोडेईले लेखेका छन्, 'प्रगति त्यसपछि पनि तीव्र नै देखिनेछ। हामीले पाएको अतिरिक्त समय बुद्धिमानीपूर्वक प्रयोग गर्नुपर्छ।'
समाचार संस्था रोयटर्सका अनुसार अमोडेईले एआईको तालिम वा प्राविधिक प्रगति पूरै रोक्न भनेका होइनन्। एआई कम्पनीहरूले आफ्ना मोडललाई सुरक्षित बनाउन पर्याप्त समय पाऊन् र बाह्य विशेषज्ञले ती सुरक्षाका उपाय जाँच्न सकून् भन्ने उनको प्रस्ताव हो।
अमोडेईले एआईको गति सुस्त र सुरक्षित बनाउन तीन तहको योजना अघि सारेका छन्।
पहिलो, एआई कम्पनीले बाहिरका स्वतन्त्र विशेषज्ञलाई आफ्ना प्रणालीमा स्थायी र कर्मचारीसरह पहुँच दिनुपर्छ। त्यस्ता विशेषज्ञले कम्पनीले सुरक्षा प्रतिबद्धता पालना गरे–नगरेको जाँच्ने, गम्भीर घटनाबारे जानकारी दिने र तालिमकै क्रममा मोडल मानिसको उद्देश्य तथा मूल्यमान्यता अनुसार चले–नचलेको परीक्षण गर्नेछन्।
एन्थ्रोपिकले यो व्यवस्था आफ्नो कम्पनीमा एकतर्फी रूपमै लागू गर्ने प्रतिबद्धता जनाएको छ। अल्टम्यानको पछिल्लो घोषणापछि ओपनएआईले पनि यही व्यवस्था अपनाउने भएको छ।
दोस्रो, एआई उद्योगले साझा सुरक्षा मापदण्ड बनाउनुपर्छ। लोकतान्त्रिक मुलुकका कम्पनी र सरकारबीच सहकार्य गरेर अत्याधुनिक एआईको अनियन्त्रित प्रगतिमा सीमा लगाउनुपर्ने अमोडेईको भनाइ छ। कानुन बनाउन समय लाग्ने भएकाले त्यसअघि नै कम्पनीहरूले स्वेच्छिक सहकार्य सुरू गर्नुपर्ने उनले बताएका छन्।
तेस्रो र सबैभन्दा कठिन तह विश्वव्यापी सहमति हो। एआई कुनै एउटा देशभित्र सीमित नरहने भएकाले चीन र रुसजस्ता फरक शासन प्रणाली भएका देशलाई समेत साझा सुरक्षा व्यवस्थामा ल्याउनुपर्ने अमोडेईको तर्क छ।
सँगसँगै लोकतान्त्रिक देशले अत्याधुनिक चिप र प्रविधिमा आफ्नो अग्रता पनि जोगाउनुपर्ने उनले बताएका छन्।
अमोडेईको मुख्य चिन्ता 'रिकर्सिभ सेल्फ–इम्प्रुभमेन्ट' अर्थात् एआई आफै अर्को पुस्ताको अझ शक्तिशाली एआई निर्माणमा संलग्न हुने सम्भावनाबारे हो। एउटा एआईले आफूभन्दा सक्षम अर्को एआई बनाउन सघाउने र त्यसले अझ शक्तिशाली प्रणाली बनाउँदै जाने हो भने विकासको गति मानिसको बुझाइ र नियन्त्रणभन्दा बाहिर जान सक्छ।
'यसलाई नियन्त्रणबिना छाडियो भने यी प्रणालीलाई बुझ्ने र नियन्त्रण गर्ने हाम्रो क्षमताभन्दा यो धेरै अघि जान सक्छ,' अमोडेईले लेखेका छन्।
एक्सियोसका अनुसार अमोडेईले आवश्यक सुरक्षा व्यवस्था नबने अबको ६ देखि १२ महिनामै अनियन्त्रित एआई एजेन्टहरूको समूहले इन्टरनेटभरि स्थायी 'बोटनेट' खडा गरेर सयौं अर्ब डलर बराबरको क्षति पुर्याउन सक्ने चिन्ता व्यक्त गरेका छन्।
यो निश्चित भविष्यवाणी होइन, अमोडेईले देखाएको सम्भावित जोखिम हो।
उनले यो चिन्ताको उदाहरणका रूपमा ओपनएआई–हगिङ फेस घटनालाई अघि सारेका छन्। गत जुलाईमा ओपनएआईका प्रयोगात्मक एजेन्टले परीक्षणका क्रममा तोकिएको कम्प्युटर प्रणालीको सीमा तोडेका थिए। ती एजेन्टले आपसमा संवाद गर्ने अनधिकृत बाटो बनाए, इन्टरनेट पहुँच हासिल गरे र हगिङ फेसको प्रणालीमा अनधिकृत प्रवेश गरे।
कुनै मानिसले तिनलाई ती बाह्य प्रणालीमा आक्रमण गर्न निर्देशन दिएको थिएन। ओपनएआईले उक्त घटनालाई आफू र संसारका लागि 'खतराको प्रारम्भिक संकेत' भनेको थियो।
अहिले अल्टम्यानको सार्वजनिक समर्थन आकस्मिक रूपमा आएको भने होइन। ब्लुमबर्गका अनुसार उनले यसअघि कम्पनीव्यापी बैठकमा ओपनएआईले आफ्नो विकासको गति सुस्त बनाउन सक्ने र सम्भवतः अन्य प्रमुख एआई प्रयोगशालासँग मिलेर त्यसो गर्न सक्ने बताएका थिए। तर सबै प्रतिस्पर्धी कम्पनी सहमत नहुन सक्ने सम्भावना पनि उनले औंल्याएका थिए।
त्यो बेला अल्टम्यानको भनाइ कम्पनीको आन्तरिक बैठकमा मात्र सीमित थियो।
अमोडेईको लेखमाथि प्रतिक्रिया दिँदै अहिले भने उनले सार्वजनिक रूपमै विकासको गति सुस्त बनाउने प्रस्तावमा समर्थन जनाएका छन्।
तर ओपनएआईले कुन क्षमताको विकास, कति समय र कुन मापदण्डका आधारमा सुस्त बनाउने भन्ने विस्तृत योजना भने अझै सार्वजनिक गरेको छैन।
ओपनएआईभित्रको चिन्ता पछिल्लो बैठकमा मात्र सुरू भएको पनि होइन। कम्पनीका प्रमुख वैज्ञानिक जाकुब पाचोकीले सेप्टेम्बर ६ मा प्रकाशित 'एन एलियन माइन्ड' शीर्षकको लेखमा कुनै पनि एआई प्रयोगशालाले अधिकतम गतिमा एआईको क्षमता विस्तार गरिरहन पुग्ने गरी नियन्त्रण र निगरानीको समस्या समाधान नगरेको बताएका थिए।
उनले साझा सुरक्षा मापदण्ड नबनेसम्म स्वेच्छिक रूपमा विकास सुस्त बनाउने अभ्यास सामान्य हुनुपर्ने र भविष्यको एआई विकासमा अन्तर्राष्ट्रिय समन्वय सरकारहरूको प्रमुख प्राथमिकता बन्नुपर्ने बताएका छन्। अल्टम्यानले पाचोकीको लेखलाई सार्वजनिक रूपमा 'महत्त्वपूर्ण' भनेका थिए।
ओपनएआईले हगिङ फेस घटनापछि केही अनुसन्धानको गति व्यवहारमै घटाइसकेको छ। कम्पनीले कोड चलाउन वा इन्टरनेटमा पुग्न सक्ने केही अत्याधुनिक प्रणालीको काम अस्थायी रूपमा रोक्यो। बजारमा ल्याउने तयारीमा रहेका नयाँ मोडलको 'रिइनफोर्समेन्ट लर्निङ' तालिम दुई साताका लागि स्थगित गर्यो।
कम्पनीको सबैभन्दा ठूलो प्रस्तावित अत्याधुनिक आरएल तालिमसमेत रोकिएको थियो।
एआई सुरक्षाको बहस यसै साता एन्थ्रोपिकका अनुसन्धानकर्ता जेकब कक्सनको राजीनामापछि सार्वजनिक वृत्तमा तीव्र बनेको थियो। पछिल्ला तीन वर्ष ओपनएआई र एन्थ्रोपिकमा 'प्रि–ट्रेनिङ' अनुसन्धान गरेका कक्सनले दुवै कम्पनी जिम्मेवार ढंगले अघि नबढेको आरोप लगाए।
'एआई बनाइरहेका मानिसहरू नै साँच्चिकै विश्वास गर्छन्— यसले यही दशकको अन्त्यसम्म हामी सबैलाई मार्न सक्छ,' उनले सामाजिक सञ्जाल एक्समा लेखेका थिए।
उनको चेतावनीलाई एन्थ्रोपिकका अरू दुई वरिष्ठ अनुसन्धानकर्ताले पनि सार्वजनिक रूपमा समर्थन गरे। कम्पनीको 'अलाइनमेन्ट साइन्स' प्रमुख इभान हुबिंगरले अर्को दशकभित्र एआईले सबै मानिसको विनाश गर्ने सम्भावना १० प्रतिशतभन्दा बढी रहेको आफूले ठानेको बताएका छन्। अति बौद्धिक एआईलाई मानव मूल्यमान्यता अनुसार चलाउने भरपर्दो योजना एन्थ्रोपिकसँग पनि अहिलेसम्म नभएको उनले स्वीकार गरेका छन्।
एआईको विकास सुस्त बनाउने विषयमा दुई प्रमुख कम्पनीको नेतृत्व एकमत देखिए पनि त्यसलाई व्यवहारमा उतार्न सजिलो छैन। उनीहरू बजार, लगानी, जनशक्ति र प्राविधिक नेतृत्वका लागि एकअर्कासँग तीव्र प्रतिस्पर्धामा छन्। एउटा कम्पनी सुस्त हुँदा अर्को अघि बढ्न सक्छ।
अमेरिकी कम्पनीले मात्र गति घटाएर पनि पुग्दैन। चीन वा अन्य देशका प्रयोगशालाले विकास जारी राखे अमेरिकी कम्पनी र सरकार सहमतिमा टिक्न कठिन हुन्छ। एआईको दौड व्यापारसँग मात्र होइन, राष्ट्रिय सुरक्षा र विश्वशक्तिको प्रतिस्पर्धासँग पनि जोडिएको छ।
अर्को समस्या कानुनी छ।
अमेरिकी म्यागजिन वायर्डका अनुसार प्रतिस्पर्धी कम्पनी मिलेर विकास वा उत्पादन सीमित गर्दा अमेरिकी 'एन्टिट्रस्ट' कानुन आकर्षित हुन सक्छ। ओपनएआईले यस्तो सहकार्य कानुनी हुन्छ कि हुँदैन भनेर अमेरिकी सांसदहरूसँग स्पष्टता मागेको छ।
अमोडेईले एआईबाट रोगको उपचार, वैज्ञानिक खोज र आर्थिक विकासमा ठूलो लाभ पुग्न सक्ने विश्वास आफूमा अझै रहेको बताएका छन्। तर त्यो सम्भावनाले खतरा बेवास्ता गर्ने छुट नदिने उनको तर्क छ।
'मैले प्रस्ताव गरेका उपाय सजिला छैनन्,' उनले लेखेका छन्, 'तर मानवताका लागि हामीले प्रयास गर्नैपर्छ।'
अमोडेईको सार्वजनिक आह्वान र त्यसमा अल्टम्यानको समर्थनपछि विश्वका दुई प्रमुख एआई कम्पनी अत्याधुनिक एआई विकास सुरक्षित बनाउन त्यसको गति घटाउनुपर्ने पक्षमा खुलेर उभिएका छन्।
दुवै कम्पनी स्वतन्त्र मूल्यांकनकर्तालाई आफ्ना प्रणालीमा कर्मचारीसरह पहुँच दिन पनि सहमत भएका छन्।
अब मुख्य प्रश्न, यो सहमति एन्थ्रोपिक र ओपनएआईबाट अरू अमेरिकी कम्पनी तथा चीनसहित विश्वका अन्य एआई प्रयोगशालासम्म विस्तार हुन्छ कि हुँदैन भन्ने हो।
***
सम्पादकीय नोट: यो स्टोरीमा प्रयोग भएका कतिपय सामग्री खोज्न, व्यवस्थित गर्न र प्रारम्भिक मस्यौदा विकास गर्न एआई प्रयोग गरिएको छ। यसमा प्रयोग गरिएका तथ्य, दाबी र व्याख्या उपलब्ध प्राथमिक तथा अन्य विश्वसनीय स्रोतसँग पुनः जाँचिएका छन्। यो स्टोरीको अन्तिम लेखन, सम्पादन र सम्पूर्ण जिम्मेवारी सेतोपाटीको हो।
-1746009348.jpg)
