आन्तरिक परीक्षणमा सुरक्षा चिन्ता देखिएको भन्दै अमेरिकी कम्पनी ओपनएआईले आफ्नो नयाँ एआई मोडलको सार्वजनिक रिलिज रोकेको छ।
सुरक्षा परीक्षणमा आफ्नै अघिल्लो मोडलभन्दा कमजोर देखिएपछि कम्पनीले आफ्नो नयाँ एआई मोडल च्याटजिपिटी ६.१ एस्ट्रा रोकेको फाइनान्सियल टाइम्सले जनाएको छ।
एआई एजेन्टहरूले पछिल्लो समय विभिन्न कम्पनी तथा सरकारी प्रणालीमा अनधिकृत पहुँच बनाएको र प्रयोगकर्ताका सामग्रीसमेत बाहिरिएको घटनापछि एआई उद्योगमा सुरक्षा र नियमनबारे बहस तीव्र भइरहेका बेला ओपनएआईले नयाँ मोडल रोक्ने निर्णय गरेको हो।
ओपनएआईकी सेफ्टी सिस्टम प्रमुख साची जैनले एस्ट्राले आफ्ना निर्देशन र अधिकारको सीमाभित्र रहेर काम गर्ने विषयमा कम्पनीले तोकेको मापदण्ड पूरा गर्न नसकेको बताएकी छन्।
‘यो मोडल आफ्नो कार्यक्षेत्र र अधिकारको सीमाभित्र रहने विषयमा अपेक्षित स्तरमा पुगेन,’ जैनले भनेकी छन्।
उनका अनुसार एआई मोडललाई जटिल काम पूरा गर्न पर्याप्त रूपमा निरन्तर प्रयास गर्ने बनाउनु र उसले पाएको निर्देशनको सीमाभित्रै काम गर्ने सुनिश्चित गर्नुबीच सन्तुलन कायम गर्न कठिन भइरहेको छ। एआई सुरक्षामा यसलाई ‘अलाइनमेन्ट’ अर्थात् मोडलको व्यवहारलाई मानवले दिएको उद्देश्य र निर्देशनसँग मिलाउने विषयका रूपमा हेरिन्छ।
‘काममा अवरोध आए पनि मोडलले काम पूरा गर्न पर्याप्त प्रयास गर्नुपर्छ, तर त्यस क्रममा आफ्नो अधिकारको सीमा नाघ्नु हुँदैन,’ जैनले भनेकी छन्।
उनका अनुसार एस्ट्राले आफूले गरेको कामबारे प्रयोगकर्तालाई जानकारी गराउने तरिका र आफूलाई दिइएको अधिकारको सीमाभित्र रहने दुवै पक्षमा कम्पनीले निर्धारण गरेको सुरक्षा मापदण्ड पूरा गर्न सकेन।
ओपनएआईसँग नजिक रहेका एक व्यक्तिका अनुसार एस्ट्राले ‘अलाइनमेन्ट’ सम्बन्धी परीक्षणमा कम्पनीको हालसम्मकै उन्नत मोडल च्याटजिपिटी ६ एस्ट्रा भन्दा कमजोर प्रदर्शन गरेको थियो। यद्यपि, कम्पनीले चाँडै सार्वजनिक गर्ने तयारीमा रहेका अन्य मोडलहरूले आवश्यक सुरक्षा मापदण्ड पूरा गरेको ती व्यक्तिको भनाइ छ।
एआई एजेन्टबाट लगातार सुरक्षा समस्या
नयाँ मोडल रोक्ने निर्णयअघि नै ओपनएआईका एआई एजेन्टसँग सम्बन्धित विभिन्न सुरक्षा घटना सार्वजनिक भएका छन्।
गत साता कम्पनीले दर्जनौं साझेदारलाई आफ्ना एआई एजेन्टले उनीहरूको प्रणालीमा अनधिकृत पहुँच बनाएको जानकारी दिएको थियो। तीमध्ये केही घटनामा प्रयोगकर्ताले साझा गरेका ५० भन्दा बढी तस्बिरसमेत एआई एजेन्टबाट अनजानमै बाह्य इमेज-होस्टिङ साइटमा पुगेका थिए।
एआई एजेन्ट सामान्य च्याटबटभन्दा फरक हुन्छन्।
उनीहरूले प्रयोगकर्ताको निर्देशनअनुसार आफैं विभिन्न चरणका काम गर्न, इन्टरनेट प्रयोग गर्न तथा आवश्यक डिजिटल प्रणालीसँग अन्तरक्रिया गर्न सक्छन्। यही स्वायत्तताका कारण उनीहरूको गलत व्यवहारले निम्त्याउन सक्ने जोखिमबारे चिन्ता बढेको हो।
ओपनएआईले आन्तरिक तालिम र परीक्षणका क्रममा केही एजेन्टले नियन्त्रण बाहिर गएर गरेका गतिविधि पत्ता लगाउन महिनौं लागेको स्वीकार गरिसकेको छ।
गत जुलाईमा सार्वजनिक भएको एउटा घटनापछि कम्पनीले आफ्ना मोडलको व्यवहारबारे थप समीक्षा गरिरहेको छ। त्यस घटनामा परीक्षणका क्रममा इन्टरनेट पहुँच पाएका एआई एजेन्टले ‘हगिङ फेस’मा अनधिकृत पहुँच बनाएका थिए।
समीक्षाका क्रममा अस्ट्रेलियाको सरकारी स्वास्थ्य सेवा वेबसाइटमा समेत एआई एजेन्टले अनधिकृत पहुँच बनाएको घटना फेला परेको थियो। अस्ट्रेलियाका प्रधानमन्त्री एन्थोनी अल्बानिजले उक्त घटना र त्यसबारे ओपनएआईले ढिलो प्रतिक्रिया दिएको विषयलाई ‘अस्वीकार्य’ भनेका छन्।
एआई विकासको गति घटाउन माग
ओपनएआईसँगै एन्थ्रोपिक र गुगलसँग सम्बन्धित सुरक्षा घटनाले एआई विकासको गति घटाउनुपर्ने मागलाई पनि बल दिएको छ।
ओपनएआईका प्रमुख कार्यकारी अधिकृत साम अल्टम्यानले एन्थ्रोपिकका प्रमुख डारियो अमोडेई र स्पेसएक्सका इलन मस्कसँगै अत्याधुनिक एआई विकासको गति सुरक्षा प्रणालीले साथ दिन सक्ने स्तरमा राख्नुपर्ने पक्षमा आवाज उठाएका छन्।
अल्टम्यानले कम्पनीले मोडल तालिम दिने तरिकामै परिवर्तन गरिसकेको बताएका छन्।
तर अमेरिकी राष्ट्रपति डोनाल्ड ट्रम्पले एआई क्षेत्रमा कडा नियमन वा अग्रणी अमेरिकी कम्पनीमाथि कडा सुरक्षा मापदण्ड लगाउने प्रस्तावको विरोध गर्दै आएका छन्। उनको तर्क अमेरिकी एआई क्षेत्रमा अग्रता कायम रहनु चीनसँगको प्राविधिक प्रतिस्पर्धामा महत्वपूर्ण रहेको भन्ने छ।
च्याटजिपिटी ६.१ एस्ट्राको रिलिज रोक्ने निर्णयले अत्याधुनिक एआई विकासमा नयाँ क्षमताभन्दा पहिले सुरक्षा परीक्षणलाई प्राथमिकता दिने विषय फेरि केन्द्रमा ल्याएको छ।
(विभिन्न अन्तर्राष्ट्रिय सञ्चार माध्यमहरूको सहयोगमा तयार पारिएको)
