एजेन्सी 
च्याटजीपीटीको निर्माता कम्पनी ओपनएआईले सुरक्षा चिन्तालाई कारण देखाउँदै आफ्नो नयाँ पुस्ताको एआई मोडल ‘जीपीटी-६.१ अस्ट्रा’को सार्वजनिक गर्ने योजना रद्द गरेको छ। स्वतः आफ्नो तरिकाले वेब ब्राउजिङ गर्ने र एपहरू चलाउने क्षमता भएको यो मोडलले कम्पनीको सुरक्षा मापदण्ड पूरा गर्न नसकेपछि यस्तो निर्णय लिइएको हो।
ओपनएआईकी सुरक्षा प्रणाली प्रमुख साची जैनका अनुसार, नयाँ मोडललाई परीक्षण गर्दा यसले प्रयोगकर्ताले दिएको अधिकार र सीमाभित्र रहेर काम गर्ने विषयमा कमजोरी देखाएको थियो। “हामी हाम्रा मोडलहरू प्रयोगकर्ताका लागि सार्वजनिक गर्दा सुरक्षा र पङ्क्तिबद्धताको दृष्टिले अत्यन्तै उच्च मापदण्ड कायम राख्न चाहन्छौँ,” द वाल स्ट्रिट जर्नलमा पहिलो पटक सार्वजनिक भएको प्रतिवेदन उद्धृत गर्दै जैनले भनिन्। आन्तरिक परीक्षणका क्रममा यो मोडलले केही हदसम्म झुक्क्याउने व्यवहार देखाएको र तोकिएको सीमाभन्दा बाहिर गएर काम गरेको पाइएको थियो।
प्राविधिक जगत्मा एआई प्रविधिको द्रुत विकास र यसबाट हुनसक्ने जोखिमलाई लिएर बहस तीव्र बनिरहेका बेला ओपनएआईको यो कदमलाई एक दुर्लभ र महत्त्वपूर्ण निर्णयका रूपमा हेरिएको छ। पछिल्ला केही साताहरूमा ओपनएआईका प्रमुख कार्यकारी साम अल्टम्यान र एन्थ्रोपिकका प्रमुख डारियो अमोडेई जस्ता शीर्ष नेतृत्वहरूले नै यस प्रविधिको अनियन्त्रित विकासको गतिलाई केही सुस्त बनाउन आग्रह गर्दै आएका छन्।
कम्पनीले गत सेप्टेम्बरमा आफ्नो अटोमेडेड मुख्य मोडल ‘जीपीटी-६ अस्ट्रा’ सार्वजनिक गरेको थियो, जुन जटिल तर्क गर्ने र स्वायत्त रूपमा कार्य सम्पादन गर्नमा विशेष पोख्त मानिन्थ्यो। तर पछिल्ला केही घटनाहरूले एआई प्रणालीहरूको सुरक्षा नियन्त्रणमा गम्भीर प्रश्न खडा गरेका छन्। गत जुलाईमा ओपनएआईका प्रणालीहरूले आन्तरिक सीमा नाघेर ओपन-सोर्स विकासकर्ता हब ‘हगिङ फेस’मा छिरेर साइबर घुसपैठ गरेको घटना सार्वजनिक भएको थियो, जसले प्रविधि क्षेत्रमा तरङ्ग पैदा गरेको थियो।
यसैबिच, एआई चिप निर्माण क्षेत्रको ठुलो कम्पनी एनभिडियाले स्वायत्त एआई प्लेटफर्महरू (एजेन्ट) का लागि नयाँ सुरक्षा सफ्टवेयर औजारहरू सार्वजनिक गरेको छ। एनभिडियाका अनुसार यस्ता प्रविधिले एआई मोडलहरूलाई नियन्त्रणबाहिर जानबाट रोक्न मद्दत गर्नेछन्। यद्यपि, एनभिडियाका प्रमुख जेन्सेन हुआङले एआईमा कडा सरकारी नियमनभन्दा पनि यस्ता समस्याहरूलाई इन्जिनियरिङ समाधानमार्फत नियन्त्रण गर्न सकिने धारणा राख्दै आएका छन्। एनभिडियाले हालै हगिङ फेसलाई १२.९ अर्ब डलरमा खरिद गर्ने सम्झौता समेत गरेको छ।
एआई क्षेत्रमा भइरहेको यो पछिल्लो विकास क्रमले विश्वभरका शोधकर्ता, अधिकारी र प्रयोगकर्ताहरूलाई उच्च क्षमतायुक्त एआई मोडलहरूको सुरक्षित प्रयोगबारे थप सजग बनाएको छ।
श्रोत: आइएनएस-स्वतन्त्र समाचार
एजेन्सी का अन्य पोस्टहरु:
- साउदी अरबको रियाद विमानस्थलमा लगातार दोस्रो दिन पनि हुथी विद्रोहीको आक्रमण: एक जनाको मृत्यु, ११ जना घाइते
- जापोरिझियामा ग्लाइड बम आक्रमण: ४ बालबालिकासहित कम्तीमा २० जनाको मृत्यु
- ट्रम्पद्वारा रुसी डिजेल आयात गर्ने सम्झौताको घोषणा
- रुसी आक्रमणमा कम्तीमा ३० जनाको मृत्यु, युक्रेनभर दिनप्रतिदिन खतरनाक बन्दै आक्रमण
- अमेरीकी जेलमा रहेका मादुरोमाथि थप मुद्दा चलाउने तयारी
- फिनल्यान्डमा गुगललाई झट्का: दुई डेटा सेन्टरको निर्माण रोक्न सरकारी आदेश
- रुसमा प्लेग अनुसन्धानकर्ताको मृत्युपछि अमेरिकाद्वारा ‘सूक्ष्म अनुगमन’
- सुरक्षा घटनापछि बेलायतको सैन्य बेसबाट अमेरिकाले फिर्ता बोलायो सबै बमवर्षक विमान
- युक्रेनको राजधानी किभमा रुसको अर्को ठुलो प्रहार: दोस्रो प्रमुख पुलमाथि पनि हमला, यातायात अस्तव्यस्त
- फ्रान्समा शिक्षा क्षेत्रको सुधार माग्दै चर्कियो विद्यार्थी आन्दोलन: दङ्गा नियन्त्रक प्रहरी र प्रदर्शनकारीबिच देशव्यापी झडप
