तारानाथ दाहाल 
तारानाथ दाहाल/जेनेभा
यस वर्ष सन् २०२६को सुरुवातमा सम्पन्न तर सहमति र निष्कर्षमा पुग्न असफल भएको ‘एआई इम्प्याक्ट समिट’ पछि, आर्टिफिसियल इन्टेलिजेन्स (एआई) को नियमन र सुशासनको विषय निराशाजनक रूपमा शून्यतातर्फ धकेलिरहेको थियो। । यसको व्यावहारिक समाधानका रूपमा ‘एआई रेड लाइन्स’ अर्थात् एआईका लागि लक्ष्मण रेखा वा निषेधित क्षेत्र तोकिनु पर्ने बहस भने मानव अधिकार संस्थाहरूले अगाडी बढाई नै रहेका थिए।
यो हप्ता जेनेभामा एआई सुशासनसम्बन्धी पहिलो ‘संयुक्त राष्ट्रसङ्घीय विश्वव्यापी संवाद’ का लागि विभिन्न देशका सरकार र सरोकारवालाहरू भेला हुँदै गर्दा, नागरिक समाजका संस्थाहरूले स्पष्ट रूपमा ‘एआई रेड लाइन्स’ को माग गरिरहेका छन्। यसको अर्थ मानव अधिकारमाथि गम्भीर र अक्षम्य जोखिम निम्त्याउने खतरा भएका एआई प्रणाली र यसको प्रयोगमाथि पूर्ण नियन्त्रण बढाउनु हो।
जेनेरेटिभ (Generative) र एजेन्टिक (Agentic) एआईमा भएका हालैका प्रगतिहरूले मानव जस्तै देखिने पाठ, चित्र र अन्तरक्रियाहरू सिर्जना गर्ने प्रणालीहरूलाई आम मानिसको पहुँचमा पुर्याएका छन्। तर, यी प्रणालीका सीमितता र कमजोरीहरूलाई प्रयोगकर्ताहरूले अझै पनि राम्रोसँग बुझ्न सकेका छैनन्। यसमाथि ‘अटोमेसन बायस’ अर्थात स्वचालित प्रणाली वा मेसिनले दिएको नतिजालाई बिना शङ्का सही र आधिकारिक मान्ने मानवीय प्रवृत्तिले गर्दा समस्या झन् थपिएको छ।
यसको परिणाम कुनै दूर-दराजको जोखिम नभएर आजको यथार्थ बनिसकेको छ—भ्रामक तथ्यहरू (Fabricated facts), तीव्र रूपमा फैलिरहेका डीपफेकहरू (Deepfakes), र मानिसलाई प्रभावित पार्ने खालका एआई अन्तरक्रियाहरू। यसमा सबैभन्दा चिन्ताजनक पक्ष भनेको किशोर युवा तथा कमजोर र सीमान्तकृत प्रयोगकर्ताहरूको मानसिक शोषण र हानि हो। जब मानिसहरूले आफ्नो अगाडि रहेको प्रविधिमाथि नियन्त्रण, विवेक र जिम्मेवारी गुमाउँछन्, ठिक त्यही विन्दुबाट उनीहरूको आत्मनिर्णयको अधिकार समाप्त हुन्छ भन्ने दाबी ग्लोबल डिजिटल पार्टनर्शको छ।
यस्तो परिस्थितिमा, एआईको विकास र प्रयोगमा सुशासन कायम गर्न नियमनका लागि ‘रेड लाइन्स’ (निषेधित रेखा) को अवधारणा एउटा महत्त्वपूर्ण औजारका रूपमा अगाडि आएको छ। रेड लाइन्स भन्नाले मानव अधिकारका लागि पूर्ण रूपमा अस्वीकार्य जोखिम खडा गर्ने एआई प्रणाली र त्यसको प्रयोगमाथि लगाइने स्पष्ट प्रतिबन्ध हो।
यसले दुई वटा कुराबिचको भिन्नतालाई स्पष्ट पार्छ: पहिलो—त्यस्ता हानिहरू जसलाई राम्रो डिजाइन वा निगरानीद्वारा कम गर्न सकिन्छ, र दोस्रो—त्यस्ता हानिहरू जुन प्रविधिको उद्देश्यमै अन्तरनिहित हुन्छन् र जहाँ कुनै पनि सुरक्षा उपाय पर्याप्त हुँदैनन्। यस अर्थमा, ‘रेड लाइन्स’ ले एआईका लागि एउटा यस्तो स्पष्ट रेखा कोर्छ जुन नियमनको इतिहासमा सधैँ आवश्यक मानिन्छ—अर्थात्, कुनै प्रविधिलाई के गर्न अनुमति दिन सकिन्छ र के गर्न दिनै हुँदैन भन्ने बुझाई र समझदारी बनाउँछ।
यस अवधारणालाई कतिपय अवस्थामा अतिवादी वा कडा रूपमा प्रस्तुत गरिए पनि यो त्यस्तो होइन। अन्तर्राष्ट्रिय मानव अधिकार कानुनले पहिले नै एउटा बलियो र सर्वमान्य रूपरेखा प्रदान गरेको छ, जसले सरकार र प्रविधि कम्पनी दुवैलाई गोपनीयता, अभिव्यक्ति स्वतन्त्रता र समानता जस्ता अधिकारहरूको सम्मान गर्न बाध्य पार्छ। र, यसले आवश्यक, न्यायसङ्गत र कानुनी प्रमाणित हुन नसक्ने अभ्यासहरूमाथि प्रतिबन्ध लगाउन माग गर्दछ। एआई ‘रेड लाइन्स’ ले त्यही स्थापित कानुनी तर्कलाई एआईको क्षेत्रमा आत्मासाथ गराउने हो।
विभिन्न क्षेत्रका सरोकारवालाहरू—सरकार, प्रविधि विज्ञ, नागरिक समाज, र धार्मिक नेताहरू—बिच केही निश्चित क्षेत्रहरूमा यस्तो लक्ष्मण रेखा कोर्नुपर्छ भन्नेमा व्यापक सहमति भइसकेको छ। यसमा ‘बायोमेट्रिक मास सर्भिलेन्स’ (सामूहिक जैविक निगरानी), ‘सोसल स्कोरिङ’ (नागरिकको सामाजिक मूल्याङ्कन), ‘प्रेडिक्टिभ पोलिसिङ’ (अपराधको पूर्वानुमान गर्ने एआई), र मानवीय व्यवहारलाई नियन्त्रण वा कमजोरीको फाइदा उठाउन डिजाइन गरिएका प्रणालीहरू पर्छन्। यी सबैको एउटै साझा असर हुन्छ—तिनीहरूले व्यक्तिको स्वतन्त्रतालाई हानि पुर्याउँछन् र मानिसलाई केवल नियन्त्रण वा शोषणको वस्तुमा सीमित गर्छन्।
एआई सुशासनसम्बन्धी संयुक्त राष्ट्रसङ्घीय विश्वव्यापी संवादका प्राथमिकताहरू के के हुनुपर्छ भन्नेमा पनि नागरिक समाजका संस्थाहरू स्पष्ट रूपमा अगाडि बढेका छन्।
जेनेभामा हुन गइरहेको यो विश्व संवाद , एआई सुशासनमा रहेको जवाफदेहिताको खाडललाई पुर्न र सहमतिबाट कार्यान्वयनको दिशामा अघि बढ्नका लागि एउटा महत्त्वपूर्ण अवसर हो। भविष्यको एआईको रूपरेखा तय गर्न राज्य र अन्य सरोकारवालाहरू एकजुट भइरहँदा, नागरिक संस्थाहरूले पनि साझा सन्देशहरू यस प्रकार अगाडि सारेका छन्
१)मानव गरिमा र आत्मनिर्णयको रक्षा:
एआईमा भइरहेका प्रगतिहरूले मानव गरिमा र स्वतन्त्रतालाई कमजोर बनाउने जोखिमहरू निम्त्याइरहेका छन्। सामूहिक निगरानी गर्ने, व्यवहार नियन्त्रण गर्ने वा मानवीय स्वतन्त्रतालाई कमजोर पार्ने प्रणालीहरू अब काल्पनिक जोखिम मात्र होइनन्, यी व्यवहारमै देखिन थालेका छन्। त्यसैले, मानव गरिमा र स्वतन्त्रताको रक्षा गर्नु एआई नियमनको तत्कालको प्राथमिकता हुनुपर्छ।
२) कार्यान्वयनयोग्य ‘रेड लाइन्स’ मा अन्तर्राष्ट्रिय समन्वय:
नयाँ दायित्वहरू सिर्जना गर्नुको साटो, ‘रेड लाइन्स’ ले विद्यमान अन्तर्राष्ट्रिय मानव अधिकार कानुनलाई नै एआईमा लागू गर्छ। राज्य र कम्पनीहरूले गोपनीयता र समानता जस्ता अधिकारहरूको सम्मान गर्नुपर्ने र अधिकारमाथिका कुनै पनि प्रतिबन्ध कानुनी, आवश्यक र न्यायसङ्गत हुनुपर्ने व्यवस्था पहिले नै छ। अन्तर्राष्ट्रिय निकाय र नागरिक समाजबिच बायोमेट्रिक सामूहिक निगरानी, सोसल स्कोरिङ, प्रेडिक्टिभ पोलिसिङ र शोषणका लागि बनाइएका एआई प्रणालीहरूमा प्रतिबन्ध लगाउनुपर्नेमा व्यापक सहमति छ।
जवाफदेहिताको न्यूनतम मापदण्ड:
ग्लोबल पार्टनर्स डिजिटल (GPD) को नेतृत्वमा नागरिक सङ्घ संस्थाहरूले जवाफदेहिता सुनिश्चित गर्नका लागि कार्यान्वयनयोग्य ‘रेड लाइन्स’ लाई न्यूनतम साझा मापदण्ड बनाउन आह्वान गरेका छन्। “हामी राज्यहरूलाई मानव गरिमालाई तत्कालको प्राथमिकतामा राख्न, एआई निगरानी क्षमतामा लगानी गर्न र विश्वव्यापी समन्वय संयन्त्र एवं कम्पनीहरूको उत्पादन डिजाइन अभ्यासहरूमा यी सीमाहरूलाई समावेश गर्न आग्रह गर्दछौँ।” उनीहरूले सरकार र सबै सरोकारवालाहरूलाई अनुरोध पनि गरेका छन्।सरकारहरूलाई आफ्ना मानव अधिकारसम्बन्धी प्रतिबद्धताहरूको हिस्साका रूपमा एआई ‘रेड लाइन्स’ प्रति प्रतिबद्धता जनाउन, यसको दायरा परिभाषित गर्न मद्दत गर्न र यसलाई लागू गर्न निगरानी क्षमतामा लगानी गर्न आह्वान गरिएको छ।
यसै गरी संवादका सह-अध्यक्ष र अन्तर्राष्ट्रिय संस्थाहरूलाई, यस संवाद लगायतका सुशासन प्रक्रियाका आधिकारिक निष्कर्षहरूमा एआई ‘रेड लाइन्स’ लाई समेट्न र यसलाई आगामी कार्यसूचीमा अगाडि बढाउन अपिल गरिएको छ।
मानव अधिकार संस्थाहरूले एआई अन्तर्राष्ट्रिय वैज्ञानिक प्यानल (AI International Scientific Panel) लाई पनि आह्वान गरेका छन् एआई ‘रेड लाइन्स’ सम्बन्धी बहसलाई ठोस दिशा दिनका लागि उच्च जोखिमयुक्त एआई क्षमता र यसको प्रयोगसँग सम्बन्धित प्रमाणहरूलाई प्राथमिकता दिनुहोस्।
यस्तै प्रविधि कम्पनीहरूलाई पनि उत्पादनको सुरुवाती चरणदेखि नै प्रणालीहरूमा सुरक्षाका मापदण्डहरू निर्धारण गरी एआई ‘रेड लाइन्स’ लाई आत्मसाथ गर्न ध्यानाकर्षण गरिएको छ।
जेनेभामा एआई नियमनको बहुपक्षीय संवादको मेला सुरु हुनै लाग्दा आआफ्नो चासोका मुद्दाहरूमा बहसहरू तीव्र रूपमा चलेका मात्र छैनन्, नयाँ नयाँ समझदारीहरूमा पनि स्पष्टता आइरहेको छ, त्यसमध्ये ‘रेड लाईन्स’ अवधारणा पनि एक हो।
श्रोत: आइएनएस-स्वतन्त्र समाचार
तारानाथ दाहाल का अन्य पोस्टहरु:
- राष्ट्रपति र प्रधानमन्त्रीबिच संवादहीनता: संसदीय परम्परा र संवैधानिक बाध्यताको उलङ्घन
- संसदीय लोकतन्त्र र अध्यादेशको राज
- प्रजातन्त्र दिवस र खुला सूचना प्रणालीमाथिको चुनौती
- काँग्रेस एमाले मिल्दा माओवादीलाई भएको ऐतिहासिक फाइदा !
- सूचना प्रविधि तथा साइबर सुरक्षा विधेयकको मस्यौदामाथि टिप्पणी
- भ्रष्टाचार, कुशासन र पत्रकारिता
- बजेट टिप्पणी : व्यावसायिक अर्थमन्त्री द्वारा अव्यावसायिक बजेट
- सार्वजनिक सेवा प्रशारण विधेयकको समीक्षा
- मानवअधिकार र राष्ट्रिय साइबर सुरक्षा नीति
- जनताको मन जित्ने हो भने संसदीय खुलापन
