पूर्वाग्रह, नस्लवाद और झूठ: आर्टिफ़िशियल इंटेलीजेंस के अवान्छित नतीजों से निपटने की दरकार

संयुक्त राष्ट्र आर्टिफ़िशियल इंटेलीजेंस के इस्तेमाल से सम्बन्धित नियामकों को तैयार कर रहा है.
ITU T
संयुक्त राष्ट्र आर्टिफ़िशियल इंटेलीजेंस के इस्तेमाल से सम्बन्धित नियामकों को तैयार कर रहा है.

पूर्वाग्रह, नस्लवाद और झूठ: आर्टिफ़िशियल इंटेलीजेंस के अवान्छित नतीजों से निपटने की दरकार

मानवाधिकार

वैश्विक महामारी कोविड-19 के ख़िलाफ़ लड़ाई में आर्टिफ़िशियल इंटेलीजेंस (एआई) का इस्तेमाल करने वाले ऐसे शक्तिशाली डिजिटल औज़ारों का इस्तेमाल किया जा रहा है जिनमें दुनिया को बेहतर बनाने की सम्भावना है. लेकिन दैनिक जीवन में एआई की बढ़ती दखल से यह भी स्पष्ट हो रहा है कि इस टैक्नॉलॉजी के ग़लत इस्तेमाल से गम्भीर नुक़सान भी हो सकता है. इसी आशंका के मद्देनज़र संयुक्त राष्ट्र ने एआई के लिये एक मज़बूत अन्तरराष्ट्रीय नियामन की पुकार लगाई है. 
 

‘कृत्रिम बुद्धिमता’ (आर्टिफ़िशियल इंटेलीजेंस/ एआई) के ज़िक्र से ऐसी मशीनों की आकृति उभरती है जोकि सोचने-समझने में सक्षम हैं, मनुष्यों की तरह व्यवहार करती हैं और जिन पर लोगों का कोई नियन्त्रण नहीं है.

अक्सर फ़िल्मों में एआई के तौर पर ऐसी मशीनों को दर्शाया जाता है जोकि बेहद बुद्धिमान हैं और मानवता को हरा कर दुनिया को अपने क़ाबू में करना चाहती हैं. 

लेकिन वास्तविकता असल में इससे कहीं नीरस है. एआई से तात्पर्य उन सॉफ़्टवेयर से है जो कठिनाईयों को हल करते हैं, विभिन्न रूझानों की शिनाख़्त करते हैं और जिन्हें सिखाकर और ज़्यादा विकसित किया जा सकता है. 

भारी-भरकम डेटा का समझने और उसे छाँटने में ये बेहद उपयोगी है – विभिन्न परिदृश्यों में और ज़रूरतों को पूरा करने के लिये पहले से ही एआई का इस्तेमाल किया जा रहा है, विशेषत: निजी सैक्टर में. 

इसके अनेक उदाहरण हैं: ऑनलाइन पत्रव्यवहार में चैट बॉट का इस्तेमाल किया जाना, ऑनलाइन ख़रीदारी के दौरान लोगों के व्यवहार को भाँप कर सुझाव दिया जाना और खेलकूद व व्यवसायिक घटनाओं पर लेख लिखने वाले एआई पत्रकार. 

लेकिन हाल के समय में ईरान से आई एक मीडिया रिपोर्ट से आशन्का गहरा गई. 

रिपोर्ट के मुताबिक ईरानी अधिकारियों ने दावा किया है कि देश के एक वरिष्ठ परमाणु वैज्ञानिक की हत्या में एआई चालित मशीनगन का इस्तेमाल किया गया. 

इससे जानलेवा रोबोट के इस्तेमाल से जुड़ी आशंकाओं व भय को फिर हवा मिल गई, लेकिन असल में एआई से जुड़ी नकारात्मक ख़बरों में अधिकाँश उसका ग़लत इस्तेमाल होने या मानवीय त्रुटियों से ही सम्बन्धित होती हैं. 

एआई के सम्बन्ध में आचारनीति को पेश करने के लिये संयुक्त राष्ट्र द्वारा एक गाइड को जल्द ही जारी किया जाना है. 

उससे पहले एआई के इस्तेमाल, उसके नतीजों और उसे बेहतर बनाने के लिये इन पाँच बातों का जानना महत्वपूर्ण है

आईटीयू टेलीकॉम वर्ल्ड 2019 के दौरान चाइना टेलीकॉम का 5-जी चालित रोबोट.
©ITU/Rowan Farrell
आईटीयू टेलीकॉम वर्ल्ड 2019 के दौरान चाइना टेलीकॉम का 5-जी चालित रोबोट.

1) ग़लत इस्तेमाल के विनाशकारी नतीजे हो सकते हैं 

जनवरी महीने में अमेरिका के मिशिगन प्रान्त में दुकान से चोरी करने के मामले में एक ऐसे अफ़्रीकी-अमेरिकी व्यक्ति को गिरफ़्तार किया गया जिसे इस बारे में कुछ नहीं पता था. 

इस व्यक्ति को उसके घर के बाहर परिवारजनों के सामने हिरासत में ले लिया गया और हथकड़ियाँ पहनाई गई.   

इस घटना को ग़लत गिरफ़्तारी के अपनी तरह के पहले मामले के रूप में देखा गया. पुलिस अधिकारियों ने इस व्यक्ति को पकड़ने के लिये चेहरे की शिनाख़्त करने वाले आर्टिफ़िशियल इंटेलीजेंस औजार का इस्तेमाल किया था.

लेकिन इस औज़ार को विकसित करने में मुख्यत: श्वेत चेहरों का इस्तेमाल किया गया और काले चेहरों की शिनाख़्त के लिये यह पूर्ण रूप से तैयार नहीं था. 

मगर जल्द ही यह स्पष्ट हो गया कि सुरक्षा कैमरों में जिस संदिग्ध की तस्वीर दर्ज हुई थी, उसका चेहरा गिरफ़्तार व्यक्ति के चेहरे से मेल नहीं खाता था. 
कई घण्टों तक जेल में हिरासत में रखे जाने के बाद व्यक्ति को रिहा कर दिया गया.

वहीं जुलाई महीने में ब्रिटेन में तब हंगामा हो गया जब अपनी पसंदीदा यूनिवर्सिटी जाने का सपना देख रहे अनेक छात्रों की उम्मीदों पर पानी फिर गया. 

कोविड-19 के कारण उनकी परीक्षाओं को रद्द कर दिया गया था, इसलिये छात्रों की काबिलियत को आँकने के लिये एक कम्पयूटर प्रोग्राम का सहारा लिया गया. 

इसके लिये छात्रों के मौजूदा अंकों के अलावा अतीत में उनके स्कूल के प्रदर्शन की समीक्षा की गई, लेकिन इस पद्धति के इस्तेमाल का ख़ामियाज़ा अल्पसंख्यक और कम आय वाले प्रतिभावान छात्रों को भुगतना पड़ा. 

कोविड-19 के फैलाव को रोकने के लिये स्कूलों को बन्द कर दिया गया जिसके कारण छात्र वर्ष 2020 में परीक्षाएँ नहीं दे पाएँ.
Unsplash/Jeswin Thomas
कोविड-19 के फैलाव को रोकने के लिये स्कूलों को बन्द कर दिया गया जिसके कारण छात्र वर्ष 2020 में परीक्षाएँ नहीं दे पाएँ.

आमतौर पर उन्हें ऐसे स्कूलों में जाने के लिये मजबूर होना पड़ता है जहाँ साधन सम्पन्न छात्रों के स्कूलों की तुलना में औसतन कम नम्बर मिलते हैं.  

ये उदाहरण दर्शाते हैं कि एआई औज़ारों और समाधानों को उपयुक्त ढँग से काम करने के लिये अच्छी तरह से प्रशिक्षित डेटा वैज्ञानिकों की ज़रूरत है जो उच्च गुणवत्ता वाले डेटा को परख सकें. 

लेकिन दुर्भाग्यवश, एआई पढ़ाये जाने के लिये जिन आँकड़ों का इस्तेमाल किया जा रहा है उसे दुनिया भर में उपभोक्ताओं से एकत्र किया जा रहा है – अक्सर उनकी सहमति के बग़ैर. 

निर्धन देशों के पास अक्सर निजी डेटा को सुरक्षित रखने की क्षमता का अभाव होता है, और ना ही वे सायबर हमलों और भ्रामक सूचनाओं की भरमार से निपटने के लिये तैयार हैं. 

2) नफ़रत, दरार और झूठ से व्यवसायों को फ़ायदा

बहुत से विशेषज्ञों ने यह कहते हुए सोशल मीडिया कम्पनियों की आलोचना की है कि एआई और एलगोरिथम के इस्तेमाल से लोगों तक लक्षित ढँग से ऐसी जानकारी पहुँचाई जा रही है जिससे उनके पूर्वाग्रहों को और बल मिलता है. 

वेब सामग्री जितनी भड़काऊ होती है, लोगों द्वारा उसे उतना ही पढ़ा और शेयर किया जाता है. 

सोशल मीडिया कम्पनियों समाज में दरार डालने वाले, ध्रुवीकरण के लिये ज़िम्मेदार ऐसी सामग्री को कथित तौर पर आगे बढ़ाने के लिये इच्छुक इसलिये हैं क्योंकि इससे लोग लम्बे समय तक उनके प्लैटफ़ॉर्म पर रहते हैं, विज्ञापनदाता ख़ुश रहते हैं और मुनाफ़ा बढ़ता है. 

इन वजहों से चरमपंथी, नफ़रत भरी पोस्टों की लोकप्रियता में इज़ाफ़ा हुआ है और इन्हें समाज में बेहद कम स्वीकृति प्राप्त समूहों द्वारा फैलाया जा रहा है.

भारी मात्रा में डेटा को छांटने और विश्लेषण करने के लिये आर्टिफ़िशियल इंटेलीजेंस उपयोगी है.
Unsplash/Franki Chamaki
भारी मात्रा में डेटा को छांटने और विश्लेषण करने के लिये आर्टिफ़िशियल इंटेलीजेंस उपयोगी है.

कोविड-19 महामारी के दौरान भी वायरस के सम्बन्ध में ख़तरनाक और भ्रामक जानकारियों को तेज़ी से आगे बढ़ाया गया जिससे लोगों के स्वास्थ्य और जीवन के लिये मुश्किलें बढ़ी. 

3)ऑनलाइन जगत में परिलक्षित होती वैश्विक विषमता

इस सम्बन्ध में ऐसे पुख़्ता तथ्य मौजूद हैं जोकि दर्शाते हैं कि दुनिया को ज़्यादा असमान बनाने में आर्टिफ़िशियल इंटेलीजेंस की भूमिका है. इससे बेहद कम संख्या में लोगों को ही असल में फ़ायदा पहुँच रहा है. 

उदाहरणस्वरूप, तीन चौथाई से अधिक नये डिजिटल नवाचार (Innovation) और पेटेण्ट महज 200 कम्पनियों द्वारा तैयार किये जा रहे हैं.

जिन 11 सबसे बड़े डिजिटल प्लैटफ़ॉर्म का इस्तेमाल किया जा रहा है, उनमें 11 अमेरिका से हैं जबकि बाक़ी अन्य चीन से हैं.

इसका अर्थ यह है कि कृत्रिम बुद्धिमता के अधिकाँश औज़ारों को पश्चिमी देशों में विकसित किया जा रहा है. इन्हें विकसित करने वाले और इन विषयों पर लिखने वाले अधिकतर श्वेत पुरुष हैं. 

मिशिगन में ग़लत गिरफ़्तारी का मामला एक ऐसा उदाहरण है जो दर्शाता है कि इस बेहद अहम क्षेत्र में विविधता की कमी से किस तरह के ख़तरों का सामना करना पड़ सकता है.

कैमरून के उत्तरी हिस्से के बैगाई स्कूल में एक बच्ची कम्प्यूटर टैबलेट से सीखती हुूई. इस तरह की टैबलेट यूनीसेफ़ ने मुहैया कराई हैं.
UNICEF/UN0143514/Karel Prinsloo
कैमरून के उत्तरी हिस्से के बैगाई स्कूल में एक बच्ची कम्प्यूटर टैबलेट से सीखती हुूई. इस तरह की टैबलेट यूनीसेफ़ ने मुहैया कराई हैं.

इसका अर्थ यह भी है कि वर्ष 2030 तक, एआई से होने वाले आर्थिक लाभ का एक बड़ा हिस्सा उत्तर अमेरिका और चीन को मिलेगा और यह हज़ारों अरब डॉलर हो सकता है.  

4) सम्भावित फ़ायदों का विशाल दायरा

यहाँ मंतव्य यह नहीं है कि एआई का इस्तेमाल कम किया जाना चाहिये. इस टैक्नॉलॉजी का इस्तेमाल कर रहे नवाचार समाज के लिये बेहद उपयोगी हैं, और इनकी उपयोगिता वैश्विक महामारी के दौरान देखी जा चुकी है. 

दुनिया भर में सरकारों ने नई समस्याओं पर पार पाने के लिये डिजिटल समाधानों - सम्पर्कों की खोज करने वाली ऐप्स, टेलीमेडिसिन, ड्रोन के ज़रिये दवाओं का वितरण और कोविड-19 के फैलाव पर नज़र रखने जैसी तकनीकों का सहारा लिया गया है. 

इस कार्य के लिये सोशल मीडिया और ऑनलाइन गतिविधियों के ज़रिये एकत्र डेटा के आकलन के लिये आर्टिफ़िशियल इंटेलीजेंस का इस्तेमाल किया गया है. 

इसके फ़ायदे महामारी के गुज़र जाने के बाद भी दिखाये देंगे. एआई के ज़रिये जलवायु संकट के ख़िलाफ़ लड़ाई को आगे बढ़ाने, पारिस्थितिकी तन्त्रों और पर्यावासों की पुनर्बहाली में म़ॉडल को ऊर्जा देने और जैवविविधता के विलुप्त होने की रफ़्तार को धीमा करने में मदद मिल सकती है.

लेकिन कठिनाई यह है कि एआई औज़ारों को इतनी तेज़ी से विकसित किया जा रहा है कि डिज़ाईनर, कॉरपोरेट साझा धारकों और सरकारों के पास इन नई टैक्नॉलॉजी के सम्भावित दुष्परिणामों से निपटने के लिये समय नहीं है. 

टेस्ला जैसी कार कम्पनियाँ वाहनों पर नियन्त्रण के लिये एआई का इस्तेमाल कर रही हैं.
Unsplash/David von Diemar
टेस्ला जैसी कार कम्पनियाँ वाहनों पर नियन्त्रण के लिये एआई का इस्तेमाल कर रही हैं.

5) अन्तरराष्ट्रीय एआई नियामन पर सहमति आवश्यक 

इन्हीं कारणों वश संयुक्त राष्ट्र की शैक्षिक, वैज्ञानिक और सांस्कृतिक मामलों की एजेंसी (UNESCO) विभिन्न समूहों के साथ परामर्श में हिस्सा ले रही है जिनमें नागरिक समाज, निजी क्षेत्र और आम जनता के प्रतिनिधि भी शामिल हैं. 

इन प्रयासों का लक्ष्य आर्टिफ़िशयल इंटेलीजेंस के लिये अन्तरराष्ट्रीय मानकों को स्थापित करना और यह सुनिश्चित करना है कि टैक्नॉलॉजी का नीतिपरक व मज़ूबत नैतिक आधार हो. इसके तहत क़ानून के राज, मानवाधिकारों को बढ़ावा दिये जाने का ख़ास ख़याल रखा जायेगा. 

कुछ अन्य अहम क्षेत्रों पर भी चर्चा को आगे बढ़ाये जाने की आवश्यकता है - जैसेकि डेटा विज्ञान के क्षेत्र में पूर्वाग्रहों, नस्लीय व लैंगिक रुढ़ीबद्धता को कम करने के लिये विविधता को सुनिश्चित किया जाना. 

साथ ही न्यायिक प्रणालियों में एआई का उपयुक्त इस्तेमाल किया जाना होगा ताकि उन्हें दक्ष व न्यायोचित बनाया जा सके और टैक्नॉलॉजी के लाभों को ज़्यादा से ज़्यादा संख्या में लोगों तक पहुँचाया जा सके.