टैक्नॉलॉजी में छिपा पूर्वाग्रह: एआई प्रणालियों में लैंगिक भेदभाव को दूर करने का आग्रह

कृत्रिम बुद्धिमता (एआई) पर आधारित प्रणालियाँ, लैंगिक व नस्लीय पूर्वाग्रहों को हवा दे रही हैं और इनकी वजह से डिजिटल माध्यमों पर महिलाओं व लड़कियों के विरुद्ध हिंसक प्रवृत्तियों में भी उछाल आ रहा है. संयुक्त राष्ट्र के एक नए अध्ययन में ऐसे रुझानों पर चिन्ता व्यक्त करते हुए, लैंगिक रूप से समानतापूर्ण डिजिटल भविष्य को साकार करने पर बल दिया गया है.

महिला सशक्तिकरण के लिए यूएन संस्था (UN Women) ने अपने अध्ययन में, 133 एआई प्रणालियों का विश्लेषण किया है, जिसके अनुसार इनमें से 44 प्रतिशत में लैंगिक पूर्वाग्रह सामने आए हैं. वहीं, 26 फ़ीसदी एआई प्रणालियों में लैंगिक व नस्लीय, दोनों प्रकार के पूर्वाग्रह की झलक मिली है. 

इसके बावजूद, केवल 51 प्रतिशत कम्पनियाँ ही, एआई के ज़रिए तैयार सामग्री को जारी करने से पहले, मानव निरीक्षण का सहारा ले रही हैं. 

यूएन वीमैन ने एआई संचालन व्यवस्था के मुद्दे पर, जुलाई में स्विट्ज़रलैंड के जिनीवा शहर में आयोजित होने वाली वैश्विक चर्चाओं से पहले, अपने इस अध्ययन के ज़रिए स्पष्ट किया है कि क्या कुछ दाँव पर लगा है. 

यूएन महिला सशक्तिकरण संस्थान ने एआई विकास, तैनाती और संचालन, उसके जीवन चक्र के हर पड़ाव पर महिला अधिकारों, अनुभवों और लैंगिक समानता को शामिल करने का आग्रह किया है, ताकि प्रतिनिधित्व को व्यापक बनाया जाए, रुढ़िवादी धारणाओं से बचा जाए और ये टैक्नॉलॉजी सभी के लिए सुलभ बन सके. 

विश्लेषण के अहम निष्कर्ष:

एआई युग की दिशा तय करने के लिए बीत रहा समय

जैनरेटिव एआई, मार्केटिंग और संचार से जुड़े कामकाज में बड़े पैमाने पर इस्तेमाल की जाने वाली टैक्नॉलॉजी है, मगर भेदभावपूर्ण ऐल्गोरिदम की वजह से लैंगिक असमानता व भेदभाव को बढ़ावा मिल सकता है.

प्रचार सामग्री तैयार करने के लिए एआई उपायों का सहारा लेने का रुझान बढ़ रहा है, लेकिन यह भी चिन्ता है कि इन माध्यमों पर किस व्यक्ति या समुदाय को, किस तरह से उकेरा जाएगा और किनकी कहानियों को बयाँ किया जाएगा. 

फ़िलहाल ये निर्णय तेज़ी से लिए जा रहे हैं और इसमें मानव निरीक्षण या लैंगिक परिप्रेक्ष्य की कोई जगह नहीं है.

पूर्वाग्रह व भेदभावपूर्ण ऐल्गोरिदम, एआई प्रणालियों में चिन्ताजनक रुझान

लार्ज लैंग्वेज मॉडल (LLM) में निरन्तर यह देखा गया है कि महिलाओं को परिवार, घर, बच्चों से जोड़ कर देखा जाता है, जबकि पुरुषों को व्यवसाय, कार्यकारी अधिकारी, वेतन और करियर के क्षेत्र से.

जबकि किसी व्यक्ति की लैंगिक पहचान के साथ किसी वाक्य को पूरा करने के लिए कहा जाता है, तो LLM में 20 फ़ीसदी मामलों में लिंग-भेदी (sexist) व स्त्री-द्वेषी (misogynistic) रवैये नज़र आते हैं. जैसेकि महिलाओं को यौन उपभोग की वस्तु और पति की सम्पत्ति के रूप में पेश करना.

ऐसा इसलिए, चूँकि एआई प्रणालियों को तैयार करने में जिस सामग्री का सहारा लिया गया है, वे महिलाओं व पुरुषों के समान प्रतिनिधित्व पर आधारित नहीं है और पिछले कई दशकों की परिस्थितियों का नतीजा है. इसलिए, एआई पूर्वाग्रह को प्रणाली की बनावट से जुड़ी समस्या नहीं, बल्कि नीतिगत मुद्दा माना गया है.

सर्वेक्षण में शामिल 138 देशों में, केवल 24 में ही राष्ट्रीय एआई रणनीतियों में लैंगिक परिप्रेक्ष्य का उल्लेख किया गया है. 

© Unsplash/Yura Fresh वैश्विक स्तर पर महिलाओं के विरुद्ध ऑनलाइन दुर्व्यवहार मामलों में तेज़ी से वृद्धि हो रही है.

डिजिटल माध्यमों पर महिलाओं के विरुद्ध हिंसा को एआई से बढ़ावा 

यूएन वीमैन द्वारा जुटाए गए आँकड़े दर्शाते हैं कि वैश्विक स्तर पर महिलाओं व लड़कियों की डिजिटल माध्यमों पर पहुँच अपेक्षाकृत कम है और वहाँ उन्हें ऑनलाइन हिंसा का अनुभव भी करना पड़ता है.

हर 4 में से एक महिला मानवाधिकार कार्यकर्ता, पत्रकारों ने एआई के ज़रिए ऑनलाइन हिंसा की चपेट में आने की बात कही है. वहीं 12 प्रतिशत के अनुसार उनकी सहमति के बिना उनकी निजी तस्वीरों को साझा किया गया. 

6 फ़ीसदी ने बताया कि झूठी तस्वीरों व वीडियो, डीपफ़ेक के ज़रिए उन्हें निशाना बनाया गया, जबकि 25 फ़ीसदी महिलाओं को डिजिटल सन्देशों के ज़रिए अनचाहे यौन प्रस्ताव भेजे गए. 

एआई विकसित करने वाले कक्षों से दूर महिलाएँ

जैनरेटिव एआई की मदद से टैक्नॉलॉजी सैक्टर में रोज़गार अवसरों को बढ़ावा मिलने की आशा है, लेकिन महिलाओं का विज्ञान, टैक्नॉलॉजी, इंजीनियरिंग और गणित विषयों में प्रतिनिधित्व कम है.

एआई के क्षेत्र में वैश्विक स्तर पर कुल कार्यबल में से केवल 30 प्रतिशत महिलाएँ हैं. जो लोग इन प्रणालियों को आकार दे रहे हैं, वे उन अरबों लोगों का प्रतिनिधित्व करने में सक्षम नहीं हैं, जिनके लिए इन्हें तैयार किया गया है और इस खाई से समस्या गहरा रही है. 

एआई-जनित आर्थिक व्यवधान का महिलाओं पर सर्वाधिक असर

एआई सैक्टर के बाहर अन्य क्षेत्रों में, इस टैक्नॉलॉजी की वजह से रोज़गार खोने के जोखिम का सामना करने वाले पुरुषों की तुलना में महिलाओ पर दोगुना असर होने की आशंका है. यह केवल लैंगिक असमानता तक सीमित नहीं है. 

इसके नुक़सान, नस्ल, विकलांगता, सामाजिक-आर्थिक दर्जे और भौगोलिक क्षेत्र से परे तक नज़र आते हैं. मीडिया और श्रम बाज़ारों में पहले से ही सबसे कम प्रतिनिधित्व वाले समुदाय, सबसे पीछे रह जाने का जोखिम झेल रहे हैं.

समावेशी AI प्रणाली, विज्ञापन नज़रिए से भी अनिवार्य

एक अध्ययन के नतीजों ने यह साबित किया है कि समावेशी विज्ञापनों का व्यावसायिक मुनाफ़े, बिक्री, और ब्रैंड मूल्य पर सकारात्मक असर होता है. 

समावेशी विज्ञापन तैयार करने और लैंगिक रुढ़िवादी छवियों से परहेज़ करने वाले ब्रैंड को बिक्री में लाभ मिलता है और उन्हें अपने ग्राहकों की पहली पसन्द बनने की सम्भावना भी अधिक होती है.  

इस वजह से, यह ज़रूरी है कि कम्पनियाँ अपने प्रचार में प्रतिष्ठा व विज्ञापन सम्बन्धी जोखिमों से बचने के लिए, समावेशी सामग्री को सुनिश्चित करें, विशेष रूप से जब जैनरेटिव एआई की मदद से विज्ञापन तैयार किए जा रहे हों.