बच्चों के लिए बढ़ते AI ख़तरों के मद्देनज़र, यूएन की गम्भीर चेतावनी
कॉनर लेनन
क़ानून और अपराध रोकथाम संयुक्त राष्ट्र के विभिन्न निकायों ने, कृत्रिम बुद्धिमत्ता यानि एआई-जनित हानिकारक ऑनलाइन सामग्री की बढ़ती मात्रा के मद्देनज़र, बच्चों को शोषण, दुर्व्यवहार और मानसिक आघात से सुरक्षित रखने के लिए, तत्काल और व्यापक उपाय अपनाए जाने की अपील की है.
अन्तरराष्ट्रीय दूरसंचार संघ (ITU) में एक निदेशक कॉस्मस ज़वाज़ावा ने कहा है कि बच्चों को निशाना बनाए जाने के तौर-तरीक़ों की संख्या बेहद चिन्ताजनक है.
ITU, सहित कई प्रमुख एजेंसियों ने, दिशा-निर्देशों और सिफ़ारिशों वाला यह साझा वक्तव्य जारी किया है.
निदेशक कॉस्मस ज़वाज़ावा ने बताया कि बच्चों को, ऑनलाइन ‘Grooming’ यानि उन्हें हानिकारक नीयत रखने वाले लोगों के चंगुल में फँसाने के तरीक़ों से लेकर Deepfake तकनीक, हानिकारक तकनीकी विशेषताओं को, सोशल मीडिया मंंचों में शामिल किए जाने, साइबर मंचों पर डराए-धमकाए जाने (Bullying) और आपत्तिजनक सामग्री जैसे अनेक ख़तरों का सामना करना पड़ रहा है.
उन्होंने कहा कि कोविड-19 महामारी के दौरान यह समस्या और गम्भीर हुई, जब बड़ी संख्या में बच्चे, विशेष रूप से लड़कियाँ और युवा महिलाएँ, ऑनलाइन दुर्व्यवहार के शिकार हुए, और अनेक मामलों में इसका असर वास्तविक जीवन में शारीरिक हिंसा के रूप में भी सामने आया.
यौन शोषण का नया रूप
बच्चों के अधिकारों के लिए काम करने वाले संगठनों का कहना है कि अपराधी, अब एआई तकनीक का इस्तेमाल करके, बच्चों की ऑनलाइन गतिविधियों, उनकी भावनात्मक स्थिति और रुचियों का विश्लेषण कर रहे हैं, ताकि उनके अनुरूप ‘ग्रूमिंग’ की रणनीति तैयार की जा सके.
इन संगठनों के अनुसार, अपराधी तत्व, एआई की मदद से बच्चों की अश्लील फ़र्ज़ी तस्वीरें भी तैयार कर रहे हैं, जिससे यौन शोषण और ब्लैकमेल करने का एक नया रूप सामने आया है.
बाल यौन शोषण और दुर्व्यवहार से जुड़े विश्वसनीय आँकड़े जुटाने के लिए स्थापित स्वतंत्र वैश्विक संस्था - The Childlight Global Child Safety Institute की 2025 की रिपोर्ट में पाया गया कि अमेरिका में इस तकनीक ने, बाल दुर्व्यवहार के मामलों की संख्या 2023 में 4 हज़ार 700 से बढ़कर, 2024 में 67 हज़ार से अधिक हो गई.
ऑस्ट्रेलिया ने लगाया प्रतिबन्ध
संयुक्त राष्ट्र के सदस्य देश, ऑनलाइन सामग्री से बच्चों को होने वाले ख़तरों की गम्भीरता के मद्देनज़र अब कड़े क़दम उठा रहे हैं,
वर्ष 2025 के अन्त में ऑस्ट्रेलिया दुनिया का ऐसा पहला देश बना, जिसने 16 वर्ष से कम उम्र के बच्चों के लिए सोशल मीडिया अकाउंट पर प्रतिबन्ध लगाया. सरकार ने इसके पीछे यह तर्क दिया कि सोशल मीडिया से होने वाले जोखिम, इसके सम्भावित फ़ायदों से कहीं अधिक हैं.
ऑस्ट्रेलिया की सरकार द्वारा तैयार कराई गई एक रिपोर्ट में सामने आया कि 10 से 15 वर्ष की आयु के लगभग दो-तिहाई बच्चों ने नफ़रत फैलाने वाली, हिंसक या मानसिक रूप से परेशान करने वाली सामग्री देखी थी, जबकि आधे से अधिक बच्चे साइबर बुलिंग के शिकार हुए थे. इनमें से अधिकांश गतिविधियाँ सामग्री सोशल मीडिया मंचों पर ही घटित हुईं.
ऑस्ट्रेलिया के इस क़दम के बाद मलेशिया, ब्रिटेन, फ़्रांस और कैनेडा जैसे अन्य देश भी ऐसे ही प्रतिबन्धों या सख़्त नियमों की तैयारी कर रहे हैं.
एआई साक्षरता की भारी कमी
वर्ष 2026 की शुरुआत में, बच्चों की सुरक्षा से जुड़े संयुक्त राष्ट्र के कई निकायों ने, कृत्रिम बुद्धिमत्ता और बाल अधिकारों पर एक साझा वक्तव्य जारी किया गया, जिसमें एआई से जुड़े ख़तरों और उनसे निपटने में समाज की सामूहिक अक्षमता का स्पष्ट रूप से ज़िक्र किया गया है.
इसमें कहा गया है कि बच्चों, शिक्षकों, अभिभावकों और देखभाल करने वालों में एआई साक्षरता की भारी कमी है.
साथ ही, नीति-निर्माताओं और देशों की सरकारों के स्तर पर भी एआई ढाँचों, डेटा सुरक्षा उपायों और बाल अधिकारों पर पड़ने वाले प्रभावों के आकलन को लेकर तकनीकी प्रशिक्षण का अभाव है.
बच्चे, मनोरंजन व स्वास्थ्य के लिए शारीरिक गतिविधियों का सहारा लेने के बजाय, डिजिटल उपकरणों का इस्तेमाल ज़्यादा कर रहे हैं, जिससे उनका शारीरिक व मानसिक ख़राब हो रहा है.
निजी कम्पनियों की भी ज़िम्मेदारी
संयुक्त राष्ट्र के वक्तव्य में तकनीकी कम्पनियों की भूमिका पर भी सवाल उठाए गए हैं. इसमें कहा गया है कि एआई-समर्थित अधिकांश उपकरण, उनके मूल मॉडल, तकनीकें और प्रणालियाँ, बच्चों और उनके कल्याण को ध्यान में रखकर नहीं बनाए गए हैं.
कॉस्मस ज़वाज़ावा ने निजी क्षेत्र की भागेदारी पर ज़ोर देते हुए कहा कि तकनीक जहाँ सक्षम बनाने वाली हो सकती है, वहीं नुक़सान भी पहुँचा सकती है, इसलिए इस साझा प्रयास में, कम्पनियों का का हिस्सा बनना ज़रूरी है.
संयुक्त राष्ट्र के उन निकायों ने तकनीकी कम्पनियों से आग्रह किया है कि उनके उत्पाद बच्चों के अधिकारों का सम्मान करते हुए बनाए जाएँ.
इसके साथ ही, समाज के सभी हिस्सों को भी यह ज़िम्मेदारी लेने के लिए कहा गया है कि एआई और डिजिटल उपकरणों का उपयोग सुरक्षित ढंग से हो.
यह बच्चों के अधिकारों के सन्दर्भ में कोई नई चिन्ता नहीं है. 2021 में, बाल अधिकारों के अन्तरराष्ट्रीय सम्मेलन में डिजिटल युग के ख़तरों को दर्शाने के लिए नई भाषा जोड़ी गई थी.
संयुक्त राष्ट्र निकाय मानते हैं कि देशों को प्रभावी नियम बनाने में और मार्गदर्शन की आवश्यकता है. इस कारण उन्होंने व्यापक सिफ़ारिशों की सूची तैयार की है.