من المساعدة أثناء الجائحة إلى إيداع أبرياء في السجن – منافع وأضرار الذكاء الاصطناعي

4 كانون الثاني/يناير 2021

على الرغم من أهمية الذكاء الاصطناعي القادر على التفكير والتصرّف مثل البشر، إلا أن إساءة استخدامه قد تؤدي إلى أضرار كبيرة، الأمر الذي دفع بالأمم المتحدة إلى الدعوة لتنظيم دولي وراسخ لهذه التكنولوجيا.

وتطلق هذا الشهر (كانون الثاني/يناير 2021) منظمة الأمم المتحدة للتربية والعلم والثقافة (اليونسكو) دليلا جديدا للمساعدة على شرح الفرص والتحديات التي يقدمها الذكاء الاصطناعي، بعنوان "فهم أخلاقيات الذكاء الاصطناعي: لماذا يُعتبر شاغلا للجميع؟".

وبحسب اليونسكو، سيتيح هذا الدليل للأفراد من جميع الأعمار والخلفيات استيعاب المسائل المعقّدة المرتبطة بالذكاء الاصطناعي بطريقة أفضل، وإدراك الحاجة لفهم طرق تطبيقه.

ما الذكاء الاصطناعي؟

عادة ما يُستخدم الذكاء الاصطناعي أو Artificial Intelligence لوصف برمجيات قادرة إلى حدّ ما على "التعلّم" وحل المشاكل وتحديد الأنماط، ويفيد هذا الأمر بصورة خاصة عند الحاجة إلى تصنيف كميات هائلة من البيانات وفهمها. لكن، ثمّة تصوّر خاطئ عن ضمان توفير الذكاء الاصطناعي نتائج أكثر كفاءة وتفوقا وموثوقا فيها أكثر من أي نتيجة يمكن أن تصدر عن البشر، وذلك بسبب قدرة الذكاء الاصطناعي على التعلّم.

وتتعدد الأمثلة الحديثة على سوء استخدام الذكاء الاصطناعي، منها إعطاء علامات أقل في الامتحان بصورة خاطئة، وإيداع أبرياء في السجن وسرقة بيانات شخصية، ولهذا الأمر، تشدد اليونسكو على عدم قدرة أي شيء على أن يحل مكان البشر، فالبشر هم من يقفون وراء نجاح أو فشل أدوات الذكاء الاصطناعي.

سوء استخدام الذكاء الاصطناعي

تمهيدا لإطلاق دليل الأمم المتحدة لفهم أخلاقيات الذكاء الاصطناعي، دعت اليونسكو إلى التمعّن في عواقب إساءة استخدام الذكاء الاصطناعي على الرغم من فائدته الكبيرة وخاصة في فترة جائحة كـوفيد-19، وأشارت إلى عدد من الأمثلة الحديثة على ذلك.

ففي كانون الثاني/يناير، ألقي القبض على رجل أميركي من أصول أفريقية بسبب جريمة سرقة من متجر ولم يكن يعرف عنها شيئا، واقتيد إلى الحجز بعد وضع أغلال في يديه خارج منزله وأمام أسرته.

وثق ضباط الشرطة المشاركون في الاحتجاز في أداة ذكاء اصطناعي مخصصة للتعرّف على الوجوه من أجل إلقاء القبض على هذا الرجل، بيد أن هذه الأداة لم تتعلم كيفية التمييز بين وجوه أصحاب البشرة السوداء، لأن الصور المستخدمة لتدريبها كانت تعود في أغلب الأحيان لوجوه أصحاب البشرة البيضاء.

ولحسن الحظ، سرعان ما اتضح عدم وجود تشابه بين الرجل المقبوض عليه والمشتبه به الظاهر في الصور الثابتة الملتقطة من كاميرات المراقبة في المتجر، وأطلق سراحه بعد أن أمضى بضع ساعات في السجن.

وفي تموز/يوليو، أثار خطأ "تكنولوجي" ضجّة في المملكة المتحدة بسبب استخدام برنامج حاسوبي لتقييم العلامات الدراسية لطلاب (فقد ألغيت الامتحانات التقليدية نتيجة جائحة كوفيد-19).

لوضع تصوّر عن العلامات التي كان ليحصل عليها الطلاب لو أنهم خضعوا للامتحان، أخذ البرنامج علاماتهم الموجودة مسبقا، أخذا في الحسبان سجل مدرستهم على مر الزمن، مما أدّى للإجحاف بحق طلاب لامعين ينتمون إلى أقلية وينحدرون من أحياء منخفضة الدخل، إذ عادة ما يرتاد هؤلاء الطلاب مدارس ذات معدلات أقل من تلك التي يرتادها الطلاب الأغنى.

Unsplash/Jeswin Thomas
لم يقدر الكثير من الطلاب على التقدم للامتحانات عام 2020 بسبب جائحة كوفيد-19 وإغلاق المدارس.

آفة الهجمات الإلكترونية

تؤكد اليونسكو أنه كي تعمل أدوات الذكاء الاصطناعي بطريقة صحيحة، يجب أن يعمل علماء البيانات الحاصلون على تدريب جيد على بيانات عالية الجودة، إلا أن معظم البيانات المستخدمة حاليا في تعليم الذكاء الاصطناعي مأخوذة من مستهلكين في جميع أنحاء العالم، وتؤخذ في أغلب الأحيان من دون موافقتهم الصريحة. وغالبا ما تفتقر البلدان الأفقر إلى القدرة على ضمان حماية البيانات الشخصية أو على حماية مجتمعاتهم من الضرر الذي تحدثه الهجمات الإلكترونية والمعلومات الخاطئة، التي تزايدت مع تفشي كوفيد-19.

الكراهية والانقسام والكذب

تعرّضت عدة شركات متخصصة في مجال وسائل التواصل الاجتماعي إلى الانتقادات بسبب استخدام خوارزميات تعتمد على الذكاء الاصطناعي، من أجل الاستهداف الدقيق للمستخدمين، وإرسال محتوى مخصص لهم، مما يعزز أحكامهم المسبقة، فكلما كان المحتوى تحريضيا، كلما زادت شعبيته ومشاركته.

وتسعى الشركات إلى زيادة احتمال بقاء هؤلاء المستخدمين لفترة أطول على المنصة، مما يجعل أصحاب الإعلانات سعداء بسبب زيادة الأرباح. إلا أن ذلك أفضى إلى زيادة شعبية المنشورات المتطرفة والمليئة بالكراهية التي تنشرها مجموعات كانت لتكون هامشية وغير معروفة. وأفضى أيضا، أثناء تفشي جائحة كوفيد-19، إلى نشر معلومات خاطئة عن الفيروس، من الممكن أن تؤدي إلى إصابة المزيد من الأشخاص به.

Unsplash/David von Diemar
شركات السيارات مثل تسلا تستخدم الذكاء الاصطناعي بشكل أكبر للتحكم بالمركبات.

وإضافة إلى ذلك، فثمّة أدلة راسخة على دور الذكاء الاصطناعي في تحويل العالم إلى مكان تتفاقم فيه أوجه عدم المساواة، وعلى كونه يعود بالنفع على نسبة صغيرة من البشر. فعلى سبيل المثال، تنتج نحو 200 شركة فقط أكثر من ثلاثة أرباع الابتكارات الرقمية الجديدة وبراءات الاختراع. ومن بين المنصات الرقمية الخمس عشرة الأضخم التي نستخدمها، هناك 11 منصة أميركية وباقي المنصات صينية.

هذا يعني أن أدوات الذكاء الاصطناعي في معظمهما من تصميم مبرمجين في الغرب. وفي الواقع، معظم هؤلاء المبرمجين هم من الرجال البيض، وكذلك الأمر بالنسبة إلى معظم من يكتبون عن مواضيع الذكاء الاصطناعي.

وبحلول عام 2030، من المتوقع أن تحصل أميركا الشمالية والصين على حصة الأسد من الأرباح الاقتصادية، التي من المتوقع أن تعادل قيمتها تريليونات الدولارات الأميركية بفضل الذكاء الاصطناعي.

الفوائد هائلة

رغم تلك السلبيات، إلا أنه لا يجب التقليل من شأن استخدام الذكاء الاصطناعي، فالابتكارات التي تستخدم التكنولوجيا تعود بمنفعة كبيرة على المجتمع، على النحو الذي شهدناه أثناء تفشي الجائحة. فقد انتقلت الحكومات في جميع أنحاء العالم لإيجاد حلول تكنولوجية للمشكلات الجديدة، من قبيل تطبيقات تتبع المخالطين والتطبيب عن بُعد، وتوصيل الأدوية عن طريق الطائرات المسيّرة من دون طيار، وقد استخدم الذكاء الاصطناعي في تتبع انتشار مرض كوفيد-19، من خلال التفتيش في المخزونات الضخمة للبيانات المأخوذة من تفاعلاتنا على وسائل التواصل الاجتماعي وعلى شبكة الإنترنت.

وبإمكان الذكاء الاصطناعي المساعدة في مكافحة الأزمة المناخية، وتقديم نماذج للتزويد بالطاقة بإمكانها المساعدة على ترميم النظم الإيكولوجية والموائل، وإبطاء وتيرة فقدان التنوع البيولوجي، كما بإمكانه المساعدة في إنقاذ الأرواح من خلال توجيه موارد المنظمات الإنسانية بطريقة أفضل بحسب الحاجة إليها.

وتشير اليونسكو إلى أن المشكلة تتمثل في أن أدوات الذكاء الاصطناعي تطورت بسرعة كبيرة، لدرجة أنه لم تسمح الفرصة للمصممين والمساهمين والحكومات لبحث المأزق الذي من المحتمل أن تسببه هذه التكنولوجيات الجديدة المبهرة.

ودعت اليونسكو لإيلاء الأهمية لإدخال المزيد من التنوع في مجال علم البيانات بغية التخفيف من التحيّز والقوالب النمطية العنصرية والجنسانية، واستخدام الذكاء الاصطناعي بطريقة ملائمة في النظم القضائية لكي تصبح أكثر عدلا وكفاءة، ولإيجاد سبل لضمان تعميم منافع التكنولوجيا على أكبر عدد ممكن من البشر.

♦ رجاء المشاركة في استبيان أخبار الأمم المتحدة لعام 2021

     اضغطوا على  الرابط لنتعرف على آرائكم.

♦ تحميل تطبيق أخبار الأمم المتحدة بالعربية من متجر آبل لأجهزة الأيفون والآيباد IOS أو من متجر غوغل لأجهزة أندرويد Android .  

♦  الاشتراك في إشعارات البريد الإلكتروني. 

تتبع الأخبار: أخبار سابقة حول هذا الموضوع

التعليم في أزمة: فيروس كورونا شل حركة العالم، والأطفال الأفقر والأضعف هم الأكثر تضررا

تعرّض الأطفال في جميع أنحاء العالم لتعطيل تعليمهم بشدة هذا العام بسبب جائحة كوفيد-19، حيث تجد المدارس صعوبة في التعامل مع إجراءات الإغلاق والفتح المتكررة، والانتقال، إذا كان خيارا متاحا، إلى التعليم عبر الإنترنت. ومع ذلك، فإن الأطفال المحرومين هم الأكثر تضررا من إجراءات الطوارئ.

الأمم المتحدة تسلط الضوء على أهمية العلوم في التغلب على جائحة كورونا

ينبغي للعلوم أن تساهم مساهمة كبيرة في تمكيننا من التغلب على الأزمة الراهنة الناجمة عن جائحة كورونا، وفي مساعدتنا على بناء مجتمعات أكثر عدلا وإنسانية واستدامة. جاء ذلك في رسالة للمديرة العامة لليونسكو السيدة أودري أزولاي بمناسبة اليوم العالمي للعلوم من أجل السلام والتنمية.