اے آئی چند ملکوں اور نجی کمپنیوں کے ہاتھ انسانیت کے لیے خطرہ
امن اور سلامتی
اقوام متحدہ کی سلامتی کونسل کو بتایا گیا ہے کہ اس بات پر وسیع تر اتفاق ہونا چاہیے کہ کوئی بھی کمپنی یا ریاست مصنوعی ذہانت (اے آئی) کا ایسا نظام تیار کرنے کا حق نہیں رکھتی جو بڑے پیمانے پر نقصان کا باعث بن سکتا ہو۔
مصنوعی ذہانت پر اقوام متحدہ کے آزاد بین الاقوامی سائنسی پینل کے شریک سربراہ یوشوا بینجیو نے کونسل کو بریفنگ دیتے ہوئے خبردار کیا ہے کہ فی الوقت اے آئی سے متعلق فیصلے چند ممالک کے چند لوگوں کے ہاتھوں میں ہیں اور ٹیکنالوجی کی طاقت کے اس ارتکاز سے انسانیت کا مستقبل داؤ پر لگا ہوا ہے۔
انہوں نے حالیہ عرصہ میں پیش آنے والے ایسے واقعات کا حوالہ بھی دیا جن میں معروف کمپنیوں کے تیار کردہ اے آئی ایجنٹس نے خطرناک اور ناقابل قبول طرز عمل اختیار کیا اور دی گئی ہدایات کی خلاف ورزی کی۔ ان میں بعض ایسے اقدامات بھی شامل تھے جنہیں انسان انجام دیتے تو وہ جرائم کے زمرے میں آتے۔
مصنوعی ذہانت سمیت جدید ٹیکنالوجی کے بے پایاں فوائد اور اس سے لاحق سنگین خطرات کے بارے میں تین بڑی اے آئی کمپنیوں کے سربراہوں نے بھی کونسل کو بریفنگ دی جن میں اوپن اے آئی کے چیف ایگزیکٹو آفیسر سیم آلٹ مین، اینتھروپک کے سربراہ ڈیریو اموڈی اور ہگنگ فیس کے سی ای او کلیمنٹ ڈیلانگ شامل تھے۔
خطرات سے نمٹنے میں ناکامی
یوشوا بینجیو نے خبردار کیا کہ اگرچہ طاقتور ترین اے آئی نظام تیار کرنے والی کمپنیاں خود بھی اپنی مصنوعات سے لاحق تباہ کن خطرات کا اعتراف کرتی ہیں، لیکن ان خطرات سے نمٹنے کے لیے وہ کوئی قابل اطمینان تکنیکی حل پیش نہیں کرتیں۔ اس کے بجائے وہ صرف یہ کہتی ہیں کہ وہ اپنے نظام کو مزید طاقتور بنانے کی دوڑ میں شامل ہیں۔
ان خطرات کو اس حقیقت سے بھی تقویت مل رہی ہے کہ سلامتی کونسل کو بے قابو مصنوعی ذہانت کی صورت میں ایک ایسے خطرے کا سامنا ہے جس کا انتخاب اس کے کسی رکن نے نہیں کیا، جسے کوئی ایک ملک تنہا قابو نہیں کر سکتا اور جوسرحدوں کا لحاظ نہیں کرتا۔
انہوں نے زور دیا کہ شہریوں اور حکومتوں کو کمپنیوں کے اس دعوے کو قبول نہیں کرنا چاہیے کہ وہ اے آئی کی دوڑ میں شامل ہونے پر مجبور ہیں۔ دراصل یہ دوڑ فطرت کا کوئی اٹل قانون نہیں بلکہ خود کمپنیوں کے فیصلوں کا نتیجہ ہے اور ایسی دوڑ میں کوئی بھی حقیقی فاتح نہیں ہوتا۔
قابل حل مسئلہ
سائنسی پینل کے شریک سربراہ نے مطالبہ کیا کہ جدید ترین اے آئی نظام کے لیے لائسنسنگ کا نظام متعارف کرایا جائے جیسا کہ طب، ہوا بازی اور جوہری توانائی جیسے شعبوں میں بعض ٹیکنالوجی کے لیے ضابطے اور اجازت نامے ضروری ہوتے ہیں۔ ایسا نظام محفوظ ٹیکنالوجی کی تیاری کے لیے مناسب ترغیبات پیدا کر سکتا ہے۔
انہوں نے خبردار کیا کہ چند کمپنیاں اور ممالک اپنے مفادات کے حصول کے لیے انسانیت کے مستقبل کو خطرات سے دوچار کر رہے ہیں۔ تاہم تشویش ناک ہونے کے باوجود اس صورتحال سے نمٹنے کے راستے موجود ہیں۔
انہوں نے اس مسئلے سے نمٹنے کے لیے تین طریقے تجویز کیے:
- حقیقی سائنسی خودمختاری: سائنسی تحقیق کو اے آئی کمپنیوں کے اثر و رسوخ سے آزاد رکھا جائے اور کمپنیوں کو ان کے اقدامات پر جواب دہ بنایا جائے۔
- طاقت کے ارتکاز میں کمی: فیصلہ سازی کو چند ہاتھوں تک محدود رکھنے کے بجائے ایک حقیقی عالمی مکالمہ شروع کیا جائے کہ اس ٹیکنالوجی کو عوامی مفاد میں کس طرح ترقی دی جا سکتی ہے۔
- بین الاقوامی تعاون: ایسے تکنیکی حل تلاش کرنے کے لیے باہمی تعاون کیا جائے جن کے ذریعے اے آئی کی سلامتی کو خود ٹیکنالوجی کے ڈیزائن کا حصہ بنایا جا سکے اور اس مقصد کے لیے بین الاقوامی معاہدے تشکیل دیے جائیں۔
مصنوعی ذہانت کا اصل مقصد
سیم آلٹ مین نے کونسل کو بریفنگ دیتے ہوئے کہا کہ مصنوعی ذہانت کی بہترین شکل وہ نہیں ہو گی جس میں انسانوں کو ایک بہت بڑی مشین کے پرزوں میں تبدیل کر دیا جائے یا زندگی کے ہر پہلو کو اس حد تک بہتر بنانے کی کوشش کی جائے کہ انسانی عنصر ہی معدوم ہو جائے۔ اس کے بجائے اصل مقصد لوگوں کو اس قابل بنانا ہو کہ وہ ایک پیچیدہ ہوتی دنیا میں زیادہ موثر انداز سے عمل کر سکیں، اختیار اپنے ہاتھ میں رکھیں اور سیکھنے، تخلیق کرنے، دریافت کرنے، تعمیر کرنے اور معاشرے میں حصہ لینے کی اپنی صلاحیتوں کو بہتر بنا سکیں۔
انہوں نے نشاندہی کی کہ جیسے جیسے اے آئی نظام زیادہ طاقتور اور خودمختار ہوتے جائیں گے، وہ اداروں کی رفتار سے کہیں زیادہ تیزی سے ترقی کر سکتے ہیں، طاقت کو چند ہاتھوں میں مرکوز کر سکتے ہیں، یا ایسے فیصلے کر سکتے ہیں جنہیں انسان نہ سمجھ سکیں اور نہ ہی ان پر موثر کنٹرول رکھ سکیں۔
انہوں نے اپنی کمپنی کے تین بنیادی اصول بیان کرتے ہوئے کہا کہ:
- اے آئی کی صلاحیتیں جس قدر بھی بڑھ جائیں، فیصلہ سازی کے عمل میں انسان کو مرکزی حیثیت حاصل رہنی چاہیے۔
- سائنسی ترقی اور معاشی نمو کے ثمرات لوگوں تک پہنچنا چاہییں اور ان کے مفاد میں استعمال ہونے چاہییں۔
- اے آئی کو افراد کو بااختیار بنانے کے لیے کام میں لایا جانا چاہیے۔
انہوں نے کہا کہ ان کی کمپنی سب کے ساتھ تعاون کے لیے تیار ہے اور مستقبل کی سمت متعین کرنے میں اپنا بھرپور کردار ادا کرے گی۔
خطرات کی دو بنیادی اقسام
اینتھروپک کے سی ای او ڈیریو اموڈی نے اے آئی سے متعلق خطرات کو دو بڑی اقسام میں تقسیم کیا جن میں اے آئی ماڈلز کا غلط استعمال اور ان کے اختیارات و صلاحیتوں پر انسانی کنٹرول کا ختم ہونا شامل ہے۔ انہوں نے اس کی مثال دیتے ہوئے کہا کہ دہشت گرد اے آئی کا غلط استعمال کرتے ہوئے حیاتیاتی ہتھیار تیار کرنے کی کوشش کر سکتے ہیں۔
اموڈی نے دعویٰ کیا کہ ان کی کمپنی نے ایسے خطرات سے نمٹنے کے حوالے سے تحقیق اور عملی اقدامات، دونوں میدانوں میں بہترین ریکارڈ قائم کیا ہے۔ مشین کی اندرونی کارکردگی کو سمجھنے اور اے آئی کو انسانی مقاصد سے ہم آہنگ کرنے کی سائنس جیسے شعبوں میں بنیادی تحقیق کی گئی ہے جبکہ شفافیت کے حوالے سے بھی غیر معمولی اقدامات کیے گئے ہیں۔
انہوں نے مزید کہا کہ جب ضروری ہوا تو ان کی کمپنی اے آئی کی ترقی کے حوالے اپنی پیش رفت کی رفتار کم کر دے گی تاکہ یقینی بنایا جا سکے کہ ہر نئی ٹیکنالوجی محفوظ ہو۔
اے آئی کے شعبے میں عالمی تعاون کے بارے میں اموڈی نے تین تجاویز پیش کیں:
- ایسے محدود اور مخصوص معاہدوں سے ابتدا کی جائے جن کی تمام ممالک حمایت کر سکیں۔
- ایسے جائزے اور تصدیقی نظام تشکیل دیے جائیں جو اے آئی کی تیز رفتار ترقی کے ساتھ آگے بڑھ سکیں۔
- اے آئی ماڈلز کی جانچ کے لیے عالمی سطح پر یکساں معیارات قائم کیے جائیں۔
حملے اور دفاع کے درمیان عدم توازن
ہگنگ فیس کے سی ای او کلیمنٹ ڈیلانگ نے کہا کہ اے آئی کے شعبے میں زیادہ شفافیت ہونی چاہیے۔ عالمی برادری کو نگرانی کے لیے زیادہ مضبوط معیارات اور اے آئی سے متعلق واقعات کی بروقت اطلاع دینے کے بہتر نظام کی ضرورت ہے۔
سب سے بڑا خطرہ طاقتور اے آئی میں نہیں بلکہ اے آئی سے متعلق عدم مساوات میں ہے جس میں حملہ آوروں اور دفاع کرنے والوں کے درمیان طاقت کا عدم توازن خاص طور پر تشویش کا باعث ہے۔ دنیا کو اپنے دفاع کے لیے پہلے سے کہیں زیادہ اوپن سورس اے آئی کی ضرورت ہے۔
انہوں نے یہ بھی کہا کہ اے آئی کو انسانی شکل دینے اور سائنس فکشن سے متاثرہ مناظر کے ذریعے عوام میں خوف پیدا کیا جاتا ہے۔ خوف پر مبنی بیانیے اس قدر بنیادی اور انسانوں کو بااختیار بنانے والی ٹیکنالوجی کے مستقبل کے بارے میں فیصلے کرنے کا درست طریقہ نہیں ہیں اور نہ ہی اسے عوامی حمایت ملے گی۔
انہوں نے کہا کہ اے آئی سائبر سکیورٹی کو مضبوط بنا سکتی ہے بشرطیکہ درست ترغیبات برقرار رکھی جائیں، دفاع کرنے والوں کو حملہ آوروں سے زیادہ موثر صلاحیتیں حاصل ہوں اور دونوں کے مابین طاقت کا عدم توازن بڑھنے نہ دیا جائے۔