Mdahalo wa IA: Hatuwezi kuacha hatima ya binadamu iamuliwe na algorithimu

Baraza la Usalama la Umoja wa Mataifa limefanya mdahalo wa wazi wa ngazi ya juu mada ikiwa ni“Akili mnemba na amani na usalama wa kimataifa” chini ya ajenda ya “Uendelezaji wa amani na usalama wa kimataifa.”

Akiwa ni mzungumzaji wa kwanza katika mdahalo huo Katibu Mkuu wa Umoja wa Mataifa António Guterres ametoa wito kwa Baraza la Usalama kuhakikisha matumizi ya akili mnemba yanadhibitiwa ili kulinda amani na usalama wa kimataifa.

“AI si ndoto ya mbali ipo hapa, ikibadili maisha ya kila siku, uchumi na hata vita,” alisema Guterres na kuonya kuwa bila udhibiti, teknolojia hii inaweza kugeuzwa silaha, kusababisha mashambulizi ya mtandaoni au kutengeneza taarifa zisizo za kweli zinazochochea migogoro.

Guterres alibainisha mambo makuu manne: Mosi, kuwepo marufuku ya mifumo ya silaha inayofanya maamuzi bila udhibiti wa binadamu; pili, kuimarishwa kwa ushirikiano wa kimataifa katika kutunga kanuni; tatu, kuhakikisha pengo la kiteknolojia kati ya nchi tajiri na maskini halizidishwi; na nne, kuweka uwazi na uwajibikaji katika matumizi ya akili mnemba.

Mkuu huyo wa Umoja wa Mataifa amesisitiza kuwa“Hatima ya binadamu haiwezi kuachwa iamuliwe na algorithimu. Binadamu lazima wabaki na mamlaka juu ya maamuzi ya uhai na kifo.” Pia alitaka wanachama wa Baraza hilo kufunga pengo la uwezo katika teknolojia hii ili kuhakikisha inawanufaisha wote kwa usawa.

Wasemavyo wataalamu wa AI

Wakuu wa nchi kama vile Somalia na Slovenia wamezungumza kutoa maoni yao katika mdahalo huo. Wataalamu wa masuala ya AI na wajumbe wengine pia wametoa maoni yao katika kuhakikisha Dunia inalinda amani wakati huo huo ikikumbatia maendeleo ya teknolojia.

Baadhi ya mifumo ya AI kuzidi uwezo wa kibinadamu

Mtaalamu wa akili mnemba Yoshua Bengio akizungumza mbele ya Baraza hilo amesema maendeleo ya kasi ya teknolojia hiyo yanatabiri mabadiliko makubwa katika historia ya binadamu, huku baadhi ya mifumo ya AI ikitarajiwa kuzidi uwezo wa kibinadamu katika kipindi cha miaka mitano ijayo.

Hata hivyo Bengio ameonya kuwa “Tafiti zinaonesha bado hatujajua namna ya kutengeneza AI ambayo daima itafanya maamuzi kwa maslahi ya binadamu. Hili linaweka jamii katika hatari, ama kutokana na matumizi mabaya na wahalifu au kutokana na mifumo isiyoendana na sheria na maadili ya kijamii.”.

Ameonya pia kuhusu hatari tatu kuu zilizotajwa katika ripoti hiyo: mkusanyiko wa nguvu za kiuchumi na kijeshi mikononi mwa wachache, uwezekano wa AI kutumiwa na wahalifu kutengeneza silaha za kibiolojia au kufanya mashambulizi ya mtandaoni, na changamoto ya upotevu wa udhibiti wa kibinadamu.

Amesema “Ikiwa maendeleo yataendelea bila kuhakikisha usalama na ulinganifu wa mifumo hii, tunaweza kufika mahali ambapo AI inafanya kazi nje ya udhibiti wa binadamu, hali inayoweza kuhatarisha ubinadamu mzima.”

Uwezo wa kuchakata data kubwa

Mtaalamu wa AI kutoka Taasisi ya Stanford ya Human-Centered Artificial Intelligence (HAI), Profesa Yejin Choi, akichangia katika mjadala huo amesema dunia ipo kwenye hatua ya mabadiliko makubwa ambapo teknolojia hiyo inashangaza kwa mafanikio makubwa. “Shida ni pale rasilimali zinapokuwa mikononi mwa wachache, tukiacha mataifa mengine yakiwa nje ya mlango. Amesema wajibu wa kila mtu ni kupanua upeo wa akili mnemba ili kila mmoja awe na nafasi ya kuijenga na kufaidika nayo.

Amesisitiza pia kuwa kasi ya sasa ya maendeleo ya AI inategemea zaidi matumizi ya data nyingi na nguvu kubwa za kompyuta, hali inayosababisha mifumo ya kiwango cha juu kujengwa na makampuni machache katika nchi chache.

Kwa mtazamo wake, mkusanyiko huu unakwamisha ubunifu na kuondoa mitazamo mbalimbali ambayo ingeweza kuleta suluhu mpya na ugunduzi wa kisayansi.

Kwanini Baraza la Usalama limefanya mjadala huo wa nafasi ya AI

Mdahalo huo ulioitishwa na serikali ya Korea unafanyika wakati huu ambapo kuna maendeleo ya haraka ya mifumo ya akili mnemba AI, ikiwemo mifumo ya kusaidia kufanya maamuzi pamoja na kuenea duniani kote kwa majukwaa ya kijeshi yanayoendeshwa na akili mnemba.

Mjadala huo uliofanyika kando ya Mjadala Mkuu wa 80 wa Baraza Kuu la Umoja wa Mataifa umetumika kama jukwaa kwa nchi wanachama kubadilishana mawazo kuhusu nafasi inayoendelea kuchukuliwa na AI katika muktadha wa amani na usalama wa kimataifa, sambamba na kusisitiza umuhimu wa mashauriano ya wazi katika kiwango cha juu ili kupata njia za kuongeza manufaa na kupunguza hatari zinazotokana na teknolojia hiyo.

Mjadala umeangazia nini zaidi?

• Kuendeleza tafakuri na mjadala kuhusu namna jamii ya kimataifa inaweza kwa pamoja kuongeza manufaa ya akili mnemba huku ikipunguza hatari zake kwa amani na usalama wa kimataifa;
• Kualika nchi wanachama kushirikiana kuhusu mbinu zao za kuendeleza na kutumia AI kwa uwajibikaji, ikiwemo matumizi yake katika nyanja za kijeshi;
• Kutafakari nafasi ya Baraza la Usalama, likiwa chombo kikuu kilichoidhinishwa na Mkataba wa Umoja wa Mataifa kulinda amani na usalama wa kimataifa, katika kutumia fursa za akili mnemba huku likipunguza hatari zinazoweza kujitokeza.

Mdahalo huo wa ngazi ya juu ni sehemu ya jitihada za Baraza la Usalama la Umoja wa Mataifa kuimarisha uelewa wa pamoja juu ya fursa na changamoto zinazohusiana na akili mnemba, na pia kuthibitisha umuhimu wa ushirikiano wa kimataifa katika kuelekeza mwelekeo wa maendeleo na matumizi yake.