Kadri AI inavyoendelea kukua, shinikizo la kudhibiti roboti zinazoua linaongezeka
Ndege isiyo na rubani ikipaa juu ya Mlima Tamalpais nchini Marekani.
Kadri AI inavyoendelea kukua, shinikizo la kudhibiti roboti zinazoua linaongezeka
Amani na Usalama
Ulimwengu ambapo kanuni za kielektroniki au algorithms zinaamua hatma ya wanajeshi na raia si wa kufikirika tena. Ndege zisizo na rubani au droni zinazoendeshwa na akili mnemba AI, zinabadilisha mfumo wa vita, na kuibua maswali mazito ya kimaadili kuhusu uhuru wa maamuzi katika mapigano.
Wakati watunga sera wa kimataifa wakiharakisha kuweka misingi ya sheria, kuna mbio za kudhibiti teknolojia hii inayokua kwa kasi.
Kila siku, kwa hiari yetu, tunatoa taarifa binafsi kwa mashine tunapokubali “cookie” mtandaoni au kutumia mashine ya utafutaji taarifa. Mara nyingi hatufikirii kuhusu jinsi taarifa zetu zinavyouzwa na kutumiwa kabla ya kubofya “kubali” ili kufikia tovuti tunayotaka, huku tukijua kijuujuu tu kuwa zitatumiwa kutulenga kama watumiaji na kutushawishi kununua vitu tusivyotarajia.
Lakini vipi ikiwa mashine zingetumia taarifa hizo kuamua nani awe adui anayestahili kuuawa? Umoja wa Mataifa na mashirika kadhaa yasiyo ya kiserikali wana hofu kuwa hali hii iko karibu kuwa halisi. Wanatoa wito wa kuwepo kwa udhibiti wa kimataifa wa Silaha zinazojitegemea zenye mamlaka ya kuua (LAWS) ili kuepuka mustakabali ambapo mashine zinaamua maisha na mauti ya watu.
Vita vya droni kwa kiwango kikubwa vinaendelea Ukraine
Kwa miezi kadhaa, eneo la Kherson nchini Ukraine limekuwa likishambuliwa vikali na ndege zisizo na rubani au droni za kijeshi zinazoendeshwa na jeshi la Urusi, ambazo zimewalenga zaidi raia. Zaidi ya raia 150 wameuawa na mamia kujeruhiwa, kwa mujibu wa vyanzo rasmi.
Uchunguzi huru uliofanywa na wataalamu wa haki za binadamu walioteuliwa na Umoja wa Mataifa umebaini kuwa mashambulizi hayo ni uhalifu dhidi ya ubinadamu.
Jeshi la Ukraine pia linategemea sana droni, na inasemekana kuwa wanatengeneza “ukuta wa droni mstari wa ulinzi wa ndege zisizo na rubani zenye silaha kulinda maeneo hatarishi ya mipaka yao.”
Hapo awali, droni zilimilikiwa na mataifa tajiri pekee yaliyoweza kumudu UAV za hali ya juu, lakini Ukraine imeonesha kuwa kwa ubunifu kidogo, droni za gharama nafuu zinaweza kubadilishwa na kuwa hatari. Migogoro mingi duniani sasa inaiga mwelekeo huu, na hivyo kubadilisha jinsi vita vya kisasa vinavyoendeshwa.
Raia wa Kharkiv nchini Ukraine wamekumbwa na mamia ya mashambulizi ya ndege zisizo na rubani za Urusi (Maktaba, Feb 2025)
Utu wa binadamu unamezwa na digitali
Lakini licha ya madhara ya vita vya kisasa, tishio la ongezeko la matumizi ya droni au silaha zingine zinazojitegemea limeongeza wasiwasi kuhusu “roboti zinazoua” zinaoweza kushuka kutoka angani na kuamua zenyewe nani wa kushambulia.
“Katibu Mkuu wa Umoja wa Mataifa Antonio Guterres amesema kuwa kutumia mashine zilizopewa mamlaka kamili ya kuamua maisha ya binadamu ni jambo linalochukiza kimaadili,” amemnukuu
Izumi Nakamitsu, Mkuu wa Ofisi ya Umoja wa Mataifa ya Masuala ya Kuondoa Silaha akiongeza kuwa “Halipaswi kuruhusiwa. Kimsingi, linapaswa kupigwa marufuku na sheria za kimataifa. Huo ndio msimamo wa Umoja wa Mataifa.”
Shirika la Human Rights Watch limesema kuwa matumizi ya silaha zinazojitegemea ni mfano wa karibuni na mbaya zaidi wa “kupotea kwa utu kupitia digitali,” ambapo AI inafanya maamuzi yenye athari kubwa katika maisha ya watu, ikiwemo upelelezi wa kijeshi, utekelezaji wa sheria, na udhibiti wa mipaka.
Mary Wareham, Mkurugenzi wa Utetezi wa Silaha katika shirika la Human Rights Watch, ameonya kuwa mataifa yenye uwezo mkubwa yanatumia kiasi kikubwa cha rasilimali katika akili mnemba au AI na teknolojia zinazohusiana na kutengeneza mifumo ya silaha za ardhini na majini zinazojitegemea. “Marekani inaongoza, lakini pia Urusi, China, Israeli na Korea Kusini wamewekeza sana katika mifumo hiyo.” Amesema.
Wanaotetea matumizi ya AI katika vita husema kuwa “wanadamu hukosea maamuzi, huathiriwa na hisia, huhitaji kupumzika, na hulipwa mishahara ilhali mashine, kwa upande wake, huimarika kila siku katika kutambua vitisho kupitia mienendo. Hatua inayofuata, baadhi yao wanapendekeza, ni kuruhusu mashine ziamue lini kufyatua risasi.”
Ndege isiyo na rubani ikipaa juu ya Afghanistan
Vikwazo vikuu viwili
Kuna pingamizi kuu mbili dhidi ya kuruhusu mashine kuchukua nafasi vitani: kwanza, teknolojia hii bado si kamilifu. Pili, Umoja wa Mataifa na mashirika mengine mengi wanaona kuwa matumizi ya LAWS hayakubaliki kimaadili.
“Ni rahisi sana kwa mashine kukosea na kulenga binadamu kwa makosa,” anasema Bi. Wareham. “Watu wenye ulemavu wako hatarini zaidi kwa sababu ya jinsi wanavyotembea. Viti vyao vya magurudumu vinaweza kuchukuliwa kuwa silaha. Pia kuna wasiwasi kuwa teknolojia ya utambuzi wa uso na vipimo vingine vya kibaiolojia haviwezi kutambua vizuri watu wa rangi tofauti. AI bado ina mapungufu na inabeba ubaguzi wa wale waliobuni mifumo hiyo.”
Kuhusu hoja za kimaadili, Nicole Van Rooijen, Mkurugenzi Mtendaji wa Stop Killer Robots, anasema kuwa hali hiyo itafanya kuwa vigumu kubaini nani anawajibika kwa uhalifu wa kivita au ukatili mwingine.
“Ni nani atakayewajibika? Mtengenezaji? Au mpangaji wa programu hiyo? Inazua masuala mengi ya kimaadili, na itakuwa ni kushindwa kwa maadili iwapo zitatumiwa kwa mapana.”
Marufuku kufikia 2026?
Kasi ya ukuaji wa teknolojia hii na ushahidi kwamba tayari mfumo wa AI unatumika katika vita, kumeongeza uharaka wa kutoa sheria za kimataifa kuhusiana na matumizi ya LAWS.
Mwezi Mei, mazungumzo yasiyo rasmi yalifanyika katika Makao Makuu ya Umoja wa Mataifa ambapo Katibu Mkuu António Guterres alitoa wito kwa nchi wanachama kukubaliana juu ya makubaliano ya kisheria ya kudhibiti na kupiga marufuku matumizi ya silaha hizo kufikia mwaka 2026.
Juhudi za kudhibiti LAWS si mpya. Mwaka 2014, Umoja wa Mataifa ulifanya mkutano wa kwanza Geneva kuhusu suala hili, ambapo Balozi Jean-Hugues Simon-Michel wa Ufaransa aliita LAWS “suala gumu linaloibuka katika ajenda ya kutokomeza silaha,” hata kama wakati huo hazikuwa bado zikitumika kwenye migogoro. Msimamo wa wakati huo ulikuwa kwamba hatua za awali zichukuliwe kabla teknolojia haijafika mbali zaidi.
Moto kwenye Kitengo Kipya cha Usalama (NSC) kwenye Kiwanda cha Nguvu za Nyuklia cha Chornobyl kufuatia shambulio la ndege isiyo na rubani mnamo 14 Februari 2025.
Miaka 11 baadaye, mazungumzo bado yanaendelea bila makubaliano ya pamoja kuhusu tafsiri ya silaha za kujitegemea achilia mbali sheria za matumizi yake. Hata hivyo, Umoja wa Mataifa na mashirika ya kiraia yana matumaini kuwa jamii ya kimataifa inakaribia kuelewana kuhusu masuala muhimu.
“Hatujafikia hatua ya kujadili maandishi ya mkataba,” amesema Bi. Rooijen wa Stop Killer Robots. “Hata hivyo, mwenyekiti wa sasa wa Mkataba wa Silaha Mahususi (CCW) ameweka pendekezo la maandishi ambalo lina matumaini, na iwapo kutakuwa na nia ya kisiasa, linaweza kuwa msingi wa majadiliano.”
Bi. Wareham wa Human Rights Watch pia anaona kuwa mazungumzo ya Mei ni hatua muhimu. “Nchi takribani 120 ziko tayari kabisa kujadili sheria mpya ya kimataifa kuhusu silaha zinazojitegemea. Tunaona uungwaji mkono mkubwa kutoka kwa washindi wa tuzo ya amani, wataalamu wa AI, wafanyakazi wa teknolojia, na viongozi wa dini.”
“Kuna makubaliano yanayoibuka kwamba mifumo ya silaha zinazojitegemea kikamilifu inapaswa kupigwa marufuku,” amesema Bi. Nakamitsu kutoka Umoja wa Mataifa akiongeza kuwa “Linapokuja suala la vita, lazima kuwe na anayewajibika.”