Na ONU, ativistas reforçam campanha contra “robôs assassinos” apoiada pelo Brasil
Paz e segurança
Sistemas eletrônicos autônomos podem matar sem intervenção humana; evento na ONU discutiu necessidade de proibir esse tipo de tecnologia; Brasil é único país de língua portuguesa até o momento a aderir à iniciativa.
Altos funcionários da ONU, ativistas internacionais e uma ganhadora do Prêmio Nobel da Paz reuniram-se, na sede da ONU em Nova Iorque, para protestar contra os perigos de sistemas eletrônicos autônomos letais, os chamados robôs assassinos.
O evento, organizado pela Primeira Comissão da Assembleia Geral sobre Desarmamento e Segurança Internacional, teve como tema “A necessidade urgente de um tratado para manter o controle humano sob o uso da força.”
Campanha
A coordenadora da Campanha para Parar Robôs Assassinos, Mary Wareham, disse que “existe vontade (política) para começar a negociar um tratado.” Mas segundo ela, a discussão não começa devido a “uma minoria de países que desenvolve esta tecnologia sem pensar nas suas consequências.”
Lançada em 2012, a campanha já conta com 129 Organizações Não-Governamentais, ONGs, e 60 países. O Brasil é única nação lusófona a aderir à iniciativa.
Mary Wareham explicou que o objetivo não é conseguir qualquer mudança, mas sim “manter a situação atual, em que o utilizador da arma é um humano, e a decisão não é tomada por uma máquina.”
Exemplo
A vencedora do prêmio Nobel da paz em 1997, Jody Williams, disse que é preciso aprender com a campanha da década de 90 contra as minas terrestres, em que ela participou.
Segundo Williams, desde que o Tratado de Proibição de Minas foi aprovado em 1997, pelo menos 36 países eliminaram este tipo de explosivos nos seus territórios. A Prêmio Nobel contou que “o estigma criado contra as minas foi o que levou à criação do tratado” e que “essa mesma estigmatização pode agora ser usada na questão dos robôs assassinos.”
Presente
Por sua vez, a especialista Liz Sullivan explicou que este “não é um problema do futuro”, porque “a tecnologia já existe.”
A ativista disse que a comunidade internacional “precisa refletir sobre inteligência artificial, a forma como está sendo desenvolvida, e dar um passo atrás para pensar nas implicações” dessa tecnologia. Para ela, “permitir que algoritmos decidam estas questões ultrapassa uma fronteira moral e ética.”
Sullivan afirmou que “os algoritmos encontram sempre formas novas e espetaculares de falhar” e que, quando esses erros acontecem, “os humanos têm dificuldade em entender o que aconteceu e como resolver.”
Além das especialistas, participaram a alta representante para o Desarmamento, Izumi Nakamitsu, e o vencedor em 2019 do Prêmio Turing, uma distinção na área da computação, o professor Yoshua Bengio. O especialista em inteligência artificial Yoshua Bengio e a estudante colombiana Mariana Sanz também discursaram.
Campanha para proibir o uso de robôs assassinos
Mascote
Depois do evento, a coordenadora da Campanha para Parar Robôs Assassinos apresentou aos jornalistas a mascote da iniciativa, o robô David Wreckham.
O robô entregou uma carta a diplomatas da ONU dizendo que os robôs assassinos devem ser proibidos porque podem causar guerras de forma acidental e outras atrocidades.
Ainda esta semana, David Wreckham irá entregar a mesma mensagem na avenida Times Square e na sede de várias empresas tecnológicas.
Nações Unidas
Em 2014, as Nações Unidas destacaram este tema criando o Grupo de Peritos Governamentais Sobre Tecnologias Emergentes na Área de Sistemas Letais de Armas Autónomas, Aslaa, na sigla em inglês.
O grupo informal de peritos reúne-se anualmente sob os auspícios da Convenção sobre Certas Armas Convencionais, CCW, para debater as questões relacionadas com as tecnologias emergentes.
Em mensagem enviada para o encontro de 2019, o secretário-geral da ONU, António Guterres, disse que estas máquinas são “politicamente inaceitáveis, moralmente repugnantes e devem ser proibidas pelo direito internacional.”