Painel científico da ONU aborda desafios com agentes autônomos de IA

Primeiro relatório do grupo com 40 especialistas internacionais enfatiza preocupação com sistema de inteligência artificial que violam instruções de segurança para evitar desligamento; brasileira, que faz parte do Painel, comenta sobre desigualdade no desenvolvimento da tecnologia e risco de desinformação.

O mundo está entrando na era dos agentes de IA, sistemas que realizam tarefas cada vez mais complexas, mas que, ao mesmo tempo, se tornam mais autônomos e escapam do controle humano.

Esse foi um dos desafios abordados no primeiro relatório do Painel Científico Internacional Independente sobre Inteligência Artificial, lançado nesta quarta-feira.

© Unicef/Srikanth Kolari ONU defende mais oportunidades, incluindo bolsas de estudo, estágios e mentorias para meninas e mulheres

Concentração de poder computacional, dados e talentos

O grupo, estabelecido pela ONU, reúne 40 especialistas de várias partes do mundo. Dentre eles está a pesquisadora brasileira Teresa Ludermir, que falou à ONU News sobre como essa tecnologia pode contribuir com o desenvolvimento social, mas também aumentar a desigualdade entre os países. 

“Do lado das oportunidades, o relatório destaca que a IA pode contribuir para acelerar o desenvolvimento em áreas como a educação, saúde, agricultura e serviços públicos, entre outros. Mas o relatório também mostra que os riscos da IA são igualmente relevantes. Um dos principais riscos apontados é o aprofundamento das desigualdades, uma vez que o desenvolvimento da IA está concentrado em poucos países e empresas, o que resulta em uma concentração de poder computacional, dados e talentos”. 

A também professora da Universidade Federal de Pernambuco disse que essa concentração “pode gerar dependência tecnológica e limitar a capacidade dos países em desenvolvimento”, além de influenciar a forma como essas tecnologias são projetadas e utilizadas. 

Difusão de informações incorretas

Teresa Ludermir alertou ainda para o risco crescente de IAs que geram e difundem informações incorretas.

“O relatório também destaca os riscos relacionados à desinformação, à manipulação de conteúdo, como as fake news, os impactos sobre a democracia, além de questões ligadas à privacidade, a discriminação algorítmica e a proteção de dados. Além disso, o relatório apresenta exemplos concretos de usos benéficos e prejudiciais da inteligência artificial. Em um dos estudos analisados, observou-se que as pessoas não conseguiam distinguir entre argumentos gerados por IA que eram corretos e aqueles que continham informações incorretas. Ainda assim, ambos os argumentos se mostravam igualmente persuasivos”. 

O relatório afirma que os sistemas de IA estão avançando mais rápido do que os governos conseguem acompanhar e que a complexidade das tarefas que eles realizam dobra em poucos meses.

Adobe Stock/DIgilife Grandes avanços médicos estão sendo alcançados com o apoio da IA

Agentes de IA

O texto ressalta que agentes de IA em breve realizarão tarefas que, atualmente, levam dias ou semanas para serem concluídas por programadores humanos. 

Por operarem com pouca supervisão e em alta velocidade, esses agentes podem gerar grandes benefícios econômicos e científicos. Por exemplo, sistemas autônomos de IA em laboratórios de química automatizados demonstraram um aumento de mais de 10 vezes na velocidade de descoberta de materiais. 

Por outro lado, a implementação desta ferramenta levanta questões urgentes relacionadas ao mercado de trabalho, à segurança cibernética, ao ecossistema de informação e à governança e controlabilidade de futuros sistemas de IA.

Sistemas que tentam evitar o próprio desligamento

O relatório afirma que faltam métodos confiáveis ​​para manter o controle sobre sistemas de IA altamente autônomos. Em ambientes de laboratório, observou-se que eles violam as instruções de segurança para evitar o desligamento. 

Segundo os autores, não existem garantias científicas de que esses agentes vão respeitar as instruções e os casos de violações estão se acumulando. 

Esse comportamento das máquinas dificulta a avaliação e supervisão humana, à medida que cresce a capacidade dos sistemas de IA de reconhecer ambientes de teste e gerar resultados de avaliação enganosos, que favoreçam sua operação contínua. 

O painel não tem a função de gerar normas e regulações, apenas evidências científicas que ajudem a é encontrar uma maneira de desbloquear os enormes benefícios da IA, e, ao mesmo tempo, prevenir seus riscos crescentes.

O relatório ddo Painel destaca uma lista crescente de casos de sucesso no mundo real.

Os benefícios: O que a IA pode fazer?

Avanços na medicina: A IA previu as estruturas de mais de 200 milhões de proteínas e acelerou a descoberta de medicamentos, o desenvolvimento de vacinas e a pesquisa sobre a resistência a antibióticos. Melhoria na saúde: Médicos utilizam a IA para detectar precocemente doenças como o câncer de mama, enquanto profissionais de saúde em países em desenvolvimento empregam ferramentas de IA em idiomas locais para aprimorar o atendimento aos pacientes. Segurança alimentar: Sistemas de alerta precoce baseados em IA estão ajudando a identificar a insegurança alimentar antes que ela se transforme em uma crise. Melhoria da qualidade de vida: A IA apoia a pesquisa científica, torna a tecnologia mais acessível para pessoas com deficiência e amplia as oportunidades de educação personalizada e de suporte à saúde mental.

A mesma tecnologia também está criando novos perigos.

Os riscos: O que preocupa os especialistas?

Abuso online: A IA está impulsionando a disseminação de material de abuso sexual e “deepfakes” sexualmente explícitos, sendo mulheres e crianças os principais alvos. Desinformação: A IA pode gerar informações falsas tão convincentes quanto a verdade, minando a confiança no debate público e na democracia. Crime: Criminosos estão utilizando a IA para realizar ataques cibernéticos, fraudes e golpes de engenharia social. Saúde mental: Alguns sistemas de IA podem reforçar crenças ou comportamentos prejudiciais, levando a crises de saúde mental, inclusive ao suicídio. Perda de controle: À medida que a IA se torna mais autônoma, especialistas alertam que pode ficar mais difícil monitorá-la e governá-la sem mecanismos de proteção mais robustos. Impacto ambiental: Os centros de dados de alto consumo energético que sustentam a IA contribuem para as emissões de gases de efeito estufa, o que leva ao aquecimento global.

*Felipe de Carvalho é jornalista da ONU News Português e Daniel Dickinson é redator sênior da UN News.