Fator humano e direitos humanos são chave para sucesso da Inteligência Artificial BR

A Unesco alerta que sistemas de Inteligência Artificial podem fornecer resultados tendenciosos
Unsplash/Possessed Photography
A Unesco alerta que sistemas de Inteligência Artificial podem fornecer resultados tendenciosos

Fator humano e direitos humanos são chave para sucesso da Inteligência Artificial

Cultura e educação

ONU News conversou com diplomata e pesquisador Eugenio Vargas Garcia, representante brasileiro nas negociações sobre a recomendação da Organização das Nações Unidas para Educação, Ciência e Cultura, Unesco, sobre ética da Inteligência Artificial; publicação traz fator humano de decisão e defesa dos direitos humanos ao centro da discussão. 

“Quanto mais poderosa a tecnologia, mais importante garantir que seu uso seja seguro e responsável e que sirva ao bem comum”. A frase é do diplomata e pesquisador brasileiro Eugenio Vargas Garcia sobre Inteligência Artificial. 

À ONU News, da Califórnia, ele explicou como o avanço dessa tecnologia vem desafiando a privacidade e a até a igualdade de gênero, enquanto oferece outros benefícios em diversas áreas. 

Unesco trabalhou num documento que coloca o fator humano no centro de todos os processos e decisões críticas
Unsplash/Maxime Valcarce
Unesco trabalhou num documento que coloca o fator humano no centro de todos os processos e decisões críticas

Diversidade 

“O potencial é enorme, mas também há certos riscos envolvidos, porque a Inteligência Artificial é um multiplicador de efeitos e eles podem ser positivos ou não. Se seu uso for inadequado, você pode gerar mais segregação, discriminação de gênero, raça, reforçar estereótipos, perpetuar desigualdades. Se seu banco de dados tem problemas de origem, tem um viés, pode resultar numa interpretação equivocada, uma vez que você começa a utilizar um sistema de IA isso pode ter consequências desastrosas.” 

Garcia é o representante brasileiro nas negociações intergovernamentais sobre a recomendação da Organização das Nações Unidas para Educação, Ciência e Cultura, Unesco, para a ética da Inteligência Artificial, a primeira publicação sobre o assunto, divulgada em novembro.  

De acordo com a Unesco, os sistemas de Inteligência Artificial podem fornecer resultados tendenciosos. A agência da ONU explica que a tecnologia do mecanismo de pesquisa, por exemplo, não é neutra. O processamento de dados prioriza os resultados com o maior número de cliques, dependendo das preferências do usuário e da localização. Assim, a busca pode reforçar preconceitos e estereótipos. 

Montadoras de carros estão usando cada vez mais a inteligência artificial para controlar veículos
Unsplash/David von Diemar
Montadoras de carros estão usando cada vez mais a inteligência artificial para controlar veículos

Fator Humano 

Por isso, a Unesco trabalhou num documento que coloca o fator humano no centro de todos os processos e decisões críticas, como explicou Eugenio Garcia. 

“São os chamados princípios da ética da Inteligência Artificial. Tem sido muito discutido e buscam mitigar esses riscos e controlar eventuais danos, prevenir quaisquer danos, e fazer com que a Inteligência Artificial seja centrada no ser humano, que sempre haja a supervisão humana e que os sistemas sejam confiáveis, seguros e benéficos. Um exemplo seria a transparência, prestação de contas, responsabilização sobre quais são os efeitos dessa tecnologia e que ela possa ser explicada. Você tem que saber como se chegou a determinado resultado. Isso envolve questões de direitos humanos, privacidade, proteção de dados” 

Ele adiciona que a discussão é fundamental para garantir inclusão justiça e equidade. Além disso, ele menciona que também foi debatida a questão de segurança para evitar o uso indevido de dados.  

Garcia explicou que embora a adesão às recomendações desenvolvidas pela Unesco seja opcional, elas dão diretrizes para assegurar que o avanço da Inteligência Artificial seja compatível com os direitos humanos e as liberdades individuais.