Declaração pede proteção das crianças frente à perigos da IA no ambiente digital
Cultura e educação
Mais de 10 instituições ligadas à ONU e dezenas de organizações da sociedade civil fazem recomendações para impedir que inteligência artificial gere conteúdos prejudiciais aos menores; preocupações incluem cyberbullying, discurso de ódio, exploração sexual, deepfakes e estímulo a uso de drogas.
Ferramentas e aplicações de inteligência artificial, IA, não estão sendo projetadas de modo a proteger as crianças e seu bem-estar. Por isso, um conjunto de mais de 10 instituições da ONU e dezenas de organizações da sociedade civil divulgaram uma declaração conjunta com uma série de recomendações.
O documento ressalta que as empresas de tecnologia tem a responsabilidade de respeitar os direitos da criança, “para alcançar melhores resultados para este grupo no ambiente digital”.
Auditorias e classificadores de conteúdo
Dentre as propostas apresentadas está a realização de auditorias regulares dentro das empresas que desenvolvem produtos com IA, para impedir impactos negativos no público menor de 18 anos. Outra sugestão é a implementação de classificadores para conteúdo prejudicial.
O objetivo é prevenir e combater todas as formas de violência contra crianças e exploração infantil cometidas por meio de sistemas, ferramentas e plataformas de inteligência artificial ou com o seu apoio.
As medidas incluem conter a violência física, sexual e psicológica, cyberbullying, exposição a conteúdo prejudicial e exploração.
Narrativas prejudiciais amplificadas por algoritmos
Além disso, o documento destaca a preocupação com conteúdos gerados por IA que propagam discurso de ódio, incitam a violência ou promove trabalho infantil, tráfico de crianças e recrutamento de menores para conflitos armados.
O conteúdo prejudicial pode incluir ainda deepfakes e outras mídias enganosas, material gráfico violento, conteúdo de abuso sexual infantil e mensagens que promovam automutilação, transtornos alimentares, uso de drogas, jogos de azar ou outras narrativas prejudiciais amplificadas por algoritmos.
A declaração afirma que qualquer medida para proteger as crianças da exposição a conteúdos que possam prejudicar a saúde mental ou física, deve estar em conformidade com as condições para a restrição do direito à liberdade de expressão.
Capacitações para acompanhar a rápida evolução da IA
O texto apela aos Estados para que combatam violações dos direitos da criança no contexto da inteligência artificial, dentro do seu território e/ou jurisdição, inclusive responsabilizando as empresas.
As entidades que firmam a declaração também esperam que os parlamentos utilizem suas prerrogativas legislativas, orçamentárias de fiscalização e de relações públicas para promover e proteger os direitos da criança no contexto da inteligência artificial.
Para garantir que o uso da nova tecnologia esteja alinhado com a Convenção sobre os Direitos da Criança, o documento sugere mais treinamento para crianças, professores, pais, cuidadores e governos.
As capacitações ajudariam as diversas partes interessadas a acompanhar a rápida evolução da tecnologia, abordando temas como estruturas de IA, métodos de proteção de dados e avaliações de impacto nos direitos da criança.