Pasar al contenido principal

IA: La regulación es esencial para frenar la vigilancia y la desinformación, aseguran expertos

Un monitor muestra códigos informáticos.
© Unsplash/RoonZ nl
Un monitor muestra códigos informáticos.

IA: La regulación es esencial para frenar la vigilancia y la desinformación, aseguran expertos

Derechos humanos

Los programas espía y de desinformación basados en inteligencia artificial van en aumento, por lo que urge regular este ámbito, según expertos independientes en derechos humanos designados por la ONU.

En un comunicado publicado este viernes, una quincena de relatores y especialistas de la ONU* afirmó que las nuevas tecnologías, incluidos los sistemas de vigilancia biométrica basados en inteligencia artificial, se utilizan cada vez más "en contextos delicados", sin el conocimiento ni el consentimiento de las personas.

Deben trazarse líneas rojas urgentemente

"Se necesitan líneas rojas reglamentarias urgentes y estrictas para las tecnologías que pretenden realizar el reconocimiento de emociones o de género", afirmaron los expertos**, entre los que se encuentra Fionnuala Ní Aoláin, relatora especial sobre la promoción y protección de los derechos humanos en la lucha contra el terrorismo.

Los expertos, designados por el Consejo de Derechos Humanos, condenaron el ya "alarmante" uso de los programas espía y las tecnologías devigilancia con defensores de los derechos humanos y periodistas, "a menudo bajo el pretexto de estar tomando medidas de seguridad nacional y antiterroristas".

También pidieron una regulación para hacer frente al vertiginoso desarrollo de la inteligencia artificial generativa, que permite la producción masiva de contenidos falsos en línea, promoviendo la desinformación y la incitación al odio.

Consecuencias en el mundo real

Los expertos subrayaron la necesidad de garantizar que estos sistemas no expongan aún más a las personas y las comunidades a violaciones de los derechos fundamentales; en concreto, mediante la expansión y el abuso de prácticas de vigilancia que vulneran el derecho a la privacidad y que facilitan la comisión de graves violaciones, incluidas las desapariciones forzadas, y la discriminación.

También expresaron su preocupación por el respeto a las libertades de expresión, pensamiento y protesta pacífica, y por el acceso a los derechos económicos, sociales y culturales esenciales, así como a los servicios humanitarios.

"Deben evitarse por completo las tecnologías y aplicaciones específicas en las que no sea posible regular las quejas sobre derechos humanos", afirmaron los expertos.

También expresaron su preocupación por el hecho de que el desarrollo de la inteligencia artificial generativa esté impulsado por un pequeño grupo de actores poderosos, entre ellos empresas e inversores, sin que existan requisitos adecuados para llevar a cabo la diligencia debida en materia de derechos humanos o la consulta con las personas y comunidades afectadas.

Además, los expertos señalaron que el trabajo crucial de regulación interna, a través de la moderación de contenidos, a menudo es realizado por individuos en situación de explotación laboral.

Más transparencia

"Se necesita urgentemente una regulación que garantice la transparencia, alerte a las personas cuando se encuentren con medios sintéticos (formatos o contenidos digitales creados o modificados por la inteligencia artificial) e informe al público sobre los datos de entrenamiento y los modelos utilizados", señalaron los expertos.

También reiteraron sus llamamientos a la cautela en el uso de la tecnología digital en el contexto de las crisis humanitarias, desde la recogida de datos a gran escala, incluida la recopilación de datos biométricos altamente sensibles, hasta el uso de tecnologías avanzadas de vigilancia selectiva.

"Instamos a la moderación en el uso de tales medidas hasta que se comprendan plenamente las implicaciones más amplias para los derechos humanos y se establezcan salvaguardias sólidas de protección de datos", afirmaron.

El cifrado y la privacidad, primordiales

Subrayaron la necesidad de garantizar soluciones técnicas, incluida una encriptación sólida de extremo a extremo y un acceso sin restricciones a las redes privadas virtuales, y asegurar y proteger las comunicaciones digitales.

"Tanto la industria como los Estados deben rendir cuentas, entre otras cosas por su impacto económico, social, medioambiental y en los derechos humanos", afirmaron. "La próxima generación de tecnologías no debe reproducir ni reforzar los sistemas de exclusión, discriminación y pautas de opresión".

*Los relatores especiales forman parte de lo que se conoce como Procedimientos Especiales del Consejo de Derechos Humanos.Procedimientos Especiales, el mayor órgano de expertos independientes del sistema de derechos humanos de la ONU, es el nombre general de los mecanismos independientes de investigación y supervisión del Consejo que se ocupan de situaciones específicas de países o de cuestiones temáticas en todas las partes del mundo. Los expertos de los Procedimientos Especiales trabajan de forma voluntaria; no son personal de la ONU y no reciben un salario por su trabajo. Son independientes de cualquier gobierno u organización y prestan sus servicios a título individual.

**Los expertos: Fionnuala Ní Aoláin, relatora especial sobre lucha contra el terrorismo y los derechos humanos; Irene Khan, relatora especial sobre la libertad de opinión y de expresión; Aua Baldé (presidenta-relatora), Gabriella Citroni (vicepresidenta), Angkhana Neelapaijit, Grażyna Baranowska, Ana Lorena Delgadillo Pérez, Grupo de Trabajo sobre desapariciones forzadas o involuntarias; Ana Brian Nougrères, relatora especial sobre el derecho a la privacidad; Mary Lawlor, relatora especial sobre los defensores de los derechos humanos; Clément Nyaletsossi Voule, relator especial sobre los derechos a la libertad de reunión pacífica y de asociación; Pichamon Yeophantong (presidente), Damilola Olawuyi (vicepresidente), Fernanda Hopenhaym, Elżbieta Karska, y Robert McCorquodale, Grupo de Trabajo sobre empresas y derechos humanos; y Ashwini K. P., relator especial racismo y discriminación racial.