联合国专家:新兴技术需要紧急监督和强化透明度

人们越来越担心恐怖分子滥用信息和通信技术,特别是互联网和新的数字技术。
© Unsplash/Philipp Katzenberger
人们越来越担心恐怖分子滥用信息和通信技术,特别是互联网和新的数字技术。

联合国专家:新兴技术需要紧急监督和强化透明度

人权

多位联合国专家今天呼吁通过强化透明度、监督和监管,来解决新兴数字工具和在线空间对人权的负面影响。

在数字时代人权峰会(RightsCon)即将于6月5日至8日在哥斯达黎加举行之前,专家指出, “新兴技术,包括基于人工智能的生物识别监控系统,正越来越多地被用于敏感环境中,而个人并不知情或并未同意。”

专家说:“对于那些声称可以进行情感或性别识别的技术,需要划定紧急和严格的监管红线。”

入侵性间谍软件

专家对入侵性间谍软件的扩散和越来越多的定向监视技术表示关切,这些技术被用来非法攻击所有地区的人权维护者、活动家、记者和民间社会。

专家说:“我们谴责对侵犯人权的间谍软件和监控技术的滥用,这些非法措施往往打着国家安全和反恐措施的幌子,对人权维护者的合法工作和世界各地的公民空间产生着更加广泛的寒蝉效应。”

专家强调,有必要确保这些系统不会使人民和社区的人权进一步受到侵犯,包括通过扩大和滥用侵犯隐私权的侵扰性监视做法,为包括强迫失踪和歧视在内的严重侵犯人权行为提供便利。专家对尊重言论自由、思想自由、和平抗议、获得基本经济、社会和文化权利及人道主义服务表示关切。

专家说:“在对人权投诉无法实施监管的情况下,应完全避免使用特定的技术和应用。”

生成性人工智能与虚假信息

专家注意到,所谓的“生成性人工智能”系统能够廉价和迅速地大量生产合成内容,传播虚假信息,促进和扩大对基于种族、性别和其他特征的仇恨、歧视或暴力的煽动。专家还表示关切的是,包括企业和投资者在内的少数有权势的行为者是这些系统发展的推手,他们没有进行充分的人权尽职调查或与受影响的个人和社区协商,内容审核也往往由处于劳动剥削情形下的个人来进行。

专家说:“我们迫切地需要利用监管来确保透明度,在遇到人工媒体时提醒人们注意,并让公众了解所使用的训练数据和模型。”

人道危机中数据收集的人权影响

专家再次呼吁谨慎对待数字技术在人道主义危机背景下产生的激进影响,从大规模数据收集,包括对高度敏感的生物识别数据的收集,到使用先进的定向监视技术。专家说:“在充分理解更广泛的人权影响和建立强有力的数据保障措施之前,我们敦促对使用这些措施保持克制。”

以技术解决方案保障人权

专家强调了确保技术解决方案的必要性,包括强大的端到端加密和不受限制地访问虚拟专用网络,同时保护数字通信安全。

专家提醒各国和企业注意各自的义务和责任,包括在开发、使用、审查和采购数字技术时的人权尽职调查要求。

专家说,“工业界和国家都必须承担责任,包括对其经济、社会、环境和人权的影响,下一代技术不得复制或加强排斥体系、歧视和压迫模式。”

人权专家

联合发表这份声明的专家包括:反恐中注意促进与保护人权和基本自由特别报告员菲奥诺拉•尼伊兰(Fionnuala Ní Aoláin);促进和保护意见和表达自由权特别报告员艾琳•汉(Irene Khan);被强迫或非自愿失踪问题工作组阿瓦•巴尔德(Aua Baldé,主席兼报告员)、加布里埃拉•奇特罗尼(Gabriella Citroni,副主席)、安卡纳•内拉派吉特(Angkhana Neelapaijit)、格拉日娜•巴拉诺斯卡(Grażyna Baranowska)、安娜•佩雷斯(Ana Lorena Delgadillo Perez);隐私权特别报告员安娜•布里安•努格蕾蕾斯(Ana Brian Nougrères);人权维护者处境特别报告员玛丽•劳勒(Mary Lawlor);和平集会自由权和结社自由权特别报告员克莱芒•武莱(Clément Nyaletsossi Voule);工商业与人权工作组皮查蒙•约范同(Pichamon Yeophantong,主席)、达米洛拉•奥贡比伊(Damilola Olawuyi,副主席)、费尔南达•霍本哈伊姆(Fernanda Hopenhaym)、伊丽莎白•卡尔斯卡(Elżbieta Karska)和罗伯特•麦科克代尔(Robert McCorquodale);当代形式种族主义、种族歧视、仇外心理和相关不容忍行为特别报告员阿什维尼(Ashwini K.P.)

这些专家是人权理事会特别程序的一部分。特别程序是联合国人权系统中最大的独立专家机构,是人权理事会独立的实况调查和监督机制的总称。负责处理世界各地的具体国别状况或专题问题。特别程序的专家在自愿的基础上工作,他们不是联合国工作人员,独立于任何政府或组织。他们以个人身份行使职责,不因其工作收到酬劳。