偏见、种族主义和谎言:直面人工智能负面后果

2021 年 1 月 4 日

借助人工智能技术,一些强大的数字工具正在帮助我们抗击2019冠状病毒病,同时它们还拥有以其他许多方式改善世界的潜力。然而,随着人工智能渗透到日常生活的更多层面,不可否认的是,对它的误用和滥用会导致严重后果。因此,联合国呼吁国际社会对该技术予以严格规范。

提到人工智能,人们经常会联想起能够像人类一样思考和行动的机器,但实际并非如此,它更多被用来描述一种可以在一定程度上“学习” 、解决问题并找出模式的软件。这对分类和理解大数据尤其有用。

对于人工智能的另一个误解是,鉴于它可以进行自主学习,所以它一定能够实现比人类所能想到的更高效、可靠和卓越的成果。然而,最近发生的一系列误用案例(例如:考试成绩被错误降级,无辜的人被关进监狱,以及个人数据被盗)提醒我们,人工智能工具的成功和失败都是源于人类,而人类并不完美。

在联合国发布帮助公众理解人工智能伦理的指南之前,我们可以了解一些有关人工智能的使用、其后果以及如何加以改善的知识。以下是五个要点:

 

 

1)滥用所带来的后果可具有毁灭性

2020年1月,在美国密歇根州,一名非裔美国人以入店行窃罪为由被捕,然而他对此一无所知。他在自家门前当着家人的面被带上手铐,并被带走拘留。

该事件被认为是此类错误逮捕中的第一起:警员根据人工智能面部识别来抓捕嫌疑人,但由于用于训练该工具的图像大多是白人面孔,因此该工具尚未学会如何识别黑人脸部差异。幸运的是,事情真相很快得到澄清。被捕人面容与商店监控图像中截取的图像完全不同。他在监狱里呆了几个小时后获释。

另外,2020年7月份全英学生哗然,原因是传统的考试因疫情而取消,转而采用计算机程序评估学生成绩,许多学生进入心仪大学的梦想破灭。

学生们的最终成绩由电脑推算得出。所用程序的判定依据包括学生在既往考试中的成绩,以及所就读学校在过去几年的升学记录。这对来自少数族裔和低收入社区的优秀学生产生了不利影响。他们将更有可能进入比富裕学生就读学校平均成绩低的学校。

 

Unsplash/Jeswin Thomas
受到疫情影响,全球多个国家的学业考试也被迫推迟。

 

这些示例表明,为了使人工智能工具能够正确运行,训练有素的数据科学家们需要使用高质量的数据。但不幸的是,目前用于人工智能教学的大部分数据来自世界各地的消费者,甚至通常未经他们的明确同意。较贫穷的国家往往没有能力保障公民个人数据安全,也无法保护其社会免受破坏性网络攻击和阻挡自新冠疫情以来愈发严重的虚假信息泛滥。

2)仇恨,分裂和谎言有利于企业发展

许多社交媒体公司遭受抨击,因为它们使用由人工智能驱动的算法来精准锁定目标用户,向他们推送会增强其所持偏见的量身定制的内容。推送的内容越具有煽动性,就越有可能被消费和转发。

这些公司乐于向用户“推送”分裂社会、观点极端的内容的原因是,这种方式能够让他们在平台上停留更长的时间,从而取悦广告商,提高利润。

这种做法导致了极端主义、充满仇恨的言论大为流行。并且这类言论经常在一些平日里鲜为人知的群组中散布。新冠疫情期间,它还使得有关2019冠状病毒的危险错误信息大量传播,导致更多人面临感染风险。

 

Unsplash/Franki Chamaki
人工智能对于处理和分析大量数据非常有用。

 

3)全球不平等现象在网络空间得到反映

有强有力的证据显示,人工智能在一定程度上加剧了全球不平等现象,并使小部分人从中获益。例如,在所有新出现的数字创新和专利中,有四分之三以上来自200家公司。在我们使用的15个最大的数字平台中,11个来自美国,其余的来自中国。

这意味着人工智能工具主要由西方开发人员设计。实际上,这些开发人员绝大多数是白人,他们也占人工智能课题作者的绝大多数。前文提到的美国密歇根州错误逮捕案件,只是反应这一重要领域缺乏多样性所带来的危险的一个例子。

这也意味着,到2030年之时,中国和北美预计将在由人工智能带来的数以万亿美元计的经济收益中获利最多。

 

 

4)潜在利益巨大

这并不是说我们应该减少人工智能的使用。正如我们在疫情期间所见,使用高科技的技术创新对社会益处良多。全世界的政府都已开始用数字解决方案来解决新兴问题:从追踪接触者的应用程序到远程医疗,再到无人机运送药品。为了追踪2019冠状病毒在世界范围内的传播,人工智能对我们在社交媒体和在线互动中所产生的大量数据进行了筛查。

人工智能的用途远不止于抗击疫情,它还可以帮助应对气候危机,推动有助于恢复生态系统和地球环境的模式,减缓生物多样性丧失,帮助人道主义组织优化资源投放以拯救生命。

问题在于人工智能工具的开发速度如此之快,以至于设计师、企业股东或政府都没有时间考虑这些耀眼的新技术的潜在弊端。

 

© 国际电联图片/Rowan Farrell
与其他联合国机构不同,国际电联除193个国家政府外,还包括900多个行业成员,囊括了电信和网络行业的主要企业。

 

5)我们需要就国际人工智能规范达成共识

鉴于以上原因,联合国教科文组织正在向各类团体开展广泛磋商,包括来自民间社会、私营企业和广大公众的代表,目的是制定国际人工智能标准,并确保该技术具备强大的伦理基础,例如:法治和促进人权。

需要考虑的重点包含以下几个方面:增强数据科学领域的多样性的,以减少偏见及对种族和性别的陈规定型观念;在司法系统中合理地使用人工智能,使其更加公平和高效;探索确保该技术能使尽可能多的人受益的方式。

上述磋商已于2020年7月启动,教科文组织专家起草了一份关于人工智能伦理的全球性法律文件。草案考虑到了人工智能的广泛影响,包括对环境以及发展中国家需求的影响。制定有关人工智能应用的国际性规则是很重要的一步,我们需要决定将哪些价值观融入其中,以及关键的是,确保哪些规则得到落实。

 

Unsplash/David von Diemar
像特斯拉这样的汽车公司越来越多地使用人工智能来驾驶车辆。

 

另:
为了更好地解释人工智能带来的机遇和挑战,联合国教科文组织将在2021年1月发布一项新指南:《理解人工智能伦理:为什么这关乎每一个人?》。教科文组织的功能之一是提高相关认知,教育公众并向他们提供道德反思的工具。该出版物将帮助所有年龄和背景的人更好地了解与人工智能有关的复杂问题,以及为什么人工智能应用与我们息息相关。

   

 

 

直接通过您的邮箱接收每日更新 点击此处订阅相关主题
下载适用于您的iOS或Android设备的联合国新闻应用程序iOS or Android devices.

往日新闻

微软、IBM和粮农组织携手合作 打造人工智能应用开发 推动解决粮食不安全问题

联合国粮食与农业组织、国际商用机器公司(IBM)和微软公司今天在一次有关人工智能与粮食安全的对话活动中再次承诺,致力于开发人工智能应用,体现包容精神并以可持续方式实现粮食和营养安全。 

国际电联为人工智能“驾驶员”设计“驾考”

国际电信联盟今天宣布,该组织新成立了一个“自动和辅助驾驶人工智能焦点工作组”,将致力于建立监测和评估人工智能“驾驶员”驾车表现的国际标准。