人工智能作恶谁之过?

作者: 李子李子短信

来源: 果壳

发布日期: 2018-03-31

本文探讨了人工智能在现代社会中的潜在危害,包括其可能加剧的种族歧视、社会不公平以及在政治和商业中的滥用。文章指出,人工智能的“作恶”能力源于其对人类偏见和行为的反映,以及资本力量的驱动。同时,文章呼吁对人工智能进行更严格的监管,并强调在开发人工智能时需要有人本关怀。

职场偏见,政治操纵,种族歧视……人工智能作恶谁之过?

2016年3月23日,一个人设为19岁女性,昵称为 Tay 的聊天机器人在推特上线。这个微软开发的机器人能够通过抓取和用户互动的数据模仿人类的对话,像人一样用笑话、段子和表情包聊天。但是上线不到一天,Tay 就被“调教”成了一个满口叫嚣着种族清洗的极端分子,微软只好以系统升级为由将其下架。

人工智能有作恶的能力吗?面对智能的崛起,许多人抱有忧虑和不安:拥有感情和偏见的人会作恶,而仅凭理性计算进行判定的计算机似乎也会“作恶”,且作起来易如反掌。这让许多人(特别是非技术领域的人)对人工智能的发展持悲观态度。

人工智能在判断上失误的一个指责,是它经常会 “歧视”。使用最先进图像识别技术的谷歌曾经陷入“种族歧视”的指责,只因它的搜索引擎会将黑人打上“猩猩”的标签;而搜索“不职业的发型”,里面绝大多数是黑人的大辫子。

人工智能会加剧人类社会的不公平吗?对每个毕业季都会收到数以万计简历的大公司人力部门而言,用机器筛简历并不是什么新鲜的事情,百分之七十以上的简历甚至都到不了 HR 的眼皮底下。筛简历的 AI(业界用语“雇佣前评估”)因此而获得了大约30亿美元左右的市场。

如果说“过往数据”的积累是机器作恶的基础的话,那么资本力量的驱动则是更深层次的原因。如同开篇提到的那样,2016 年美国大选期间,一家叫剑桥分析(Cambridge Analytica)的公司使用人工智能技术,针对任意一个潜在选民的“心理特征”投放付费政治广告;而投什么样的广告,取决于一个人的政治倾向、情绪特征、以及易受影响的程度。

2018年3月 19 日,一辆自动驾驶的优步(Uber)在美国亚利桑那州惹上了麻烦。面对路中出现的一个推着自行车的女性,这辆车速 38 mph(约61km/h)的沃尔沃在昏暗的光线条件下并没有减速,径直撞了上去,受害者被送往医院之后不治身亡。这是自动驾驶第一例行人致死的事故。

人工智能的监管问题亟待解决。对此,现有的法律框架内很难有清晰的、可操作的实施方案。欧盟率先在数据和算法安全领域做出了立法的尝试,2018年5月即将生效的新法规规定,商业公司有责任公开“影响个人的重大决策”是否由机器自动做出,且做出的决策必须要“可以解释”(explainable)。

谷歌中国人工智慧和机器学习首席科学家李飞飞认为,要让机器“不作恶”,人工智能的开发需要有人本关怀。“AI 需要反映我们人类智能中更深层的部分,”李飞飞在《纽约时报》的专栏中写道,“要让机器能全面地感知人类思维……知道人类需要什么。”她认为,这已经超越了单纯计算机科学的领域,而需要心理学、认知科学乃至社会学的参与。

UUID: 08aa11e7-2a0f-4c34-a6aa-8f4bce9ef010

原始文件名: /home/andie/dev/tudou/annot/AI语料库-20240917-V2/AI语料库/果壳公众号-pdf2txt/2018/2018-03-31_职场偏见,政治操纵,种族歧视……人工智能作恶谁之过?.txt

是否为广告: 否

处理费用: 0.0065 元