AI智力爆炸:人类是蝼蚁还是宠物?

作者: Lance B. Eliot

来源: 福布斯杂志

发布日期: 2020-08-31

本文讨论了AI智力爆炸的概念及其可能对人类的影响,探讨了AI在智力上超越人类的可能性,并分析了自动驾驶汽车技术与AI智力爆炸之间的关系。

想象一下,当你推倒多米诺骨牌时,第一张牌倒下,而后每一块牌迅速产生反应,直至最后一块牌。实际上,这种连锁反应不局限于物理界,而是广泛存在于各个科学领域。而今天,科学家们都在讨论一个全新的、会产生连锁反应的领域——AI。许多人提出,AI的智力就像多米诺骨牌一样,一旦打开某个开关,它就会不断地自我补充,形成AI“智力爆炸”,甚至最终可能超越人类智力。

近日,世界知名的人工智能专家、前加州大学教授Lance B. Eliot博士在福布斯杂志发表文章,详细讨论了AI“智力爆炸”这一问题。一些科学家认为,某一天,AI有可能会发生“智力爆炸”,并且宣称,这可能发生在2050年至2100年之间。但没人知道具体的答案。

事实上,目前已存在的AI系统,还无法与人类智力相提并论。当前基于计算机的AI可以做一些相当棘手和令人印象深刻的事情,但这充其量只能称作是“狭义的AI”——它只能在有限的范围或领域中工作,而且缺乏与人打交道的常识性推理能力。而真正的AI,通常被称为AGI(Artificial General Intelligence),可以毫无悬念地通过图灵测试。但目前,世界上还没有一个AGI。

有人认为,只有人类才可能展示出最高水平的智力,因此,AI智力无论经过多少演变发展,都不可能达到高于人类的水平。因此,AI经过智力爆炸后,将达到与人类智力完全等同的程度,而后便停滞不前。但相反,也有另一种观点认为,AI智力的爆炸式增长将会超越人类智力,并停留在所谓的超级智能左右的水平上。

超智能水平究竟有多高?我们对此暂时毫无了解。但有人坚信,尽管超智能会超出人类的智力水平,但它本身也将具有一个界限或最终优势。同时,AI智力爆炸可能是一个永无止境的连锁反应——AI可能会不断地发展,引发超级AI,再引发超级超级AI......总之,变得越来越聪明,直到永远。

AI智力爆炸,于人类是利还是弊?我们不得不注意的一个问题是:超级AI可以思考出、做到、看到或说出哪些我们普通人所不能做到的?Eliot教授给出的答案是,超级智能大概可以解决癌症,世界饥饿,解释宇宙是如何开始的,并且从本质上可以回答人类仅有敷衍智力尚未解决的、所有棘手的开放性问题。

令人悲伤的是,人类的普通智力甚至可能不足以识别出超级智能所能想到的东西,因此到那时,人类在AI眼中可能如同小小蝼蚁,超智能AI要么容忍我们的存在,要么帮助我们存活下去。它可能试图将我们推向智能阶梯,或者决定让我们成为“宠物”,可能会教给我们新的智慧,也可能会认为我们不值得它为此烦恼而放弃我们。

但另一方面,这是否意味着我们根本不需要任何其他新发明,因为以某种方式拥超智能有AI就可以满足我们的所有需求?想象一下,有时候与真正聪明的人在一起时,我们的智力会得到提高,因为与对方的交互作用可能使我们沉迷、吸收或以某种方式放大自己的智力。因此,假如我们实现了AI超智能,则可能导致我们作为一个物种的自身智能的增加,这似乎也是合理的。

AI自动驾驶汽车与智力爆炸不得不说,目前的人工智能产业的一大领域就是自动驾驶汽车。但实际上,目前的无人驾驶汽车技术水平还未达到较高水平。真正的自动驾驶汽车是指AI完全自行驾驶汽车,并且在驾驶过程中不需要任何人工协助。这些无人驾驶车辆被认为处于4级和5级水平。

而要求驾驶员共同分担驾驶工作的汽车,应该被称为半自动驾驶(semi-autonomous),处于2级或3级水平,通常包含各种自动附加组件ADAS(Advanced Driver-Assistance Systems)。

现在,4级无人驾驶汽车正在通过非常狭窄和经过选择的公共道路进行试验,来尝试增加其吸引力,尽管是否应该允许进行这种试验仍存在争议(因为反对者指出,人在这些试验中充当小白鼠,是生死攸关的事)。

在文章中,Eliot教授提出了AI自动驾驶汽车和AI智力爆炸的三个方面:(1)AI自动驾驶汽车的兴起是否会对AI智力爆炸的连锁反应起促进作用?(2)如果AI自动驾驶汽车本身不属于AI智力爆炸的一部分,那么AI自动驾驶汽车是否还会得到研究与发展,并最终促进AI智力爆炸?(3)我们设计的AI自动驾驶汽车是否会在AI智力爆炸产生AI超智能后,成为废弃无用的技术?

一种观点认为,今天正在设计的AI自动驾驶汽车似乎不太可能产生AI智力爆炸。现有的系统要达到超智能水平,似乎还远远不够。这就引发了另一场关于是否要实现真正的无人驾驶汽车的讨论,毕竟,有了超智能AI后,现在无人驾驶汽车似乎仅仅是个玩具。

总而言之,智力爆炸的概念无疑能让我们的思绪飘扬。想一想,如果无人驾驶汽车突然的AI驾驶系统突然引发智力爆炸,它们可能决定不再当我们的汽车驾驶员,而是成为人类生存和未来的驾驶员。这无疑会让人们陷入担忧。

UUID: 2cd51bab-db18-4798-90bd-a72c3369319f

原始文件名: /home/andie/dev/tudou/annot/AI语料库-20240917-V2/AI语料库/学术头条公众号-pdf2txt/学术头条2020年-下/2020-08-31_AI如果“智力爆炸”成为超级智能,只有普通智力的人类是蝼蚁还是宠物?.txt

是否为广告: 否

处理费用: 0.0047 元