侯世达:我讨厌“人工智能”这个词,因为它们没有智能

作者: Ent

来源: 果壳

发布日期: 2019-03-06

侯世达认为,现今的人工智能并不具备真正的智能,它们只是操纵数据而不理解其背后的意义。他对机器学习和机器翻译的能力持批评态度,认为这些技术无法理解现实世界。侯世达强调情绪是智能的核心,当前的AI缺乏情感和理解能力,因此无法被称为真正的智能。

四十年前,一本奇书《哥德尔、埃舍尔、巴赫:集异璧之大成》横空出世。作者道格拉斯·霍夫施塔特(中文名侯道仁,中译第一版使用的译名是侯世达)在这本书里横跨艺术、音乐、数学、意识和智力等众多领域,成为那个时代最令人印象深刻的AI著作,为他赢得了普利策奖和美国国家图书奖。

然后他就消失了。他并没有真的失踪,还在一直思考AI。但是,《集异璧》出版的年代,正好是“古典”AI时代最后的光芒。三十年的研究并没有像研究者预期的那样给出关于智能的突破性进展,热情和经费都在逐渐消退。人工智能研究者逐渐把重点放在能否让机器系统来解决实际问题;至于图灵当年提出的那个问题——“机器能思考吗”——被大部分人认为太过哲学、太过模糊,只适合放在课本的第一页,而和日新月异的应用无关了。

今天,最火的AI路线是机器学习。如果一个人只看新闻头条的话,也许会觉得AI问题已经被解决了:机器学习AI能下棋,能开车,能翻译,能聊天,能看病,能答题,能认动植物,能写诗作画,就差取代人类了。

真的吗?侯道仁不这么认为。他说,AI不“懂”。AI在操纵数据,但不知道这些数据是什么意思,不知道它们还对应着一个现实世界。脱离现实的AI永远不会懂得现实。

在这个问题上他显然是少数派。他已经几十年没有参加过学术会议了,也和AI的主流研究者罕有对话——“我对他们的状态不感兴趣”。很多时候这算不上真的冲突,双方只是在就不同的话题和不同的时间尺度思考。

但他所思考的问题确实是直击盲点——数据集里能堆砌出智能吗?不带目的和情绪的,算得上智能吗?现在的AI能做很多事情,但它们真的“懂现实世界”吗?或者,它们只是一个个空无一物的黑盒子而已?

毫无疑问,今天的人工智能领域非常成功,不需要考虑这些问题也在快速进展。但是这样的进展也许是没有办法持续下去的。不去解决一些更加深层的问题,也许就会像寓言里那个想靠爬树抵达月亮的人一样:“他将不断进步,直到树的尽头。”

侯道仁表示,他其实不觉得自己是在正常意义上的“做研究”。他是以一种个人的状态在探索想法,如果可能的话,就写书来传递它们。驱动他这样做的,是一种寻找美、寻找优雅的力量。另外他还喜欢不严肃。

他对企业的商业目标不感兴趣——“你知道就像谷歌的AI产品什么的”。他感兴趣的是理解人类思考,理解语言,理解这些东西的深度和复杂性。他对这些事情十分尊敬,而他的感觉是那些科技公司好像就不怎么有尊敬的态度。

侯道仁提到,机器翻译是巧妙的花招,有时候能完美生效,在简单句子上通常都能行——但不是每一个句子都行。整个机器翻译领域里最著名的一个例子,“The box was in the pen.(盒子在棚里。)”他试过的每一个程序在这个句子上都失败了。即使给了上下文也没有用,程序依然无法理解。

侯道仁认为,机器翻译软件根本就不理解任何东西。它不知道有这样一个世界,有这么多事情正在其中发生,不知道有过去和未来,不知道有大有小有上有下。它什么都不知道。它所知道的一切就只是字词。

在谈到自驾车时,侯道仁表示,现实世界里的可能场景是无限复杂的,驾驶时出什么状况完全不可预料。他觉得这极其糟心。不管怎么说,他是不喜欢AI(人工智能)这个词的。

他认为,情绪是智能的核心,没有它就没有智能。他提到,阿法狗确实做到了一些惊人的事情,找到了某些模式,是人类从来没有注意过的,但这并不意味着它理解围棋。理解是个很难讲的概念,阿法狗只是在操纵符号,它不知道这是个游戏,不知道游戏是什么东西。

侯道仁总结道,情绪是伴随着一套内置的目标而产生的,情绪来自斗争,为了生存的斗争。现在的电脑没有朋友,不会喜欢谁、讨厌谁,这不是它们世界的一部分。必须要有保护、关怀和共情,需要能认同他人的目标,视之为自己的目标。我们距离这一切,还很远很远。

UUID: cfd56678-b40a-4445-8ad7-be5b15385bb4

原始文件名: /home/andie/dev/tudou/annot/AI语料库-20240917-V2/AI语料库/果壳公众号-pdf2txt/2019/2019-03-06_侯世达:我讨厌“人工智能”这个词,因为它们没有智能.txt

是否为广告: 否

处理费用: 0.0082 元