5月1日,《纽约时报》报道了 Geoffrey Hinton 从 Google 离职的消息。消息震惊业界。《纽约时报》称,Hinton 对毕生工作感到后悔和恐惧。正是他的毕生工作,才有了今天 AI 的突破性进展。Hinton 是享誉全球的认知心理学和计算机科学家,近50年来致力于神经网络的研究。在2018年,他因为深度学习的研究获得图灵奖,被称为「AI教父」。
他的研究最终助力了 LLM 的诞生,OpenAI 的首席科学家伊利亚·苏茨克维也是 Hinton 的得意门生之一。Hinton 在2013年加入 Google,负责谷歌大脑的部分工作,并担任 Google 副总裁。
据《纽约时报》,身在多伦多的 Hinton 在4月向 Google 提出了辞职,已于上周四与 Sundar Pichai 电话沟通结束,沟通细节并未披露。Hinton 离职的原因,是为了能够「自由地谈论人工智能的风险」,他对自对自己毕生的工作感到后悔。「我用自己的一个正常理由安慰自己:如果我没做,也会有别人这么做的」,他说,「(我)很难想象如何才能阻止作恶者用 AI 做坏事。」
值得关注的是,GPT-4 刚发布时,Hinton 对它赞誉有加:「毛虫吸取了足够的养分,就能化茧成蝶,GPT-4 就是人类的蝴蝶。」仅仅一个多月后,他的态度发生了180度转弯。在采访中,Hinton 表达了几点担忧。1、互联网将被虚假照片、视频和文本淹没,普通人将「无法再知道什么是真实的」。
2、AI 会颠覆就业市场,当下 ChatGPT 等产品能够帮助人类劳工的工作,但他们可能会取代执行固定任务的助理、个人助手和翻译等角色,「它消除了单调乏味的工作,」Hinton 说,「这可能只是个开始」。3、未来,AI 会对人类的存在构成威胁,因为它们通过分析大量数据学习令人意外的行为。现在个人和公司不仅允许 AI 系统生成代码,并且会实际运行这些代码。
他担心真正的自动化武器会成为现实(就像科幻片里的杀人机器人,Hinton 当初离开美国就是因为不想接受国防部的投资)。
对于看似科幻的悲观未来,Hinton 说:「它可能比人类更聪明,少部分人相信这点。但大多数人认为这样的未来距离很遥远,我曾经也认为很远,可能需要30到50年甚至更久的时间。但显然,现在我不这么认为了。
」4、还有一个核心观点,Hinton 认为,以上这些对未来悲观的预期,目前仍是假设,但可能会导致它们成为现实的情况已经出现:微软和谷歌的剧烈竞争,美国和中国的全球竞赛。狼性的发展和竞争会导致恶果,到那时一切都无法被阻止。
Hinton 毕业于英国剑桥大学,在爱丁堡大学获得人工智能博士学位,主攻神经网络方向。
在神经网络备受质疑的时期,他没有动摇对这一技术方向的信念,接连提出了反向传播算法、波尔茨曼机,在数十年后,深度学习取得爆发性进展,他的研究才被更多 AI 同行认可。博士毕业后,Hinton 前往美国卡内基梅隆大学任教,几年后,他对美国 AI 研究由国防部赞助感到不满,离开美国前往加拿大,在多伦多大学计算机科学学院任教至今。
研究神经网络40年后,Hinton 与学生 Alex Krizhevsky 和 Ilya Sutskever 提出卷积神经网络(CNN)架构 AlexNet,震撼业界,重塑计算机视觉领域,开启了深度学习的黄金时代。2012年 NIPS 大会期间,来自全球的科技巨头向 Hinton 抛出橄榄枝。Hinton 与两位学生成立公司 DNN-research,随后以4400万美元天价卖给 Google。
他本人也加入 Google,负责 Google Brain 的部分研究工作,title 是 Google 副总裁和 Engineering Fellow。他的两位爱徒之一,Ilya Sutskever 在加入 Google 两年后离职,加入新创办的研究机构 OpenAI。
因为深度学习的研究,Hinton 与 Yann LeCun 和 Yoshua Bengio 一起获得2018年图灵奖,英文世界将他们称为「AI 教父」(Godfathers of AI),中文世界习惯将他们称为「深度学习三巨头」。
在《纽约时报》发文之后,Hinton 很快在推特上回应,称报道似乎意指他离开 Google「是为了批评 Google」,但实际上,他是为了能够警醒人们 AI 危险性的同时不伤害到 Google(考虑他副总裁的身份),「Google 的表现很有责任心」。
但一直作为人工智能领先代表的 Google,很明显也在这一局的 AI 竞争中落入了下风,Bard 公开演示的一场失误,让 Google 市值少了将近千亿美元,而到现在,Google 还没有正式推出能与 ChatGPT 相抗衡的产品。