对于 DeepMind 来说,2023 是充满变化的一年。这年的 4 月份,谷歌宣布将 Google Brain 和 DeepMind 进行合并,成立名为 Google DeepMind 的新部门。新部门将在保持道德标准的同时,引领突破性的 AI 产品研究和进步。
Google Brain 和 DeepMind——一个创造了 Transformer,一个创造了 AlphaGo、AlphaFold…… 两个部门强强联合,在 2023 年底打造出了对标 ChatGPT 的 Gemini。如今,在大模型排行榜 LMSYS Chatbot Arena 上,Gemini 经常名列前三。
在与伦敦大学学院高级空间分析中心城市数学副教授 Hannah Fry(汉娜?弗莱)最近的一次对谈中,Google DeepMind 首席执行官兼联合创始人 Demis Hassabis(戴密斯?哈萨比斯)透露了公司的一些规划,同时也就当前 AI 领域的一些问题发表了自己的看法。
哈萨比斯的核心观点如下:从短期来看,AI 被过度炒作了,但从长期来看,它是被低估的。
DeepMind 和 Google Brain 的合并带来了很多创新机会,他们的目标是发明下一个能够推动 AI 前沿的架构,就像 Google Brain 发明了 Transformer 架构一样。现有的学术基准测试已经趋于饱和,无法区分顶尖模型之间的细微差异。哈萨比斯认为,AI 领域需要更好的基准测试,特别是在多模态理解、长期记忆和推理能力等方面。
现在很多模型都是从五、六年前发明的技术中产生的。所以,这些模型仍然缺少很多东西,会产生幻觉、不擅长长期规划,无法主动完成复杂任务。针对这些问题,谷歌打算通过结合其在游戏智能体和大语言模型方面的专业知识,比如将 AlphaGo 在规划和决策上的优势与 Gemini 等多模态模型结合,开发具备更强智能体行为的系统。
在谈到开源时,哈萨比斯表示他们已经开源了很多技术,如 Transformer、AlphaFold。但他认为前沿模型需要经过更多的审核,在发布一到两年后才能开源,这种模式也是谷歌正在遵循的。谷歌会开源模型,但这些模型会比最先进的模型落后大约一年。哈萨比斯进一步谈到,开源的主要问题在于它就像是走过一扇单向门,一旦发布,就无法撤回。因此在开源之前需要非常谨慎。
AI 可能会在一些复杂的数学问题上取得突破,例如帮助解决著名的数学猜想或在国际数学竞赛中表现出色。然而,目前的 AI 系统还无法自行提出新的数学假设或原创性理论。哈萨比斯认为,AGI 的一个重要测试标准将是其是否能够自主生成像广义相对论那样的全新假设和理论。
关于如何确保 AGI 能够使每个人都受益,哈萨比斯认为不可能将所有偏好都包含在一个系统中,但是可以构建一套安全的架构,然后人们根据自己的偏好、使用目的、部署目的,决定 AI 系统可以用来做什么,不能用来做什么。