最近几个月，以ChatGPT为代表的聊天机器人引起全世界的广泛关注。GPT是如何工作的？它会有自我意识吗？人工智能将对我们的社会、文化、知识系统造成何种冲击和重构？奇点到了吗？未来人类有能力与人工智能“抗衡”吗？
今天，《赛先生》推荐亚马逊云科技上海人工智能研究院院长、上海纽约大学计算机系终身教授张峥和作家小白的对谈，他们就人工智能的训练方式及其在未来的可能走向进行了讨论。
小白首先请张峥介绍一下GPT这类预训练大模型的算法工作原理，张峥表示，GPT的基础是大语言模型，这些大模型本质上在训练的时候是在做接龙游戏——把下一页书给写出来。但它们有两点是远超人类的，第一是海量阅读，第二是其中有百分之十的数据是非常结构化的代码（以及代码周围的注释）。大致的结果就是模型中既存了知识（更准确的说是知识的碎片），又存了勾连知识碎片的逻辑。
小白提到，很多作家一开始心里有点慌，觉得能替代人类作家的机器来了，饭碗要被砸了。后来上机器一试，发觉一大堆车轱辘话，有些甚至是瞎扯，心里就有点笃定了。张峥认为，在大模型向对话机器人转换的过程中，有一个思路特别清奇而且有效的想法，就是既然能接龙，那何不把具体的任务，或者思考过程也作为接龙的一部分演示给大模型看，让它具有自问自答的能力呢？
小白指出，GPT的结构设计上某种程度上有点像人脑。张峥则表示，任何一个智能体，都需要对周边的环境的奖励和危险敏感，并且能“俯视”自己正在执行的操作，这最后一点是自我意识的根本。
小白认为，自我意识并不神秘，如果一个大模型一面在执行计算任务，与之同时又还能够模拟自身运行，包括当前正在进行的计算过程，一个内嵌的、递归的模拟器，也许就能构成这个模型的自我意识。张峥补充说，自我意识不过就是俄罗斯套娃，自己“俯视”那个在“思考”“感觉”的另一个自己。
小白提到，机器的遗忘是覆盖，是彻底忘记永远无法恢复，而对于人类，“记忆”和“遗忘”是一件事情的两面。张峥则认为，AI的进步，与你我（的喂养）基本无关，应该担心的是不要让自己在与它的互动中变得过分依赖导致脑力退化。
小白总结道，未来的人工智能技术的设计和研究，其技术发展的路径是完全按照资本的逻辑来部署的，可能会造成社会的分崩离析。张峥表示，OpenAI的初心倒是反资本的，但七年下来，结果又颠倒了，资本的逻辑强大。
最后，小白和张峥讨论了未来的人工智能是否能够真正实现通用智能，以及人类如何在这个过程中找到自己的位置。张峥认为，未来的知识空间还非常大，有AI的这个助手，不是坏事，但短痛是必然的，影响会非常大。小白则担心，未来的人工智能将会统治我们的工作方式和思想方式，可能会导致人类整体思考趋向于一个对齐的中间值。