在AI狂飙的时代，人还有价值吗？
最近两个月，受到香港中文大学卓越传媒人驻校计划的邀请，我在香港进行了一次为期八周的访学，并为新闻学院的学生们开设了一个工作坊，主题是关于“如何提问”。就在我们上课的几周时间里，ChatGPT以迅雷不及掩耳的速度进入了大众的视野。我在课上与同学们进行了讨论。有些人说，在GPT的时代，会提问可能比会回答更加重要。
有些人欣喜，认为GPT将大大提高人类工作效率，减少无意义的重复劳动；也有些人担忧，认为GPT可能会带来大规模失业，甚至动摇社会的基本结构。
比尔·盖茨称赞，当前这场由ChatGPT衍生开来的人工智能革命是他所见到的自1980年以来最具革命性的技术进步。具体来说，GPT的革命性到底体现在什么地方？当前关于人工智能的讨论有些怎样的误区？它可能会带来什么影响？有什么是它能做的，又有什么是它永远也做不到的？它会是我们的“奇点时刻”吗？人类需要为此忧心忡忡吗？
今天的节目里，我们请来了懂技术也懂哲学的老朋友，围绕着关于ChatGPT与人工智能的许多迷思，展开了讨论。
王磬：今天录制之前，我也在微信上刷了刷。我看到昨天被分享了很多的一篇文章。这个标题我给你念一下，感受一下焦虑的程度。叫“微软深夜放炸弹、GPT4 office全家桶发布，10亿打工人被革命”。这类型的标题在过去这段时间里已经可以说是屡见不鲜。
一方面，媒体在写作的时候会希望通过这样的标题去吸引更多的流量。但另一方面，我也在读木遥老师的微博时感受到：现在如果仍然评价ChatGPT，取得的这些进展“什么都不是”，其实也是很有误会的一种解读。
我这学期正好在香港中文大学新闻学院做访学，在给这边的学生开一门课程，也是在我们上课的过程中，GPT火了起来。在我们新闻业，大家就会担心。码字这件事以前可能还算是一个智力活，但是现在ChatGPT出现了之后就不一定了。我觉得但凡亲自玩过的人都会惊讶于它遣词造句的成熟的程度，虽然它仍然有一些问题。我觉得当它以这种一个高度智能化、高度拟人化的形态出现在大众面前的时候，是会让人产生一些焦虑。
我是文科生，不懂技术，会提出一些比较基本的问题，希望能够回应到普通大众对于这个议题的一些疑惑。我知道你这几年其实一直都有在关注AI的发展，也在社交媒体上有做一些分享。你要不要先分享一下，你最开始接触到ChatGPT大概是在什么时候？
木遥：我可以简单梳理一下GPT的发展，我不想把它变成一个像科普一样的严肃讨论，但是我觉得理清一些时间线可能会对大家了解这个事情有帮助。
顺便说一下，你刚才描述的那种心理，就是一部分人非常焦虑，另外一部分人可能会有一点不屑一顾，甚至怀疑这个媒体是不是过度炒作了，包括那些震惊式的自媒体是不是在故弄玄虚。我觉得这都是非常真实的反应，我们待会也可以展开讲讲我觉得遗憾的、大家可能视角不够完善的部分在哪里。但是我现在回答你的问题就是时间线的问题。
ChatGPT不是第一代GPT，很多人可能知道它背后的技术叫做GPT3.5。
GPT大语言模型本身进入研究者的视线是两三年前，但是第一次比较成熟应该是GPT3，但是3的时候还是更多停留在业内，跟一般的大众没有什么关系。ChatGPT作为3.5的一个推向大众的demo版本，一下子引起了普通人的关注。这是在去年年底的时候。我在去年年底的时候发过一条微博，我说我觉得以后历史书上会记载2022年最重要的历史事件是ChatGPT的发布，而不是俄乌战争。
当时很多评价是觉得完全莫名其妙，怎么可能。但我觉得今天可能同意这个说法的人会多一点。
前两天大家也知道OpenAI推出了GPT4。这个版本号听起来有点琐碎，有点像我们说iPhone 13、14、15一样。但其实不是，因为碰巧是在GPT3和3.5之间，它的能力发生了一个飞跃。这个飞跃使得GPT3.5一下子冲破了我们之前认为大语言模型不太可能冲破的一些限制，使得它到达了一个新的高度。
但也正是因为突破本身非常新，它发生在过去的一两年内，它没有进入大众视野。大众也不太了解这个飞跃的实质和它的影响。所以很多人可能还在用一种比较过时的眼光来看大语言模型，所以对它会有误解。这些人不仅是一般的老百姓，包括一些非常知名的人士。我相信磬肯定知道两周前乔姆斯基在纽约时报上发表了一篇文章，主题就是这个东西没有什么大不了的。但这篇文章发表出来之后，基本上被业内人群嘲，大家觉得真的是廉颇老矣。
原因不在于乔姆斯基本人的语言学观念是不是正确，原因在于他对这个新技术明显停留在一个过时的认知上。他中间举了一个例子说，你看GPT是不可能回答什么什么什么样问题的，但是事实上你只要打开GPT试一下就知道其实是可以的。所以我觉得要理解ChatGPT这个事情，需要了解过去时间线，特别是我刚说的飞跃是什么。
简单的介绍一下这个事情，为什么大家过去觉得这个事情是有限制的，而今天又发现它的限制被突破了。
大语言模型，传统上被认为是一个统计模型。什么是统计模型？很多人可能听过这样的描述，它的工作机理是你给它一些你说过的词，它根据在语料中学到的统计相关性来预测下一个词是什么。机制听起来过于的简单粗暴和无聊，以至于很多人觉得这怎么可能描绘人的大脑的工作方式，我们大脑又不是这么简单的机理——你看了100万个文本，你记住哪些词后面有可能跟哪些词。这不是我们思考的方式对不对？
也正是因为如此，很多人对这一类统计模型的能力的上限，事实上一直以来是低估的，直到3.0为止，它确实表现得就像是一个统计模型，它能够说出一些比较像是人说的话，但是你说它有意识，好像还不至于。从3.0到3.5之间发生了什么？发生了一个新的飞跃，这个飞跃是因果链条能力的建立。我以前在微博上写过这个事情。什么是因果链条？就是它可以做一些推断性的事了。
它不只是我通过前一段词来推断下一个词是什么，而是我能进行一些类似于逻辑上的思考。比如你给他说我把一个香蕉放进一个纸袋子里面，但我又从纸袋里面取出一个苹果，就说明什么事情。如果你只是从字眼上的概率，你是很难想象这段话的下一个字眼最大概率是什么的。但是我们有逻辑，我们可以想说，这是因为纸袋里面本来就得有一个苹果，对不对？这个事情是逻辑上的想法，它不是单纯字词上的相关性导致。
它需要你对这个纸袋子是什么东西，为什么香蕉进去，苹果出来有一点特殊性。它反映了什么问题？你需要有一个世界知识在后面。这个东西传统上是大家认为在语言模型的限制之外。但是从3.5开始，大语言模型可以回答这类问题了，可以建立这样的因果链条了。这个飞跃很大程度上是出乎人们意料的。事实上，它为什么能够做到，在今天仍然是研究领域的一个热门话题。即使AI的研究者也不是百分之百的理解它为什么能够做到了。
但是越来越多的实验表明，它真的可以做到。关于这个领域的论文，如果有感兴趣的专业读者可以去搜所谓的思维链条的领域，它是过去两年的一个非常非常热门的领域。因为这个领域的出现，使得从3.5开始，语言模型一下子变得成熟起来了。
不管它怎么做到的，至少它有了一个好像是世界图景在它脑海之中的时候，它跟你聊天的就会显得非常非常的真实，就不像是只是话赶话在说一些似是而非的东西。正是因为这个飞跃，使得3.5一下子变得可以面向大众了。所以从去年底开始，OpenAI推出一个demo推到大家面前，引爆了整个媒体和一般老百姓的视野。之后，今年3月份顺势推出了比较成熟的GPT4。
GPT4具体会引爆什么样的？接下来的连锁反应我们还要再看。但是这是正在发生的故事。
王磬：你刚刚提到的真正具有突破性进展的是关于因果链条的建立。为什么建立因果链条那么重要？之前技术上不能够达到的难点主要是什么？
木遥：这有点技术性，但是我可以试着回答一下这个问题。如果我的回答有点过于枯燥，你可以随时打断。有一本很著名的书，叫做《思考快与慢》，它讲的是人的思考的两种模式，一种模式叫做快模式。
什么是快模式？就是你看到一个东西，你本能地做出反应，这个本能是来自于人的动物性，所以这部分是人和动物共有的。你在眼前闪现过一个红色，你马上感知到危险。这个东西是不经过思考的。就是千百年来的生物本能，让你感觉到危险。你看到一个好看的异性或者同性，whatever，你会觉得ta对我有吸引力。这个也是，它不经过思考，它直接就触发你的荷尔蒙。这东西叫快思考。慢思考是你必须要一步一步想问题。
就像我们做高考题一样，你不可能看到题目马上脑海中就闪现出答案来，除非那个题你见过。你必须要一步步想题面题干内容说明了什么，它又说明什么，所以推出答案应该选A。这个过程是快不了的，它必须有一堆中间步骤。这个东西叫慢思考。慢思考一般认为是人类有的，动物是没有的，或者至少极少数的高等动物，海豚这样的可能会有，但大部分动物是没有的。
传统意义上的神经网络模仿的是人的快思考，哪怕像AlphaGO这样会下棋的非常聪明的神经网络，它也是快思考。为什么？它就是一个单纯的网络。一头有输入，一头有输出。我们通过训练使得它知道什么样的输入，应该有什么样的输出。把它放在现实生活中，给它一个输入，它给你一个输出，在这个过程中是没有步骤的。这也是为什么神经网络长期被人诟病，说它是一个黑盒子，因为它没有任何中间的过程，就是一头输入，一头输出。
神经网络可能非常深，它中间的模仿函数的网络的结构可能是好多步，但是只是它思考的函数非常复杂，但它仍然没有步骤。它只是一个非常非常复杂的函数，仍然一步到位的从输入到算出来。而思维链条（COT）是完全不同的方式。它不是从输入一步到输出，它在模仿人类思考的东西。我给它一个输入，它先想第一个中间过程，用第一个中间过程想一个第二步中间过程，第二步让过程想第三步中间过程，推出一个结果。
一旦你能够建立起这种结构来，你就能够做到快思考不能够做到的事情。因为我们很多人类的思考过程是这样的，你要把一堆信息综合在一起，推出一堆中间结果，最终得到一个我们要的结论。这个东西不要说低等动物，就是比较高级的，哪怕像猫和狗这样的动物，它其实都未必能做到，对吧？猫能够做到一步步想问题，其实有点悬，对吧？但是今天的AI，至少2021年以后的AI开始逐渐能够做到这一点了。
这就是我刚才为什么我说它是一个非常本质的飞跃。
王磬：我觉得刚才你那个例子还是很有帮助的。我只能说我现在比刚才5分钟之前稍微了解的更多了一点。但是我仍然感觉到有很多疑惑的地方，比如像AI有多聪明这个事，其实也是过去这几年或者十几年来大家一直在聊的一个事，包括像去年也比较火的那种AI绘画，你输一堆东西，AI它能给你画出那么漂亮，甚至是独一无二的一些作品。
所以我觉得是不是对业界人士来说，ChatGPT它实现的飞跃其实是一个一系列的技术进步中的一环，但是到了社交媒体上之后，因为大家可能之前没有一直在关注，才会有一个印象，觉得这是一个技术性上的前所未有的提升，以至于导致了某种程度的恐慌。在你看来，技术飞跃的实现是一个怎样的过程？
木遥：我觉得是个很好的问题，飞跃怎么样放到一个更大的坐标系里面来观察。事实上，这个问题的业内人士本身在社交媒体上也有触及过。
很多人发现了一个现象，好像业内的兴奋更大，业外一部分人觉得焦虑，而另外一部分人觉得这跟我有什么关系？或者是不是又是狼来了，又是炒作。而更重要的是，就是如你所说的，因为我们都知道，今天大家已经被社交媒体训练的已经皮了，对吧？不管多大的事，都是震惊，其结果就是你分不出这个震惊的数量级，到底是10倍的震惊还是1万倍的震惊。反正它的标题都是震惊、叹号。
所以你有必要把它放在一个真实的坐标系里，来考虑这个东西到底是多大的事儿。它和别的事，比如和Alphago这样的事儿，或者和画图这样的事儿相比，是怎么样的？这里面经常有一个概念叫做AGI，就是通用人工智能。通用人工智能一般被认为是人工智能领域的圣杯。什么意思？通用人工智能是所有问题的母问题。你要让AI或者让机器来做一个特定的任务，这件事情断断续续是一直都有进展的。
AI进展会下棋了，AI可能也会作曲了，AI也会画画等等。但什么叫通用人工智能？同一个模型能够同时做很多事，这件事情是困难的。因为同一个模型能够同时做很多事，意味着它不只是被某一个特定的任务所训练成了一个熟练，不管怎么训练出来的，而是它真正好像人一样，了解了关于世界的某些更本质的运作机理。你可以想象，你训练宠物狗帮你叼拖鞋。
有一天，它非常非常熟练，可以认出你喜欢穿什么鞋，知道你每天回来最喜欢穿什么样的拖鞋，知道你哪天回来心情不好，不用给你拿拖鞋，这都是有可能的。这说明这个狗真的很聪明。但是如果有一天这个狗开始说我不只是帮你拿拖鞋了，同时我还帮你做饭，你就会觉得这里面一定有某些不寻常的事情了。因为你再怎么训练教拖鞋，这个能力不可能转化到做饭上。
而通用人工智能的意思就是我能够训练出一个模型，既能够拿拖鞋，又能够做饭，这说明它不只是单纯被你训练成一个熟练工，它一定了解了某些关于世界运作的方式——鞋是什么，饭是什么，以及我该怎么做这些东西。这个认知就要到一个非常非常底层的层面了。这就是为什么ChatGPT它本身引起的震动比之前那些震动都大。因为ChatGPT可以说是人类看到AGI通过人工智能的第一线曙光，它终于有点通用的意思了。
你今天也试用过，你也知道，你问它的问题并不需要局限于任何一个特定的话题方向，对不对？你问它什么都可以让它写诗。你让它模仿胡锡进写一个微博，或者你问它一个技术问题，让它写一个代码都可以，这就有点通用的意思了。特别是你可以很容易想象，既然它可以说话，它就可以通过这些话再去指导别的行为，对不对？
今天也有很多这样的工具，让GPT去控制一个agent，就是一个代理让它来进一步控制电器，进一步控制跟物理世界发生关联的、操纵的东西。就理论上来完全可以通过语言来真正做一些事儿，而它的语言本身又不限于话题，它就好像真的可以做很多我们生活中可以做到的事情。我不知道你有没有看上周四所发布的微软发布的新的office。
这个东西对人的冲击是很大的，因为大家都用office，如果AI只是能够用来跟你聊天，还只是一个聊天机器人。如果AI可以帮你写文档，可以帮你写PPT，可以帮你写邮件，可以帮你做会议总结，它就几乎可以做95%白领的日常工作了，对吧？通用性是飞跃在业界引起最大震动的部分。
所以如果我们用震惊体来描述这次的震惊，是真的比较震惊，比之前的那些震惊要高至少一个数量级。
王磬：如果从你刚才说的意思来看，它之所以能够高这一数量级的一个很重要的原因是在于它好像让语言具有了一个直接去行动的能力。这部分能力可能以前的时候大家还会觉得未来的方向可能会是AI结合，人仍然还是占据一个非常重要的角色，但只不过你用了AI，这样可以让你工作中更有效率。但是一旦AI具有了直接的行动能力，它其实是完全可以某种程度上取代掉人的。可以这么理解吗？
木遥：我觉得取代不是一个好的词，因为取代是一个非常容易反驳的词。我可以说我仍然会干什么什么，AI干不了，所以它取代不了我。但正是这种字面上的抬杠，使得问题的本质被掩盖了，因为AI在人的生活中的渗透是一个逐渐的过程。百分之百地取代你可能仍然不会发生，可是它也不需要百分之百的取代掉你，只要50%的取代掉你的某些工作职能，AI就会对就业市场形成非常大的冲击。
我有一个纽约的律师朋友，他是很早就开始用这个东西。他本身不是一个技术人员，他是一个标准的文科生，平常用一个新软件都要紧张半天的那种人。但是他开始用这个之后，因为律师的工作很大程度上是依赖于文本的，而文本是GPT的长项，所以他就开始用。之后，我就问他说，所以你真的开始辞退你的员工了吗？因为他自己是一个律所合伙人。
他说我还没有真正开始辞退任何人，但是我确实打算今年暑假不用再招实习生了，因为给我省下的活完全可以让我腾出手来做一些事，以至于我可以省下招一个实习生的AD account。这就是一个真实的影响对不对？它没有真正取代什么东西，但是它仍然冲击了一个真实的就业市场上的职位。
我觉得AI对我们社会的影响会以这种方式出现，它不会马上一下子让你这个人变得没有意义，但是它可以让三个人的活，两个现在能干完，多出来那个人就没有存在的必要了，所以老板就可以把他开掉。
它并不是百分之百取代人的方式来逐渐进行的，而且这个事情是非常真实的。这也是为什么我觉得很多人对冲击仍然没有做好心理上和事实上的准备。其实有点令人忧虑的原因就是，如果你今天还用一种，这东西都是媒体的炒作的态度来对待这个问题，你就很可能会在真正的影响你切身生活的冲击到来之前，没有做好对自己来说比较有用的帮助。
王磬：我觉得我们可以顺着这里聊一下，聊一些可能更具体的使用的场景和可能会影响的群体。在你看来它的技术进展可能影响哪一些人群，哪一些工种？或者哪一类生活方式是最容易受到它的影响的？在我们目前已知的这种技术条件下，不用考虑它未来几年这种发展。
木遥：我来简单解释一下为什么它能够帮到你的工作。我今天在网上看到一个笑话，说GPT这个词在法语中会非常好笑。我自己法语很烂，我不知道为什么。如果在传统时代，我要么去问一个懂法语的人，要么去搜，但是这个就很难搜，因为除非有人在网上贴过这个笑话，否则你也搜不出什么东西来。但现在有GPT，我就打开GPT搜为什么。GPT这个词在法语中的念法是“我在放屁”的意思。
我不是说笑话很好笑，我的意思是过程反映了为什么它会有用，因为我们在生活中大量的事物本来是以这种形式在人和人之间发生的。你有一个琐碎的事儿，这个事情你需要别人帮你来做，或者你需要一个秘书，或者你需要什么，但是在没有机器的时代，我们只能使唤一个人，或者我们自己花时间来做。但是有这个东西，它就可以帮你做，而且你去问它没有任何心理压力，你不需要付出心理成本。
你不需要想说我要请教一个人，或者我要占他的时间，不需要的。用这种模式来考虑这个问题，你就会发现，其实我们生活中工作的很大比例都是这样的，事情琐碎、小，但又花时间。基本上我们所说的一个白领的工作，我不能给一个精确的数字，但是我可以有把握可能50%以上都是这种事情。你帮人写一个东西，或者你帮人回答一个日常生活中的问题，或者工作上的问题，或者回答一个知识性的问题，或者把一个什么材料总结一下。
大部分人，我们今天所谓坐办公室的工作，都是这样的工作。极少数的工作是有创造性的、有原创性的。老板可能需要决策，大部分员工也没什么需要决策的。老板说小张你帮我把什么事搞一下？小张其实完全可以被GPT所取代。所以如果你问我哪一种职业最受冲击，我只能说任何需要在写字楼里面有一个小张跑来跑去的工作，都会被它所影响。因为小张所做的事情其实就是这类事情。
我曾经写过一篇微博，GPT的本质不是一个对话集群，GPT的本质是一种以对话为界面的服务。什么叫以对话为界面的服务？当你是一个老板，或者你是一个所谓的professional，你日常生活中在不断调动这样的服务。你有一个法律问题，你需要有一个人来给你回答法律困惑。你有一个编程时候的问题，你需要请教一个人。
诶，为什么这儿有一个bug，或者我听你的，你让我安装了，但是现在界面上弹出一个错误，我不认识这个错误，我该怎么办？这样的问题是我们工作中需要遇到的。在没有GPT的时代，我们需要有一个人，或者需要一个能够至少说话的东西来帮助我们来往下走。而GPT提供的就是这样一种服务。它以对话为界面，帮助我们获得我们所需要的信息，而这种服务在之前是不存在的。
之前当然也有一些类似于智能音箱之类的东西是假的，它只能回答特定的有限的问题。但今天的GPT是通用的，它可以回答我任何问题。所以一切以对话为服务形式的工作都会被改变。而对话基本上是我们日常的白领工作的核心。不管是书面对话还是口头对话。
你今天在香港，放眼望去那些凌厉的写字楼里面的工作，你想象他每天在干什么，想象一下为什么他们的工作不能够被GPT所取代。其实你能找到的理由是非常少的，因为他们大部分所做的事情，不外乎就是把从a那儿遇到的问题，自己消化一下，再问b，然后从b那儿得到的回答再消化，也再传递一个a。而这个事情，GPT是完全可以做到的。
王磬：我觉得在这里有几个点，一个是你刚刚说到消化以及转述的过程，就让我想起，其实在我职业早期，我曾经有段时间是在各机构里面给他们每天写news brief，其实就是我把头一天这个地方所有的重要的媒体关于某一个行业的报道找出来，进行消化和转述，去highlight出一些比较重要的信息，这大概是我十几年前刚开始进入职场的时候做过的其中的一份工作。
如果放在今天的语境来讲，这个是一份非常完美的肯定可以被ChatGPT去取代的一份工作。因为今天ChatGPT已经可以不光是帮我们去搜索新闻，也可以帮我们搜索可能更复杂的学术型的文献。但是另一方面，我自己也会感到，当我们去说到消化和转述这个事儿的时候，这中间也存在一个质量的问题。
比如当时我的老板，他有时候会跟我抱怨之前的助理，他经常会觉得他提供的news brief质量上可能达不到一个brief的要求，因为不够brief，或者有时候highlight的点不够to the point。
我觉得这也回到刚才我们提到的另一个点，也是我自己觉得很想去深入了解的一个问题，就是ChatGPT从能做这个事儿，到能够以一个符合这个人完整的要求去做这个事儿，中间是不是其实还是有一定的差距，包括刚才你提到的，比如大家有时候抱怨ChatGPT，它很擅长一本正经的胡说八道，它有时候会给你提供一个字面或者这种形式上看起来非常正确的文本，但事实上它的文本不太能够经得起考验。
所以你会怎么样看待这个过程中可能出现的质量上的一个问题，以及你觉得质量的问题它多大程度上可以解决？是什么时间框架内可以解决的问题？
木遥：这个问题是ChatGPT刚出来的时候，很多人抱怨的核心，也是很多人觉得这可能不过是一场炒作的根本原因，就是它可能用了两下，发现这不就是说车轱辘话嘛，而且好像也没有很深刻，而且很多时候还在胡扯。但是这里面有两个认知上的分歧需要被摘出来讨论。
一个是ChatGPT其实不是一个产品，它是一个demo。所以当你用消费者评估一个产品的视角评价它的时候，评价可能是不公平的。消费者评估一个产品，你可能会说我想要一个帮我扫地的机器人，这个机器人把地扫得不干净。这就是一个很糟糕的机器人，为什么要为它而激动？但是这种视角，只当你讨论的是一个渐变式的新产品才有意义。当我们讨论一个突变式的新产品的时候，你这种评价很可能就会因小失大。
我举个例子，在马车的时代，有了第一辆汽车，在各种性能上都碾压马车了吗？其实是不可能的，因为马车被优化了几千年。而第一辆汽车，它一定是非常粗糙的，对不对？马车可能很舒服，抗震性能非常的好，它已经能想到的部分都尽善尽美了。而汽车，它可能会掉链子，它要加油，它可能滴里呱啦的，没什么防震，它一开始是有很大缺陷的。所以，如果你直接比较舒适程度，可能汽车未必比得上马车。至少第一辆汽车是这样。
但是它仍然是碾压性的优势。为什么？因为它是一个断层式的创新。所以当你评价GPT的时候，你必须分清楚哪些是我刚刚说的这种，它只是因为一个新的东西没有来得及做得好，哪些是它就不可能做得好。但这牵扯到第二个问题，还是那句话，我们大众其实过去已经被这种新技术的轰炸式的新闻弄得神经疲惫了，每个东西都告诉我能够改变世界。3D打印改变世界，5G改变世界，比特币改变世界，对吧？每一个东西它都会告诉你改变世界。
关于元宇宙的新闻言犹在耳，今天已经没有人提了。你当时也说它改变世界，哪改变了，对吧？所以这种狼来了的心态是非常真实的。我们今天凭什么说GPT是不是又改变世界，还只是我们这帮人在认知上……我得承认，你不可能百分之百的准确。你有的时候弄错了，你有的时候以为它改变世界，其实什么事也没发生。这种错误的概率是存在的。但是我仍然个人觉得GPT可能比刚才说的那些东西都更有可能是真的。
我不能说百分之百，但更有可能是真的。它的缺陷包括两个层面的缺陷。一个层面是它的表达是不是，用你的话说，to the point，或者是不是足够精准，这个东西是很容易通过模型不断地训练改进的。另外一个缺陷，它是不是胡扯，在学术上被称作fact grounding。它的表述是不是基于真实的事实？这其实是一个非常有趣的技术问题，因为我们今天知道GPT也好，GPT4也好，它都是一个封闭模型。
什么是封闭模型？它运行的时候并不实时查阅任何背后的数据库，它只是在复述在训练的时候记住的东西。如果在训练的时候这个事情还没有存在，它就永远都不可能知道。但这不是本质缺陷，这只是碰巧，因为从OpenAI公司的角度来说，它总得推出一个什么东西，而这个东西，你要让它查阅现实的数据库，你需要跟很多领域去谈，对吧？你要让它查阅法律数据库，你总需要去跟一个法律数据库的供应商去谈一个什么deal出来。
或者你要让它实时检索网络，你总得让它真正部署到一个可以实时检索网络的服务器的层面，服务器本身要处理大量的跟现实网络的交互，这不是很容易的事情。
Bing是一个很好的尝试，Bing把GPT置入到搜索引擎之中，但是又同时能够实时检索网络。但是你可能更需要更专业的，比如你需要他能够回答医学问题的时候，不是靠你的记忆来回答，而是你真正去查一个真实存在的医疗文献出来。这是我们作为消费者一个很自然的需求。
而这个东西实现起来是需要时间的，因为它牵扯到跟现实的已经存在的知识信息、网络上存在的资源有一个沟通的过程，这个事情不会一夜之间发生，但它也没什么技术上本质的障碍存在。所以我几乎可以肯定在未来一两年内，你会看到越来越多的基于真实数据的、做好fact grounding的GPT，那个时候GPT就不只是靠它训练时候记住的东西来回答你了，它就变成一个中间的layer，它负责理解你的问题，输出一个答案。
但是它背后的事实来自于一个更真实的，比如说法律文书的数据库，或者一个医疗资源的数据库或者等等。那个时候它胡扯的几率就会大大降低。这件事情并没有很困难，我相信会很快发生。
王磬：而且其实你说让我想到它跟人脑的结构也是有点类似的。
比如我在跟你进行对话的时候，如果我不是同时在用互联网，我在跟你进行对话的时候，我所告诉你的所有的东西，其实我在这个点之前，我已经接受到那些东西，我不可能在跟你对话的时候实时去查询。比如今天天气怎么样，香港的人口是多少，我没有办法实时去查询这样的东西。
如果我现在跟你讲了这个东西，只是因为我之前就已经知道了，所以从那个程度上来说，ChatGPT如果真的如你所说，它能够在接下来一两年内，不光实现理解、回答你的问题，这样一个需要一定的逻辑能力，需要一定的这种交互能力去完成的动作，它同时还可以在交互的同时进行一个无限的连通，相当于让你在跟他对话的时候，你可能获得的信息比你跟一个这方面的专家获得的信息更及时、更准确。
如果真的是这样的一个情况，你会觉得这其实是会让人感觉有一点焦虑的时刻吗？
木遥：首先，这不如果，这是必然，因为这个事情已经发生了。今天的Bing就是微软新的搜索引擎，我们一般叫new Bing，但是读起来有点怪。它就是这样一个东西。它是实时教育，只不过它因为服务上的限制，它没有办法查阅的非常多，因为对服务器压力很大。它也在不断优化这件事情。
特别是如果你用中文，用new Bing效果并不是特别好，因为由于各种法律上的众所周知的原因，它中文所能搜索到的东西是非常局限的，可能局限于百度知道这样的来源。而这些来源本身的质量你我都知道是有问题的。但是如果你用英文的new bing，今天事实上是已经在回答你的问题的时候实时调用互联网了，已经不是在靠它的记忆在回答了。但这只是一个通用的搜索引擎，以后会有越来越多专用搜索引擎出现。
我跟它聊的时候，它去实时调用一个真实的专业数据库。而这件事情在技术上没有任何难点，它唯一的困难是你得真的去做这件事。得有一堆工程师负责把这些该连的接口连起来，这是需要花时间的，而且需要对方答应给你提供数据的提供商得愿意让你去访问。但这些问题都是可解决，它没有技术上的本质障碍。所以归根结底，GPT它就是一个中间的过渡层，它背后是真实的、大量的、无限的网络知识。
它前面面对的是我们这样的人人，它起到的是我一开始一个作为对话的服务。它负责把结构化的知识翻译成我们人类可以接受的自然语言，又把我们人类的自然语言问的问题，翻译成从结构化的知识中提取信息的这么一个action。这件事情会不会让你焦虑？我打算一开始就说了，它当然应当让你觉得，咱们不说焦虑，至少让你觉得做好准备，否则你就会在真正的变革发生的时候措手不及，因为这件事情不是万一会发生怎么办的问题。
它是正在发生，并且很快就会。因为这个东西它带来的效率提升是碾压式的，所以它速度会非常快，就像是当年汽车取代马车一样。它毕竟是一个代际之间的差距，有点像我们中国人刚刚接触到洋枪洋炮的时候，差距是你还是红缨枪，对面已经是火枪火炮了。那个差距是你没有办法抵抗的，一触即溃的。所以这个过程本身会非常快。而且你必须做好准备，不能还在想说这只是未来，它万一可能会发生，它不是万一，它一定会发生。
王磬：我就把这个问题再推得更极端一点，因为我觉得在科技发展期，其实大家一直以来也都会聊到科技奇点的问题这个概念。当然你可以给出个更好的解释。我非常肤浅的解释是，根据科技发展史，有一类观点认为，在某一个点，人类可能会接近一个使得现有的文明完全被科技发展所颠覆的这样的一个事件点。这个事件点某种程度上它具有一定的科幻的色彩，可能在一些这种科幻电影中也曾经不断的被描述。
但是在现实生活中，到目前为止，它仍然是作为一种假想而存在。在你看来，你觉得这会不会是一个人类发展史上的一个奇点时刻？
木遥：首先，如您所说，奇点的东西不是一个有共同接受定义的东西，所以你很难精确地说什么今天早上，我们醒来，发现世界怎么样了。这是一个文学性的比喻。你并不会真的找到那么一天或者一个时刻。但是你要说这次的，咱们不说它是不是工业革命，它至少是一个不管什么意义上的革命。它有没有特殊性？有的。
我们人类在过往的工业革命史上对机器有一个非常本质的优势。我们虽然在体能上远远输给了机器，但我们的脑力从来没有输给过机器。而我们一般认为人类的能力不外乎就是体力加脑力，或者我们的肉体加上我们的灵魂。如果你在脑力上也被，至少在很大一部分层面被机器取代了，这就不只是你被机器取代了一部分的问题，是你必须要严肃地问问自己，我还剩下什么是机器做不到的？这不是一个很容易的问题。
我们必须理解，过去两三百年的现代社会，是被这样一种基本认知所塑造的。人类的价值体现在他的脑力上的价值。一个小孩身体非常好，但是脑子很笨。另一个小孩身体素质一般，但脑子很好。我们一般认为后者更有出息，但这个认为是哪来的？这并不是自古以来就有，这就是工业革命的产物。工业革命让我们觉得脑力比体力在社会价值的鄙视链上更高，而它更高的唯一原因是它是我们人类的优势的体现。
我们再把话题再推得极端一点，我们想想，有三个小孩，一个小孩身体倍儿棒。一个小孩脑袋非常好，会做奥数题。一个小孩长得非常好看，他身体也未必有多么大的体力优势，但是他就是长得非常好看。我们今天的家长会觉得哪个小孩最有出息？我们会认为脑子好的小孩最有出息，对不对？学好数理化，走遍天下都不怕。第一个小孩是最没出息的，他只能去送外卖。
第三个小孩他可能也能挣很多钱，他长得很好看，但是今天的价值体系认为你靠脸吃饭，不是说不可以，但他好像有点不是正道，或者不是我们家长会希望小孩子走的道路，对不对？你今天问一个家长，希望小孩他是做工程师还是去当网红？他可能会觉得网红也挣很多钱，但是他仍然希望，如果你能做工程师，还是做工程师好。但这个价值排序，它不是天上掉下来的，它也不是自古以来就有的，它是工业革命的产物。
工业革命让我们觉得脑力是最高级的。脸也挺重要的。你要只有肌肉，那就好像等而下之。但假如你的脑力也比不过机器，这个价值体系还能不能维持？显然就不能了。你没有任何理由认为聪明是一种优势。因为你反正也不如AI聪明。当然，今天还不是这样。今天我们仍然比AI聪明，但如果AI进一步变得更强大的话，你就没有AI聪明了。那时候，我们人类的价值体现在哪里？
如果你还是长得很好看，你是当网红，如果你长得不好看的，你存在的意义是什么？这是一个非常本质的存在主义的问题。而这个问题我没有好的答案。因为我们人类没有经历过这种时刻，我们人类没有经历过在方方面面所有的维度上都比不过机器的时刻。所以把它叫不叫奇点，我不知道，但它确实是一个崭新的、没有存在过的一个状况。
王磬：另一个问题也是刚才你提到历史上的这种情况。所以，如果比如要帮助我们理解今天的情况到底有多特殊，你会觉得在人类历史上曾经也是出现过的、这些对世界格局，对人类的发展进程产生了深远影响的技术革命，你会觉得有哪一次可能会是跟这一次可以相提并论的吗？
木遥：这两天会在网上看到很多比喻。很多人说周四的微软发布会是微软的iPhone时刻，相当于苹果在2007年推出第一代iPhone。
也有人认为这次的革命的幅度会超过智能手机的革命。我们这代人其实最近的两个革命，一个是互联网革命，大概诞生在我们这代人刚出生的时候。一次是智能互联网或者是移动互联网，一般被认为就是乔布斯那次著名的发布会，2007年的时候。这是我们能够拿来做参照系的东西。当然我刚刚说了，这两次革命再怎么说，已经发生这两次互联网加上智能手机，都没有触及到我们人的存在意义的问题，对不对？
你并不会觉得有了互联网，你人就没有存在的意义了。但是当这世界上大部分人，他会问自己，我在这个世界上能够干什么？如果这个问题没有答案，就算我们社会结构因此适应了我们，给那些找不到工作的人发一个今天在西方讨论很多的UBI，就是基本生活补助，或者给你一个基本的钱，让你不至于死掉。即使这样，这是不是解决了问题？
其实没有，因为我们人毕竟不是只能靠混吃等死就能过一辈子的生物，我们需要有一个存在感，我们需要有一个存在意义的自我追问。哪怕是可能不知识分子的人，哪怕是一个普通的日常的老百姓，他也需要有某种意义感。我们都听过那样的故事，就是一个人退休之后，或者一个妈妈发现她的儿女长大成人，不再需要她的建议之后的那种失落感。为什么你会觉得失落？因为你觉得我希望成为一个有用的人，对不对？
有用并不一定体现在我挣工资，但我希望别人认可我的存在，我希望我以某种方式在跟别人交互的时候发挥出某种价值。
但如果我不但身体的能力比不过机器，连作为一个可以对话的人所能提供的价值都比不过机器的时候，它对人类的心理上的冲击是无可比拟的。你很难跟互联网或者跟汽车或者跟飞机的比较来做衡量，因为那些东西并不触及这个层面，而这次是真正触及了这个层面。
你作为一个普通人，你既不特别漂亮，又不特别聪明，你不能够成为那些去开发AI的工程师，你只能用它。你工作的意义是？你生活的意义是什么？这是一个真实存在的问题，我没有答案，但是它确实是我们人类第一次碰触到这样的问题。
王磬：我想反向来问一个问题，我们刚才其实谈了很多GPT可能带来的技术变革，它能做什么，现在能做什么，未来可能能做的更多。从你的角度来看，你觉得如果我们要去定义ChatGPT，它不能做什么，你会怎么定义？
木遥：我们都知道，在过去的二三十年里，我们社会的家庭观念，或者我们社会关于家庭劳动的价值发生了一个很大的转变。在上一辈人的观念中，比如假定你是个家庭妇女，你的工作是不被认可的，对不对？
老公出去挣钱，他觉得他在挣钱养家。老婆在家里工作了一整天，甚至不是一周工作5天，是工作了7天，但她在家里收拾东西，洗碗做饭，照顾好小孩。这个工作不被认为是挣钱，不被认为是平等的劳动。所以老公可以回来往床上一躺。我在外面挣钱挣了一整天，好累，你给我干什么干什么。
过去20年，由于女性主义思潮的兴起，由于社会更全面地进入现代化，我们开始意识到，这个观点发生变化了，我们开始意识到家庭劳动也是平等的劳动，这部分劳动很大程度上是不可取代的。但它再怎么说平等，它也只是我们把本来不被承认的劳动价值提到了一个层面上。
AI的出现会让变化更剧烈的，我甚至都不能说推动，而是把它会打乱。为什么？因为你会发现，它会把这两件事情的重要性调过一个个来。
AI仍然不能帮助你洗碗，它仍然不能帮你照顾小孩，伺候老人、收拾家。某些部分可以，比如扫地机器人可以帮你扫地，但是很多事情今天仍然大家做不了。最简单的，你想把衣服都叠起来，这个事情你雇一个机器人来干，仍然不是马上就会发生的事情。传统上认为是成功人士的，每天出入于写字楼的西装革履的老工作，干的事情反而会变得毫无意义。他的工作既挣不来钱，也挣不来意义感，因为他做的事情，AI都能做了。
我们的不管是家庭观念也好，劳动价值也好，会发生什么样的变化，我自己不知道，但是它是一定会发生的。因为你刚问我什么样的工作仍然不能够被取代。这些东西仍然不能被取代的。那些照顾人的部分，那些在情绪上，在肉体上，在一切人与人交流的意义上所付出的劳动，都仍然是不能被取代的。
当然，今天ChatGPT已经可以跟你聊天了，所以你可以跟它倾诉，甚至可以跟它谈恋爱，在某种意义上来说，但是它仍然不能取代你真实人与人之间的care对不对？但它可以取代你在白天上班的时候看起来光鲜的白领。所以，它会非常非常深刻的影响我们整个社会的对价值的排序。我们本来被看作比较低级的所谓的家庭劳动，或者是那些不挣钱的劳动，会变成人类真正的安身立命的东西。
而那些传统的被认为是高级的professional的挣钱养家的劳动，我也不知道像什么样，但是它会逐渐消散掉。
王磬：天哪，普通人到底要怎么办？
木遥：但是我这里来把他说的政治正确一点。我们这里说的好看，不是弄一张网红脸那种好看，而是更抽象的leadership，或者是影响人的能力。
王磬：克里斯玛。
木遥：对，克里斯玛，这个词比较政治正确一点。
不是单纯搞一个韩式半永久就可以搞定的，它需要一些更抽象的东西。但确实这个东西对AI来说是最困难的。因为说老实话，当你说我们应该提拔最聪明的，其实难道聪明不是也是一种类型上的生殖彩票？为什么？聪明作为天生的天赋作为评价人的标准就好像很合理，而皮囊也是一个DNA矩阵，就不合理？你仔细想想看，这件事其实也没什么必然性，它也是一个工业革命建构出来的观念。所以这个观念既然可以被构建出来，它也是可以被打破的。
你没有理由认为100年后的人的仍然把聪明排在皮囊之前，因为它其实也没有什么特别本质的原因。所以，克里斯玛这个词会好一点，这个东西可能是如果你今天想自我改造，从自己身上做起，可能着手都比较有效的途径。锻炼自己的影响力，锻炼自己的沟通能力，锻炼自己build一个team的能力，锻炼自己，用美国人喜欢说的那套MBA的词make things happen的能力。这个东西可能仍然是真实的。
所以我觉得第一个反而不是一个段子，它是一个确实存在的问题。
王磬：现在听完了今天这两个小时的科普也好，解释也好，就是自己觉得确实我自己会需要更多的消化一下。我觉得不光是它作为这种技术上的基本的结构，也包括它可能会带来的这些社会上的影响。如果往深一点去想，它真的是会重塑社会的方方面面。我平时很少讲这个话，因为我觉得这是一个非常空的话。哪件事说白了，任何一个小的这种进步，它都有可能达到这样的一个目标。
但是我在今天听了这两个小时之后，我确实会有这样的一个感觉。如果我稍微往深去想，它确实是会重塑我们社会的方方面面，从我们的工作，从我们休闲的方式，我们跟人打交道的这种方式，我们的教育，我们对于社会中什么样的角色是更有优先级的或者更本质的。我们作为人之所以为人的这种更存在主义的一些思考，我觉得它确实是一个非常非常值得去实时的关注、保持更新的一件事。
最后我想问一下木遥老师，你个人有在为这一场变革的到来做一些个人层面的准备吗？
木遥：我觉得我能够做的最目前来看最重要的事情就是，我得理解它发生了什么事情。即使我自己程序员出身，所以理解起来可能比一般人容易一点，我也仍然觉得要跟上每天新的东西的冲击是一个很困难的事情。真的太快了。
这周二ChatGPT4发布的那天，推特上有个段子说3月14号那天刚好是π day，所以Google和OpenAI都推了新的东西出来。网上有段子说，2023年3月14号是人工智能发生史上重要的一年，它的意思是，那一天发生的事情就像平常一年发生的事情一样。你想跟上这个速度是很困难的事情。所以我觉得我努力跟上，努力了解它的潜力，努力了解有什么事情可以自己上手去做，这也很困难。
我也周围有很多朋友在做类似的事情，我们每天会交流有什么新的工具出来，这些东西可以试着用一下。它的好处是你真的很容易上手。以前你要一个心动技术出来了，你要把手头既有的东西放下去学它是有点心理障碍的。这东西只要你有点技术上的积累，要上手没有很困难。你可能找一个周末，花上4个小时，就可以做出很多很多东西出来了。这也不是开玩笑，GPT4发布的时候，他照了自己纸上的草稿，交给GPT。
几秒钟之后就生成了一个网站出来。大家说OK，你既然说得这么厉害，我来试试看。然后一夜之间，真的是一夜之间。Twitter上就出现了用GPT4来做一个小游戏，用GPT4来做一个APP，用GPT4来做一个互动性的服务。都出来了。这种时候，一方面会让你觉得焦虑，大家动作好快，另一方面也会让你觉得有信心，因为你觉得好像也没有很困难，这么多人几个小时都做出来，我应该也可以。所以上手是比较容易的事情。
积极地投入进去可能是我今天能做的最容易的事情。当然，你可能会问，我不会写程序，我连上手都不会怎么办？我也不知道。这不是一个很容易回答的问题，但是对我来说，跟上技术浪潮本身既有挑战性，但同时还挺有乐趣的。
王磬：我问一个也许普通人也能够有一定参与感的问题。比如，如果作为一个不是特别有技术背景的人，想比较快的、比较及时的去跟上现在的一些信息，你有什么推荐的工具或者信源吗？
木遥：最简单的办法就是了解这样一个总规则。第一，这也是老生常谈了，少看简中社交媒体。一方面它有一个现实的信息壁垒的问题，大家都知道的问题，我们就不展开了。第二，反正简中大多数是转述，你还不如直接去看源头，只要你有看英文的社交媒体的能力和技术手段，你就应该直接去看源头，会比较快。第三，多看一线的资浅的但是活跃的工作人员的讨论，少看big names的讨论。
因为越是功成名就的人，不是说他们的观点一定是错的或者落伍的，但他们不在一线工作的。所以他们第一还未必有那些名不见经传的一线工作人员的知识来得更新。第二，他们会很容易受到他们既有成就的影响。比如我们大家都知道一个非常著名的人工智能专家，图灵奖获得者Yann LeCun，他是一个非常重要的专家。但是他在过去几个月里面一直在连篇累牍地写为什么这东西不重要，或者这东西方向是错的。
这是不是意味着他已经彻底被时代抛弃了？那也不一定，但是他确实有他的成就在，他觉得这个方向价值不如大家想象那么大。但是他最近好像渐渐也开始承认这个比他想象的要更有价值了。而这种错误，一线的研究人员是不容易犯的，而一线人员很多人是非常活跃的用社交媒体的。所以最简单的办法就是你去推上关注那些今天正在Berkeley，今天正在MIT，或者今天正在OpenAI，今天正在deep mind做这个东西的人。
他们很多人是保持非常活跃的社交媒体的曝光的。去关注他们，去看他们的讨论是最容易跟上浪潮的办法，而且他们会彼此争吵。你通过他们之间的争论，就能够更容易获得很多insight。
我觉得其实我们都在面对一个非常大的未知，而这个未知很可能会超越我们之前的未知。我们之前的未知会带来一种想象，而这个未知会带来一种恐慌。我承认这一点，而且我也非常理解这一点。
但是我自己从我自己的社交媒体上的活动所后面收到的反馈，最大的感受是很多人仍然在用一种看热闹的方式来理解这件事情。他们可能会借机抒发一些焦虑，甚至借机抒发一些不满。比如，很多人会借机讨论为什么我们中文的语料不如英文的语料好，因为blah blah。这些当然都是非常真实的情绪，但是有的时候会让你觉得很多人在用一种情绪化的方式在看待这件事情。
我们当然都知道今天的互联网本来就是这样，每件事情都显得像是一个drama一样，大家会用一种看热闹的方式来理解我们周围生活中的每个变革。但这件事情，我觉得它比一般意义上的表面的drama要更深入一点。所以它值得你去抛弃成见与抛弃膝跳反射式的情绪化反应，而去更仔细地理解一些事情，包括理解一些平常可能不会问自己的问题，比如说什么对你的人生来说是最重要的。
如果今天你对人生的理解被证明是要被推翻了，或者至少是要被潮水冲破了，你将以什么样的方式来重塑你对人生的观念？或者再问的极端一点，这种问题一般人不会每天问自己，如果你今天可以选择你人生的一个purpose，这个purpose会是什么才最让你觉得，即使你的工作被AI取代了，它也仍然能让你觉得你在这世界上安身立命是有意义的。
本篇经授权转载自不合时宜buheshiyi20（ID：huanqiukexue），如需二次转载请联系原作者。欢迎转发到朋友圈。