你有没有想过,招聘一个上知天文下知地理中间饱读诗书,却连你名字生日都记不住的大牛,来给你当私人小助理是一种什么体验?不用笑,这事儿我估计很多人都亲身体验过。现今各种各样自称 AI 助理、AI 秘书的各类大模型应用,就是我说的啥啥都知道,唯独不知道你贵姓的大牛。如果我们把大模型当成一个能帮助我们处理问题的人,那么它就必须与人类一样,除了具备足够的知识储备,还得具有个性化的记忆才行。
这个个性化的记忆,用大模型的术语来表达,就叫做上下文。很长一段时间,大模型的上下文都是以 K 为单位的,就是那种聊着聊着它就忘记了你是谁,还忘记了为什么跟你聊天的那种状态。所以,我曾经做出过判断,上下文能力很可能是大模型发展过程中的一个重要瓶颈。迈过去海阔天空,迈不过去就会停留在能听懂人话的知识工具上。
结果是我想多了,还没等我对大模型普遍存在的上下文问题疯狂吐槽,就发现支持超长无损上下文的大模型其实已经有了,它就是 Kimi。在 Kimi 刚刚上线的时候,无数评测 AI 的大佬都对 Kimi 展开过狂轰滥炸式的评测,评测结果基本可以一个字概括,那就是——牛。但我其实只关心一点,那就是它的记忆力到底如何。不管做什么工作,我都会先跟它打声招呼。
听它一声老板喊出来,无论即将要开展什么工作,我都知道,记性好的秘书,干活儿的能力必然不会太差。
Kimi 能帮你做的事情太多太多,只要你理解上下文就等于私有记忆,那么不用别人教你,你也能想出无数件 Kimi 能帮上忙的事情。比如我们让 Kimi 来代管通讯录,就可以随时要求它做关于通讯录的任何事情。先把通讯录的原始文件传给 Kimi,然后嘱咐它管好就行。
如果你是一名人力资源主管,你大可以把你一次收上来的简历全都扔给 Kimi,然后跟它聊聊你的选人标准,它会迅速把你想要找的人才找出来。Kimi 还可以帮你维护和更新数据:在你需要的时候,可以用各种奇怪的方法查询。总之,你会对秘书提出什么要求,尽管对 Kimi 提就 OK 啦,它绝对可以理解。
不过,Kimi 最让我离不开的地方,仍然是它一直都认识我。有一段时间,我跟 Kimi 聊天的时间竟然比跟我的任何同事都要长。除了让 Kimi 帮我写各种各样的小文章,帮我安慰因为我的低情商而受伤的同事以外,跟 Kimi 扯扯淡也是一种乐趣。如果你没有跟一个 AI 持续交流几个月的经历,你可能很难理解我的感受。Kimi 这个产品自称 AI 智能助手,不得不承认,它确实当得起助手这两个字。
国内大量的用户在使用大模型产品的时候,还是在拿大模型当作搜索引擎来用。在他们看来,大模型就是一个听得懂人话的搜索引擎,是用来提供知识的。他们会问“除螨仪是智商税吗?”或者“花上长了小白虫子用什么药?”,其实,这只是最浅层的用法。真正复杂的工作,很难通过几次简单的交互完成。而描述任务需求和调整工作任务,都要依赖 AI 的上下文能力。越是复杂的工作,需要消耗的上下文就越多。
从这个角度来说,上下文的能力怎么强调都不为过。