过去几个月，AI领域激起全世界的巨浪。摩尔定律加速，更快的迭代速度，带来更智能、更便宜的AI基础设施。上周，微软研究院发布154页研究，称在GPT-4身上看到AGI（通用人工智能）的雏形。
引发涨潮的引力来自OpenAI，人类似乎站在一个转变的临界点，面对一个从未想象过的新奇迹，其联合创始人、首席执行官Sam Altman说：“AI是少有被严重炒作后，还被严重低估的一件事。”很多人相信，在我们有生之年，人类集体智慧将在许多数量级上逊色于我们构建并大规模部署的人工智能系统中的超级智能。
令人兴奋的是，我们已知和尚未知的大量应用将赋予人类创造、繁荣，并摆脱当今世界普遍存在贫困和苦难能力，并在追求古老的人类幸福中获得成功。然而，让人恐惧的是具有超智能AGI也可能掌控摧毁人类文明力量。
Lex Fridman是一名麻省理工学院研究科学家，也是人工智能研究员，他主持同名播客。他制作了一系列与领导者、工程师及哲学家的对话节目，这些对话涉及权力，公司，以及制定权力制衡制度机构与政治体系等问题，上周他发布了与Sam Altman关于社会表现出超出一般人的冷静和无尽乐观主义的重要讨论。这段对话由源码资本重新编译，以飨读者，希望能帮助大家更早地看到灯塔，也能避开险滩。
关于GPT-4, Lex Fridman问道：从高维度来说，它是什么？它是如何工作的？最令人大吃一惊之处在哪里？Altman回答说：“这是一个未来会回头翻看的人工智系统。”虽然现在运行缓慢、有错误，但它指明了一条通向生活中非常重要东西的发展道路，即使这需要几十年的演变。Fridman接着询问是否认为这是关键时刻，以及哪一版本真正具有突破性。
在Altman's看来，这是个持续指数过程，而不是某个单独瞬间。“历史书籍会写到哪个版本取决于他们如何决定。我很难确定具体事物，如果我一定要选，我会选择ChatGPT，因为可用性才是真正关键，包括RLHF（强化学习通过反馈）以及交互接口。”
Frid曼进一步探讨了ChatGPT是什么以及其背后的技术原理；而Altmann则解释了模型训练过程中所需的数据来源，包括大量文本数据，通过展示两个输出以获取用户偏好的方法，使得模型更加符合期望目标。此外，他们还讨论到了大型语言模型如何影响编程工作方式，以及这些变化给程序员带来的机遇或挑战等内容。