没想到快到年底，OpenAI还能再以一己之力搅动行业格局。在不同的叙述里，过去几周在OpenAI发生的一切是又一场硅谷商战，是“乔布斯”时刻的重演，是天才和商人之间的水火不容。但这也是围绕人类目前最强的AI展开的路线之争，是可能决定人工智能发展走向、决定人类未来命运的逢魔时刻。
一条路线认为，我们应该毫不犹豫地把最聪明的脑袋和最充足的资金砸在AI上，无条件地加速技术创新，哪怕创新的结果要以彻底颠覆当今的社会秩序为代价——这个进程越快，我们的阵痛期就越短，就越能以最小的代价走向最好的未来。而在另一条路线上，AI是一个能力强大但道德混沌的造物，它敌我难辨，可能统治人类，也可能大开杀戒，在弄清它到底是什么之前，我们最好还是把它关在盒子里。
在这篇文章里，我们将会回顾OpenAI高层的分裂，介绍这两条路线上的代表思想：“有效加速主义”和“超级对齐”，浅浅聊一聊人类和人工智能对线造成的最差的结果是什么。
11月17日，OpenAI发布声明，现任CEO、OpenAI的灵魂人物Sam Altman被董事会开除，而Altman本人半小时之前才得到通知。几小时后，OpenAI董事长、联合创始人Greg Brockman公开宣布，自己也已经辞职。两个核心人物闪电离职，这家估值近900亿美元的AI明星公司的未来在一天之内变得晦暗难明，关于董事会分裂的阴谋论层出不穷。
接下来的两周，事态的发展再次出乎所有人意料：OpenAI迫于种种压力重新和Altman谈判；谈判破裂，拥有OpenAI 49%股份的微软宣布刚离职的Altman和Brockman将双双加入微软，领导新AI团队；OpenAI员工集体反水，表示要跟两个离职的大核心一起去微软，其中包括刚上任的临时CEO Murati；Altman宣布将重返OpenAI，并成立一个由微软为代表的新董事会。
Altman被开除的原因至今成谜。董事会只是在公开信中提到，不再对Altman的领导能力有信心，Altman本人在近期接受采访时也依然拒绝透露相关细节。围绕Altman去留的激辩，只是OpenAI分裂的外化。这种分裂并不会随着Altman的去而复返而弥合，而是会成为OpenAI在今后的发展中不断碰到的价值观之壁。
OpenAI的第一个分裂之处：坚持非盈利的董事会，和不断吸金的CEO。
OpenAI成立的初衷，可以说是极端理想化的。2015年，Altman，马斯克，Ilya Sutskever，Greg Brockman，和另外几位世界级的人工智能领域科学家一起创立了OpenAI，他们是最早发现人工智能潜力的一批人，也是最先意识到AI威胁的人。因此在成立之初，他们就想好了要成立一个“为每个人创造福祉而不是为股东盈利”的公司。
他们的目标是开发匹敌或超越人类智能的机器，也就是通用人工智能（AGI），并且保证它是安全的。这也就是为什么——虽然听起来难以置信——市值将近900亿美元的OpenAI至今仍是一个非盈利组织。之后是沉默的四年，OpenAI在沉默中烧掉了大量资金，经济压力也逐渐增加。
Altman曾担任硅谷传奇加速器Y Combinator的总裁，见过太多优秀的初创公司因为金融问题被老牌公司挤垮，2019年，Altman以CEO的身份加入OpenAI，成立了负责盈利的子公司Open Global。据《太平洋月刊》报道，目前Open Global的雇员数量已经占据OpenAI总人数的99%以上。
第二个分裂之处：快速发展的AI技术，与无法预测的安全问题。OpenAI的创始人之一、首席科学家Ilya Sutskever，和Altman之间经常就AI的安全问题产生争执。Altman更像是商人，Ilya则有着漂亮的学术背景——他师从“深度学习之父”Geoffrey Hinton，而后者在今年春天刚刚从谷歌辞职，以便能更自由地向公众谈论AI的威胁。
有报道总结，Ilya和Altman之间最大的分歧在于，在继续前进之前应该在多大程度上理解自己正在创造的东西。Ilya认为，他的首要任务是解释AI的行为，并找到一种引导AI、让它们和我们的目标和价值观保持一致的方法，而Altman在面对安全和伦理问题时更为激进。
面对即将出现的AGI，产生了两派主流应对思想，分别是“超级对齐（Superalignment）”和“有效加速主义（Effective Accelerationism，e/acc）”。
#超级对齐：保守派打造屠龙刀
Ilya很清楚，他们面对的是一个比人类聪明得多的智能体。“它就像一个18岁的孩子……需要引导和控制”，Ilya说，“超级智能的巨大力量可能非常危险，可能导致人类丧失权力，甚至导致人类灭绝。”今年七月，Ilya带头在OpenAI内部发起了一个名叫“超级对齐”的项目，要拿OpenAI至少20%的算力，在接下来四年内解决这个问题（当然，这只是希望，Ilya自己也不知道能不能成功）。
#有效加速主义——不惜一切地前进
“有效加速主义”听起来就刺激多了，也好理解多了。有效加速主义者认为，人类目前面临的大多数问题，都能通过技术进步和不断增长来解决，通过控制增长和倒退来解决问题的先例在历史上几乎不存在。人类应该无条件地拥抱技术创新，这股力量是无法阻挡的。当“加速”造成问题时，我们不能减速，而是更快更有效地加速，把过渡期缩短。
不管是超级对齐还是有效加速主义，他们都相信同一件事，那就是AGI将在有生之年诞生并颠覆我们的社会。在Altman的描述中，AGI将会永远地改变现在社会的分配模式，在未来，算力会成为最有价值的商品，因为算力能驱动AI“做任何事情”。如果有钱人买下所有的算力，那么AI就会按他们的意志来行动，穷人会更难翻身。
Altman认为，解决这个问题的办法是，地球上的每个人每年都获得AI总算力的80亿分之一，他们可以用这80亿分之一的算力做自己想做的事，设计建造更豪华的家，或者把自己的算力交易出去。曾经获得图灵奖，现任Meta首席人工智能科学家的Yann LeCun对未来的预测也比较乐观。
他最近在一次圆桌会议上谈到，智能与控制欲之间没有必然联系，“想象一下未来10到20年，AI会在日常生活中协助我们，它们可能比我们更聪明，但我们指导它们，它们服务于我们。智能本身并不意味着渴望控制”。
LeCun表示，我们完全可以设计一个极为智能但不具备控制欲的系统。为了实现这一点，这个系统必须是开源的，训练方式必须是众包的，而不仅仅是由OpenAI、Google、Meta这样的公司专有。而开源，也是OpenAI成立之初就定好的规矩。关于人工智能的争论还在继续，但不管是Altman还是Ilya，甚至是OpenAI，都不是这个故事的主角，正在卷积网络中默默酝酿的那个AGI才是。