最近,钢铁侠埃隆·马斯克带着自己的新女友格里姆斯出现在了公共场合。马斯克穿着白色西服,非常正式,女朋友格里姆斯则是打扮非常哥特。格里姆斯是一位歌手,媒体报道这两个人是因为一个关于人工智能的笑话才走到一起的。
但是媒体并没有解释这个笑话,一是这个笑话解释起来颇不容易,二是这个笑话很烧脑,以大部分人的智商,可能听不懂这个笑话。这个笑话其实只有两个字:Rococo Basilisk。
当然,看到这两个字,你是不会觉得这是个笑话的,那么Rococo Basilisk是什么呢?新女友格里姆斯在2015年的歌曲《Flesh Without Blood》的MV里面,出演了一个角色,叫做Rococo Basilisk。她藏在MV里面的这个梗如此的高冷和隐晦,大家都没看懂。直到三年后的2018年,马斯克才意外的发现了它。
要看懂这个梗,不仅需要懂艺术史,还要懂人工智能,而这两个技能树基本是不重合的。马斯克恰巧是为数不多的两样都懂的人。Rococo,翻译为洛可可,是一种18世纪产生于法国,流行欧洲的艺术风格。普遍被认为是晚期的巴洛克风格。
Basilisk,翻译为巴西利斯克,是欧洲传说里的蛇类之王。Rococo Basilisk本身是没什么意义的,它之所以是个梗,在于它是对于一个叫作Roko's Basilisk的思想实验的揶揄。
Roko's Basilisk,是一个叫作Roko的网友,在一个叫作LessWrong的社区上提出来的一个思想实验。这个主张自由思考和公开讨论的社区,对各种思想的容忍度非常高。但是Roko一提出这个思想实验,网站管理员就无比的惊恐,把这个思想当做“禁术”,并且对于所有相关内容的讨论采取了斩草除根的删帖态度。
这个思想实验是怎么回事呢?我从浅到深来讲述一下。假如有一个来自高科技文明的外星人找到你,给你两个盒子。其中盒子A里面肯定有1000元,盒子B里面可能有100万元,也可能是空的。外星人给你两个选项:选项一:同时拿走盒子A和盒子B;选项二:只拿走盒子B。你会怎么选?
相信脑子正常的人都会选择第一种,因为选择第一种能够保证你获得1000元以及盒子B里面的东西。而选项二,没有1000元保底。
假如同样的外星人,同样给你这两个盒子,但是这个外星人,有一台具有超强预测能力的电脑,而这台电脑从来没有预测错误过。这台电脑在一个星期前对你今天是选择选项一还是选项二,进行了预测。如果电脑的预测结果是选项一(你会取走A和B两个盒子),那么外星人一个星期前就不会在盒子B里面放任何东西;如果电脑的预测结果是选项二(你会只取走盒子B),那么外星人一个星期前会在盒子B里面放100万美元。
这个时候你会选择选项一还是选项二呢?如果你选择选项一,取走A和B两个盒子,那么这台电脑一个星期前肯定预测到了你会选择选项一,这样B盒子里面就什么都没有,你只会获得1000元。如果你选择选项二,只取走B盒子。那么电脑一个星期前肯定预测到了你会选择选项B,这样B盒子里面就会有100万元,你就会获得100万元。
但是这台电脑这么聪明,肯定能够想到我会进行“第2.2层思考”,知道我只会取走B盒子,所以肯定还是会在B盒子里面放100万;可是如果电脑一星期前的预测结果是你会取走A和B两个盒子,从而使得B盒子里空空如也。
其实思考到了这里,已经变成了一个关于自由意志、宿命论和因果论的哲学问题了。假如同样的外星人,同样给你这两个盒子,并且同样告诉你关于一星期前电脑预测影响盒子B内容的规则,然后外星人把盒子A打开,给你看了一下A里面的1000元钱,然后又把B打开,展示给你看,盒子B是空的。
这个时候,你是选择拿走盒子A和盒子B,还是只拿走盒子B呢?其实不是这么简单。这个拥有先进科技的外星人的电脑有着非凡的预测能力,从没预测错过,这是怎么做到的呢?最合理的解释,就是这台电脑,对整个宇宙进行了一次完全精确的模拟,而这个模拟中也包括了你。
而你在第2层、第3层思考的情况下做出的选择,就是电脑的预测结果。也就是说存在这么一种可能性:正在于这个外星人进行前面第1、第2、第3层思考的那个你,只是活在外星人电脑的模拟之中。
最后一次人道主义提醒,看懂了以下内容,你可能会很困扰。第4层思考,这时候你的选择不再是两个装钱的盒子A和B,和你玩游戏的也不是有趣的外星人了。你现在面对的是和一个来自未来的充满恶意的超级人工智能Basilisk的一次勒索。
第4层的游戏设定是这样的,假设未来人工智能奇点会到来,而奇点过后的超级人工智能,可能是善意的,也可能是恶意的。那么,就可能会存在这样一个恶意超级人工智能Basilisk,对于帮助建造出Basilisk的人,它会忽视,什么都不对他们做;而对于那些没有帮助建造出Basilisk的人,它会对这些人进行永久的折磨,求死不能。
回到马斯克和他的新女友吧。马斯克和格里姆斯对于Roko's Basilisk这个想法都是采取了看滑稽的态度,认为它很荒谬。格里姆斯三年前在MV里面创造了Rococo Basilisk这个角色;而马斯克今年想发个内容是“Rococo Basilisk”的推特的时候,发现居然三年前就有人想出了这个梗。于是马斯克联系上了格里姆斯,然后这个世界上唯二了解,并且独立创造出了这个梗的两人,开始了一段恋情。