当人们为人工智能技术的突飞猛进而欢呼雀跃，并期盼着超级人工智能到来时，我们不能忘了人类正面临着一个非常关键的挑战：如何确保人工智能的发展以人为本，基于人类的共同价值造福人类？这本书为我们带来了罗素教授多年潜心的研究成果和深刻洞见，读起来令人赏心悦目。
1997年5月3日，IBM制造的国际象棋计算机“深蓝”和国际象棋世界冠军加里·卡斯帕罗夫之间的国际象棋比赛开始了，美国《新闻周刊》称这场比赛是“大脑的最后一战”。前5局，双方2.5∶2.5平分秋色。5月11日，“深蓝”在决胜局中战胜了卡斯帕罗夫。IBM的市值一夜之间增加了180亿美元。所有人都说，人工智能取得了巨大的突破。从人工智能研究的角度来看，这场比赛根本没有突破。
“深蓝”的胜利虽然令人印象深刻，但它只是延续了几十年来显而易见的趋势。国际象棋算法的基本设计是由克劳德·香农在1950年提出的，这一基本设计在20世纪60年代初实现了重大改进。此后，最优秀的国际象棋程序的等级评分稳步提高，这主要是因为计算机速度更快，让程序能够算到未来更远处。
公众从媒体上看到的人工智能取得突破的观点——人类取得的辉煌胜利，机器人成为沙特阿拉伯公民等，与全世界各地的研究实验室里真正发生的事情几乎没有关系。在实验室里，研究包括大量的思考、交流和在白板上写数学公式。想法不断产生、被抛弃和重新被发现。好的想法，即真正的突破，往往在当时没有被注意到，可能直到后来才会被认为给人工智能的重大进步提供了基础，或许是当有人在更合适的时间重新改造它的时候。
最初，大多数计算机的运行环境基本上是空洞无形的：它们唯一的输入来自穿孔卡片，唯一的输出方法是在行式打印机上打印字符。也许由于这个原因，大多数研究人员将智能机器视为问答系统。直到20世纪80年代，机器作为智能体在环境中感知和行动的观点才被广泛接受。20世纪90年代，万维网的出现为智能机器开辟了一个全新的天地。人们创造了一个新词“Softbot”，用来描述完全在Web等软件环境中运行的“软件机器人”。
Softbot（后来被称为bot，即机器人）可以感知网页，并通过发出字符序列、网址等来执行动作。
人工智能公司在互联网繁荣时期（1997—2000年）迅速发展，为搜索和电子商务提供了核心能力，包括链接分析、推荐系统、信誉系统、比较购物和产品分类。世纪初，配有麦克风、摄像机、加速计和GPS的手机普及开来，为人工智能系统进入人们的日常生活提供了新的途径。亚马逊Echo、谷歌Home和苹果HomePod等“智能音箱”已经完成了这一过程。
20世纪50年代末，约翰·麦卡锡设想有一天会有一辆无人驾驶汽车把他送到机场。1987年，恩斯特·迪克曼斯在德国的高速公路上展示了一辆无人驾驶的奔驰面包车，它可以保持在车道上行驶，尾随在另一辆车后面，变换车道、超车。330多年过去了，我们仍然没有一辆全自动汽车，但距离它成为现实已经越来越近了。开发的重点早已从学术研究实验室转移到大公司。
截至2019年，性能最好的测试车辆已经在公共道路上行驶了数百万英里（在驾驶模拟器中行驶了数十亿英里），没有发生严重事故。不幸的是，其他无人驾驶汽车和半自动驾驶汽车已经造成数人死亡。
到目前为止，大多数读者都已经体验过不太智能的个人助理：把从电视购物节目中听到的话当成购买指令去执行的智能音箱，或者听到“给我打电话叫救护车！”之后回答“好的，从现在开始我叫你‘Ann Ambulance’”的手机聊天机器人。这些系统本质上是应用程序和搜索引擎的语音接口，它们主要基于固定的刺激—反应模板。这种方法可以追溯到20世纪60年代中期的Eliza（人工智能软件）。
智能家居的概念已经发展了几十年。1966年，西屋电气的工程师詹姆斯·萨瑟兰开始搜集多余的计算机部件，用来打造第一台智能家居控制器ECHO。不幸的是，ECHO重800磅，电功率3.5千瓦，却只能管理三个数字时钟和电视天线。随后的系统又要求用户掌握极其复杂的控制界面。不出所料，它们从未流行起来。
人们经常让我预测超级人工智能何时到来，而我通常拒绝回答，原因有三。首先，历史上预测出错的情况经常出现。例如，1960年，人工智能先驱、诺贝尔经济学奖得主赫伯特·西蒙写道：“从技术上讲……20年内，机器将能够胜任人类能做的一切工作。”1967年，达特茅斯会议的联合组织者马文·明斯基写道：“我相信，在一代人的时间内，机器会攻克几乎所有智力领域，创造‘人工智能’的问题将得到实质性解决。”
第二个原因是，超级人工智能将要跨越的门槛并不明确。机器在某些领域已经超越了人类的能力。这些领域将会被拓展和深化，在我们拥有一个完全通用的超级人工智能系统之前，很有可能会出现“超级通用知识系统”“超级生物医学研究系统”“超级灵巧和敏捷的机器人”“超级企业规划系统”等。这些“不完全超级智能”的系统，无论是单独的还是集体的，都会产生许多与通用智能系统相同的问题。
第三个原因是，超级人工智能何时到来在本质上是不可预测的。正如约翰·麦卡锡在1977年的一次采访中指出的那样，超级人工智能需要“概念上的突破”。他接着说：“要想造出超级人工智能，你需要的是1.7个爱因斯坦和0.3个曼哈顿计划，而你首先需要的是爱因斯坦。我相信这需要5到500年的时间。”
在2015年世界经济论坛的一次会议上，我回答了我们何时才能看到超级人工智能的问题。
这次会议是按照“查塔姆宫守则”进行的，这意味着任何出席会议的人都不能对外发表任何言论。即便如此，出于谨慎的考虑，我还是在我的回答前面加上了“严格保密”4个字。我提出，除非发生灾难，否则超级人工智能很可能出现在我孩子的有生之年。因为他们还很年轻，随着医学的进步，他们可能比参加会议的许多人活得更长。
结果不到两个小时后，《每日电讯报》就刊登了一篇文章，引用了我的言论，还配上了狂暴的终结者机器人的图片，标题是《“反社会”机器人可能在一代人的时间里超越人类》。