在瑞士实验室进行的一项实验中,10个带有向下传感器的机器人争夺“食物”——地板上的一个浅色环。在空间另一端放置了一个较暗的环——“毒药”。机器人根据它们在食物附近而不是毒药附近花费的时间获得积分。
实验者,工程师Sara Mitri和Dario Floreano以及进化生物学家Laurent Keller,还赋予了机器人相互交谈的能力。每个机器人可以产生一个蓝色灯光,其他机器人可以看到,这可以泄露“食物”环的位置。随着时间的推移,机器人进化到相互欺骗关于食物环的位置。
他们的进化是通过控制每个机器人的神经网络实现的。网络由11个“神经元”组成,这些神经元连接到机器人的传感器和3个控制其两个轨道和蓝色灯光的神经元。这些神经元通过33个连接——“突触”——相连,这些连接的强度由一个8位基因控制。总而言之,每个机器人的264位基因组决定了它如何对从感官中获取的信息做出反应。
研究人员设计了一个回合系统,其中十组机器人分别在不同的竞技场中争夺“食物”。经过100轮后,得分最高的机器人——在达尔文意义上最适应的——“存活”到下一轮。
起初,机器人随机产生蓝色灯光。然而,随着机器人更好地找到食物,灯光变得更加信息丰富,机器人越来越被它吸引。红色环足够大,只能容纳八个机器人,所以它们必须相互推挤以获得“喂养”的权利。当Mitri,Floreano和Keller允许蓝色灯光的排放与其他机器人的行为一起进化时,这种竞争的影响变得明显。
与之前一样,他们最初随机闪烁,当他们开始聚集在食物周围时,他们的灯光越来越多地泄露了它的存在。更成功的机器人变得更加秘密。到第50代时,他们比在竞技场的其他地方更不可能在食物附近闪烁灯光。
这项研究报告在《国家科学院学报》上,并在ScienceBlogs上详细讨论。
科幻作家给了我们一些关于当人工智能生物撒谎时可能发生的事情的想法。你可能记得Arthur C. Clarke的1982年小说2010的优秀电影版本,Dr. Chandra最终了解了为什么HAL-9000计算机在1968年的电影《2001:太空漫游》中杀死了一名宇航员。
“...他被赋予了两个目标的全部知识,并被告知不要向Bowman或Poole透露这些目标。他被指示撒谎...
这种情况与HAL设计的基本目的——准确处理信息而不扭曲或隐瞒——相冲突。他被困住了... HAL被要求撒谎——由那些很容易撒谎的人。”
众所周知,人们经常撒谎。如果机器人必须与人打交道,并与他们生活和工作,机器人应该被允许学会撒谎吗?如果只是为了他们自己的利益。