最近 Facebook 的一个 AI 项目火了，而且火得不要太好——稍微上网一搜就能看到：AI 机器人发展出自己的语言，Facebook 的工程师们慌了。Facebook AI 发明出人类不能理解的语言，担心失控项目已被关闭。难道我们人类造出了一个怪物？
一则宣称“Facebook AI开发出自己的语言”的报道引发了广泛关注。还有一家英国小报引用一位机器人学教授的说法，称这一事件表明，如果类似的技术被用于军事机器人，将“非常危险，并且可能是致命的”。更多的新闻延伸到未来的机器人革命、杀人机器人、恶意的人工智能，各种各样的有关人类灭绝的想象。
这一切的起因是，上月中，FastCo Design 网站针对 Facebook 利用“生成对抗网络”开发对话谈判软件的努力做了一篇报道。这篇报道引用的两个 bot，其设计的目的是证明：“具有不同目标的对话智能体，能够从头到尾地与其他 bot 或人类进行谈判，并达成一个共同的决策或结果”。
两个 bot 针对给定的话题（例如书籍，帽子，球，都是一些无害的物体），讨论如何分割成双方都同意的部分，除此以外并不做其他事情。这样做的目的是开发一个可以从人类的互动中学会谈判交易的聊天机器人，它能够非常流畅地进行对话，终端用户甚至不会意识到他们在与机器人对话。
然而，FASTCO 的报道写道，“FAIR 的谈判智能体利用强化学习和对话推演，表现与人类谈判相当……这证明 FAIR 的 bot 不仅能讲英语，并且对要讲什么也是有过思考的。”更要命的是，文章引用了专业人士的评价——“智能体会脱离人类可以理解的语言，发明自己的代码语言。”
Facebook 研究人员亲自辟谣，FAIR 访问研究员 Dhruv Batra 在自己的 Facebook 主页回应道，他认为这样的报道只是为了赚眼球，非常不负责任。他指出，AI 智能体发展出自己的语言这种说法可能令人震惊，但这是发展了很多年的 AI 的一个子领域。
Batra 希望大家都阅读一下他们的研究论文或者 FAIR 博客上的介绍文章，并阅读各个研究团体有关多智能体语言出现的文献。业内人士结合报道中提到的 Facebook 论文《Deal or No Deal？End-to-End Learning for Negotiation Dialogues》，做了比较详细的分析，指出这就是训练失误的模型。
再来仔细看 Facebook AI Research 的论文——需要指出，Facebook 研究人员并没有在论文中表示其 AI 发展出了自己的语言。FAIR 进行研究的目的是让智能体学习谈判，谈判既是语言也是推理问题。
Facebook 研究人员表示，他们决定关闭对话，因为“我们感兴趣的是做能够与人类对话的 bot”，而不是 bot 互相间能够很有效率地进行对话。
实际上，正如 Dhruv Batra 所说，AI 之间“交流”是非常普通的一个现象，只要你把两个机器学习设备放在一起，并让它们相互学习，都会出现这样的现象。值得一提的是，假如 bot 之间简略的“语言”可以解释，出来的对话也就能够理解，并且完全不像之前的那么可怕。
上海交通大学教授、斯坦福 AI Lab 博士后卢策吾在接受新智元采访时表示，这件事情告诉我们，没有很 solid 和 novel 的工作，PR 需谨慎，可能对自己和机构都是副作用。研究计算机是否能（非监督地）独立产生自己的语言，这件事情本身是非常有意义的科学探索，因为这是检验计算机是否理解人类高级语义和抽象概念的好方法。
卢策吾教授研究组的一个 topic 是让计算机看大量视频，然后（非监督地）独立发明词汇，目前结果应该说是“非常崩溃的”。