在近日发表的一篇论文中,图灵奖得主 Yoshua Bengio 等详细介绍了其团队当前的研究重心:将机器学习与因果推理相结合的因果表示学习。研究者不仅全面回顾了因果推理的基础概念,并阐释了其与机器学习的融合以及对机器学习的深远影响。该论文已被《Proceedings of the IEEE》期刊接收。
一直以来机器学习和因果推理是两个相对独立的研究方向,各有优缺点。但在过去数年,两者开始互相借鉴,推进彼此的发展。如机器学习领域的蓬勃发展促进了因果推理领域的发展。采用决策树、集成方法、深层神经网络等强大的机器学习方法,可以更准确地估计潜在结果。
于是,近年来,将两者结合起来的因果表示学习吸引了越来越多的关注,成为人类迈向 Human Level AI 的潜在方向。今天,我们再为大家推荐一篇因果表示学习论文:Yoshua Bengio 联合 Bernhard Schölkopf 团队发表的《Towards Causal Representation Learning》,该论文已被《Proceedings of the IEEE》期刊接收。
在 2020 年底的一场讲座中,Bengio 称这是他们当前研究项目的核心。论文链接:https://arxiv.org/pdf/2102.11107.pdf
Yoshua Bengio 等人在这篇论文中回顾了因果推理的基础概念,并将其与机器学习的关键开放性问题联系起来,如迁移与泛化,进而分析因果推理可能对机器学习研究做出的贡献。
这篇论文的主要贡献如下:论文第二章介绍了物理系统中因果建模的不同层级,第三章展示了因果模型与统计模型的区别。论文第四章将独立因果机制(Independent Causal Mechanisms,ICM)原则扩展为基于数据估计因果关系的核心组件。论文第五章回顾了现有基于恰当描述子(或特征)学习因果关系的方法,覆盖经典方法和基于深度神经网络的现代方法。
论文第六章探讨了如何基于因果表示数据学习有用的模型,以及从因果角度看机器学习问题。论文第七章分析了因果对实际机器学习的影响。