机器学习与因果推理|CCF数图焦点-人工智能 2022年第1期（总第3期）

点击上图可浏览《CCF数图焦点》第3期详细内容

机器学习的巨大成功，推动了人工智能应用的爆发式增长。与此同时，人工智能在应用落地中遇到了一些普遍障碍，包括对新环境的适应性和鲁棒性、可解释性、以及对常识和因果的理解。为了解决这些基础问题，近期越来越多机器学习领域的研究工作试图将因果推理引入机器学习。当前有很多最优秀的科学家在朝着这个方向努力，其中三个代表性研究工作者是 UCLA 教授 Judea Pearl， 马普智能所所长 Bernhard Schölkopf，Mila 所长 Yoshua Bengio。简单来说 Judea Pearl 是 Causal AI 的奠基人，Bernhard Schölkopf 等人推进了 Causality for Machine Learning，Yoshua Bengio 最近提出了 System 2 deep learning 作为 Causal AI 的一个范式。

图灵奖得主 Judea Pearl 在《The Book of Why》一书中提出的 “因果关系之梯”，他把因果推断分成三个层面，第一层是“关联”；第二层是“干预”；第三层是“反事实推理”。他特别指出，我们当前的机器学习领域的研究只处于第一层，只是“弱人工智能”，要实现“强人工智能”还需要干预和反事实推理。同时，该思想也引出了 “结构因果模型(Structural Causal Models, SCM)”这个数学建模框架，它包括了三个部分：图模型(graphical models)、结构方程(structural equations)和反事实与干预性逻辑(counterfactual and interventional logic)。

Pearl 将哲学问题科学化，给出了因果推理引擎范式。Bernhard Schölkopf 及其团队在推进 Causal AI 方面作出了非常多的工作，他写的《Causality for Machine Learning》总结了其主要成果。

Yoshua Bengio 因其在深度学习方面的贡献和 Yahn Lecun, Geoffrey Hinton 一起获得了2019图灵奖。最近几年，也就是 CIFAR 项目与Bernhard Schölkopf 共事过程中，他们慢慢达成了AI需要学会因果推理的共识。他们共同合著的论文《Towards Causal Representation Learning》也是重要的学术成果之一。对比《思考：快与慢》书籍中的人脑的快系统和慢系统，他最近提出了一个类似人脑慢系统的 System 2 Deep Learning，做为一个目标为人类水平智能的范式，将因果推理能力的内容作为其核心组件。Bengio 指出人的认知系统包含两个子系统：System 1是直觉系统，主要负责快速、无意识、非语言的认知，这是目前深度学习主要做的事情；System 2是逻辑分析系统，是有意识的、带逻辑、规划、推理以及可以语言表达的系统，这是未来深度学习需要着重考虑的。