本期摘要

机器学习的巨大成功,推动了人工智能应用的爆发式增长。与此同时,人工智能在应用落地中遇到了一些普遍障碍,包括对新环境的适应性和鲁棒性、可解释性、以及对常识和因果的理解。为了解决这些基础问题,近期越来越多机器学习领域的研究工作试图将因果推理引入机器学习。当前有很多最优秀的科学家在朝着这个方向努力,其中三个代表性研究工作者是 UCLA 教授 Judea Pearl, 马普智能所所长 Bernhard Schölkopf,Mila 所长 Yoshua Bengio。简单来说 Judea Pearl 是 Causal AI 的奠基人,Bernhard Schölkopf 等人推进了 Causality for Machine Learning,Yoshua Bengio 最近提出了 System 2 deep learning 作为 Causal AI 的一个范式。

图灵奖得主 Judea Pearl 在《The Book of Why》一书中提出的 “因果关系之梯”,他把因果推断分成三个层面,第一层是“关联”;第二层是“干预”;第三层是“反事实推理”。他特别指出,我们当前的机器学习领域的研究只处于第一层,只是“弱人工智能”,要实现“强人工智能”还需要干预和反事实推理。同时,该思想也引出了 “结构因果模型(Structural Causal Models, SCM)”这个数学建模框架,它包括了三个部分:图模型(graphical models)、结构方程(structural equations)和反事实与干预性逻辑(counterfactual and interventional logic)。

Pearl 将哲学问题科学化,给出了因果推理引擎范式。Bernhard Schölkopf 及其团队在推进 Causal AI 方面作出了非常多的工作,他写的《Causality for Machine Learning》总结了其主要成果。

Yoshua Bengio 因其在深度学习方面的贡献和 Yahn Lecun, Geoffrey Hinton 一起获得了2019图灵奖。最近几年,也就是 CIFAR 项目与Bernhard Schölkopf 共事过程中,他们慢慢达成了AI需要学会因果推理的共识。他们共同合著的论文《Towards Causal Representation Learning》也是重要的学术成果之一。对比《思考:快与慢》书籍中的人脑的快系统和慢系统,他最近提出了一个类似人脑慢系统的 System 2 Deep Learning,做为一个目标为人类水平智能的范式,将因果推理能力的内容作为其核心组件。 Bengio 指出人的认知系统包含两个子系统:System 1是直觉系统,主要负责快速、无意识、非语言的认知,这是目前深度学习主要做的事情;System 2是逻辑分析系统,是有意识的、带逻辑、规划、推理以及可以语言表达的系统,这是未来深度学习需要着重考虑的。

目录

资料格式

人工智能走到哪里,又该向何处去?

当前的人工智能存在诸多局限性,这些局限性来自何处?我们将从目前人工智能与人类智能的差异出发,分析产生这些差异的本质原因。并进一步讨论,这些差异有没有可能消除,怎样来消除。我们有没有可能达到真正的人工智能?

格式:
视频
因果推理的七种工具,及对机器学习的反思

那种在自然人思维中可见的因果关系推理,可以用算法表示出来,用于帮助建立类人机器智能。

格式:
文章
Causality for Machine Learning

Graphical causal inference as pioneered by Judea Pearl arose from research on artificial intelligence (AI), and for a long time had little connection to the field of machine learning.This article discusses where links have been and should be established, introducing key concepts along the way. It argues that the hard open problems of machine learning and AI are intrinsically related to causality, and explains how the field is beginning to understand them.

格式:
文章
Towards Causal Representation Learning

The two fields of machine learning and graphical causality arose and developed separately. However, there is now cross-pollination and increasing interest in both fields to benefit from the advances of the other. In the present paper, we review fundamental concepts of causal inference and relate them to crucial open problems of machine learning, including transfer and generalization, thereby assaying how causality can contribute to modern machine learning research. This also applies in the opposite direction: we note that most work in causality starts from the premise that the causal variables are given. A central problem for AI and causality is, thus, causal representation learning, the discovery of high-level causal variables from low-level observations. Finally, we delineate some implications of causality for machine learning and propose key research areas at the intersection of both communities.

格式:
文章
System 2 deep learning: The next step toward artificial general intelligence

Yoshua Bengio, one of the three pioneers of deep learning, delivered a keynote speech that shed light on possible directions that can bring us closer to human-level AI. Titled, “From System 1 Deep Learning to System 2 Deep Learning,” Bengio’s presentation is very technical and draws on research he and others have done in recent years.

格式:
文章
因果推断与机器学习

机器学习的核心任务是从数据中自动地发现相关性信息以便预测未来。目前,大部分机器学习算法都是建立在统计相关性的基础上,这样极大地限制了机器学习的适用范围。因此,需要更进一步考虑统计相关性背后更本质的因果结构。因为因果模型对现实世界中数据的变化更加鲁棒,所以拥有了因果推断能力的机器学习算法可以更好地预测未来。主要讨论因果推断在机器学习各个方面的前沿进展,包括半监督学习、无监督学习、强化学习、迁移学习、元学习、公平学习等,以及它们在各个实际场景中的具体应用。

格式:
视频

往期回顾

本期编委

常兰兰

Springer 出版社

按姓氏拼音排序

杜子东

中科院计算技术研究所

冷静文

上海交通大学

马胜

国防科技大学

王超

中国科技大学