【CCF DL专辑】可信智能计算

导读：在人工智能时代，传统的可信计算概念也被重新诠释。智能计算的“可信性”是在正确性、可靠性、安全性、可预测性、可控性等众多概念的基础上发展起来的一个新概念。本次CCFDL专辑收录了2020年青年精英大会（YEF2020）主题为“可信智能计算”的分论坛报告视频，紧密围绕智能计算的关键技术，分享和探讨深度学习、人工智能、安全、隐私等领域的前沿成果和热点问题。

报告1：理解和加强深度学习安全性和隐私的一些实践

讲者：陈怡然 杜克大学电子与计算机系正教授

简介：在人工智能研究领域，对于深度神经网络的攻击与防御以及大数据的隐私保护是最近的两个热点。本次报告首先将介绍我们最近有关深度神经网络攻击可迁移性的一项工作。通过对于神经网络攻击过程中对抗性攻击如何改变中间特征分布的可解释性研究，我们提出了一种新型可迁移的黑盒攻击。报告的第二部分将介绍我们最近提出的一种新型数据众包架构-TIPRDC。通过从中间表达中学习的方式，TIPRDC可以最大限度的隐藏在原始数据中嵌入的敏感信息，从而实现在联邦学习中保护数据隐私的目的。

报告2：可信深度学习系统：智能系统可信保证之路

讲者：刘杨 新加坡南洋理工大学（NTU）计算机学院正教授

简介：深度学习在图像分类，语音识别和智能驾驶等领域获得了显著的效果，但目前的深度学习系统在实际应用部署中依然面临着严重的安全可信等问题。由于深度学习软件与传统软件的编程范式存在明显的差异性，导致目前缺少相关的技术和工具来保证深度学习软件的可信性。报告中，主要介绍我们近期的工作DeepStudio，一个面向深度学习系统可信性分析的全栈式框架。该框架包括针对全新训练模型的可信性和鲁棒性分析以及深度学习系统部署时的兼容性分析。

报告3：为人与人工智能共生社会共建信任

讲者：曾毅 中国科学院自动化所研究员

简介：人与人工智能构成的共生社会中的信任关系主要包括三方面，一方面是人对人工智能系统的信任，此外是智能系统之间的互信，第三方面是人工智能作为使能技术促进不同文化背景人类之间的互信。本报告将首先从人工智能模型的构建机制、内外部安全、透明性与可解释性、认知共情等视角讨论人工智能是否以及如何获得人类信任，以及智能系统之间的互信，随后将探讨如何通过人工智能技术、伦理与治理的研究构建跨文化互信。

报告4：安全优先体系结构

讲者：侯锐 中国科学院信息工程研究所研究员

简介：硬件和芯片的安全是信息社会网络空间安全的基石之一。然而，近年来不断涌现的以“熔断”、“幽灵”为代表的芯片漏洞揭示了商用处理器芯片面临严重的安全问题。值得指出，硬件和芯片级的安全漏洞，不单单来自于单纯的实现错误，或者设计、生产过程中的恶意植入，更有相当一部分是处理器体系结构设计的经典设计原则或核心机制存在安全风险。正如图灵奖得主、体系结构领域的领军人物John Hennessy 和David Patterson在2019年明确指出，“体系结构在安全上面临尴尬局面”，“必须从芯片层面解决安全问题”，“体系结构黄金时代已经到来，体系结构2.0核心特征之一就是安全”。