本期CCF学科前沿讲习班《安全可信人工智能》，对人工智能中的数据、模型和系统的安全性、可解释性、隐私保护、泛化性等进行系统性介绍，帮助学员理解安全可信人工智能的概念、主要挑战和解决方法，掌握该领域一系列前沿技术，包括深度学习理论、对抗攻防、后门攻击、隐私保护、联邦学习、安全评测等，并通过实际案例了解安全可信人工智能在金融、安防、自动驾驶等领域的应用前景，开阔科研视野，增强实践能力。

本期ADL讲习班邀请到了本领域8位来自著名高校与企业科研机构的重量级专家学者进行主题报告。他们将对安全可信人工智能的基础理论与方法的最新进展进行深入浅出的讲解，结合实际案例，为听众展示对抗攻击与防御、可解释深度学习、隐私保护、联邦学习、Deepfake检测等关键技术，并介绍安全可信人工智能在实际落地中的宝贵经验。

学术主任：朱军 清华大学

主办单位：中国计算机学会

活动日程：时间安排请以活动前一周邮件通知为准

特邀讲者：

陶大程 京东集团

讲者简介：陶大程，京东集团副总裁、京东探索研究院院长，同时兼任清华大学卓越访问教授、中国科学技术大学大师讲席教授。加入京东前，在悉尼大学担任澳大利亚桂冠教授、Peter Nicol Russell讲习教授、悉尼大学人工智能中心主任。他主要从事可信人工智能领域的研究，在权威杂志和重要会议上发表了200余篇论文；论文被引用6万余次，h-index：132，并多次荣获顶级国际会议最佳论文奖、时间检验奖。2015年获得澳大利亚尤里卡奖以及悉尼科技大学校长奖章、2018年获得IEEE ICDM研究贡献奖、2020年再度荣获澳大利亚尤里卡奖以及悉尼大学校长研究贡献奖、2021年荣获IEEE计算机协会Edward J McCluskey技术成就奖。他先后当选IEEE/AAAS/ACM Fellow、欧洲科学院（Academia European）外籍院士、新南威尔士皇家学院院士、以及澳大利亚科学院院士。

报告题目：深度学习的基础理论

报告摘要：深度学习能够通过在网络结构中添加更多层和更多神经元来学习非常复杂的功能，在过去十年中，它在各种领域里都取得了令人瞩目的成就。尽管深度学习在实践中取得了巨大成功，但在基础理论层面上的解释依然缺乏。先前的工作表明，深度神经网络有足够的能力来记忆带有随机标签的训练数据。但是为什么深度神经网络在参数数量明显大于训练数据量的情况下，依然能够很好地泛化到新数据，这个问题目前仍然没有明确的解释。为了理解深度学习中的泛化能力，学界已经提出了许多复杂性度量来评估神经网络的容量，例如 VC 维、范数和尖锐度。然而，这些度量通常与网络规模有关，当用于非常大的网络时将会失效。了解深度学习为何有能力掀起第三波人工智能浪潮对更好地了解人工智能的最新进展至关重要。在本次演讲中，我们将分享我们最近的相关研究、提议和见解，来阐释为何深度学习会如此成功。

沈超 西安交通大学

讲者简介：沈超，西安交通大学电子与信息学部教授、博士生导师，网络空间安全学院副院长，国家优秀青年科学基金获得者、阿里巴巴达摩院青橙奖获得者、麻省理工科技评论MIT TR35 China入选者、教育部霍英东青年教师一等奖获得者。目前主要从事可信人工智能、智能系统控制与安全、智能软件安全与测试、电力系统安全的研究工作。研究成果发表人工智能、网络安全、软件工程、控制工程领域顶级国际期刊和会议论文80余篇，获得IJCAI-DCM等8次国内外学术会议最佳/优秀论文的奖励，授权与申请国内外专利30余项，获省部级科学技术奖一等奖1项、二等奖2项，主持研制了多个重要系统并应用于多个大型企事业单位。担任IEEE TDSC等9个国际期刊的副编辑或编委、以及ACM CCS、NDSS等20余个国内外学术会议的组织委员会成员或程序委员会成员。

报告题目：AI系统可信安全与测试

报告摘要：人工智能浪潮正在深刻赋能人类生产和生活的各个方面，基于“深度学习+大数据+高性能计算”的解决方案为许多复杂任务（例如无人驾驶、视觉处理等）提供了有效解决途径，在某些特定领域其能力已经接近甚至超越人类。然而在美好蓝图之下，AI系统本身及其在数据、模型和代码等方面的可信问题也逐渐暴露出来，AI系统的可信安全已经成为一个不容忽视的问题。本次报告将分析AI系统所面临的安全风险，并讨论AI系统的可信安全与测试修复。

陈恺 中国科学院信息工程研究所

讲者简介：陈恺，中国科学院信息工程研究所 研究员，中国科学院大学 教授、博士生导师。信息安全国家重点实验室副主任，《信息安全学报》编辑部主任。中国计算机学会-系统软件专委会常委、人工智能学会-人工智能与安全专委会常委、中国保密协会-隐私保护专委会常委。主要研究领域包括系统安全、人工智能安全。在IEEE S&P、USENIX Security、ACM CCS、ICSE、ASE、TIFS、TDSC、TMC等发表论文100余篇；曾主持国家自然科学基金（重点项目）、国家重点研发项目课题等国家、部委课题40余项。RAID 2019大会副主席，S&P、USENIX Security、CCS等A类会议程序委员会成员。获得国家“万人计划”青年拔尖人才、北京市自然科学基金“杰出青年”基金、北京市智源青年科学家、北京市“科技新星”等资助。

报告题目：人工智能安全前沿进展

报告摘要：人工智能技术的出现和广泛使用带来了前所未有的安全问题。本议题将从人工智能安全对抗展开，介绍人工智能对抗攻击、数据中毒、模型后门、模型窃取等攻击手段并探讨针对该类攻击的防御措施，同时也将讲述模型的知识产权保护手段、数据遗忘等隐私相关问题。

张拳石 上海交通大学

讲者简介：张拳石，上海交通大学约翰霍普克罗夫特计算机科学中心长聘教轨副教授，博士生导师，入选国家级海外高层次人才引进计划，获ACM China新星奖。他于2014年获得日本东京大学博士学位，于2014-2018年在加州大学洛杉矶分校（UCLA）从事博士后研究，主要研究方向包括机器学习和计算机视觉。其研究工作主要发表在计算机视觉、人工智能、机器学习等不同领域的顶级期刊和会议上（包括IEEE T-PAMI、ICML、ICLR、CVPR、ICCV、AAAI、KDD、ICRA等）。近年来，张拳石在神经网络可解释性方向取得了多项具有国际影响力的创新性成果。张拳石承担了ICPR 2020的领域主席，CCF-A类会议IJCAI 2020和IJCAI 2021的可解释性方向的Tutorial，并先后担任了AAAI 2019, CVPR 2019, ICML 2021大会可解释性方向的分论坛主席。

报告题目：可解释性博弈交互体系：对归因权重、鲁棒性、泛化性、视觉概念和美观性的统一

报告摘要：深度神经网络的可解释性近年来受到大家越来越多的关注，相关技术流派也呈百家争鸣的状态。但是目前大部分可解释性算法往往侧重于工程性的功能实现，侧重于迎合人类对被解释事物的主观认知，而缺少基于统一的理论基础的科学理论体系，影响了可解释性算法的严谨性，阻碍了可解释性研究的进一步发展。在本次演讲中，嘉宾将介绍其团队近年来在构建神经网络可解释性理论方向的众多研究，即如何在博弈交互的理论框架下，统一解释神经网络的归因权重、神经网络的对抗鲁棒性、神经网络的泛化能力、神经网络所建模的视觉概念分类，以及输入图像的视觉美观性。

王志波 浙江大学 

讲者简介：王志波，浙江大学计算机学院/网络空间安全学院教授，博士生导师，国家优秀青年科学基金获得者。主要研究方向包括人工智能安全、数据安全与隐私保护、物联网感知与安全，先后发表了100余篇论文在国际权威期刊和学术会议上，其中CCF 推荐的A类期刊和会议论文30余篇、ESI高被引论文七篇。荣获IEEE HPCC 2019杰出论文奖、电子学会优秀科技工作者和先进工作者。主持与参与了多项国家自然科学基金、科技创新2030-新一代人工智能重大项目、973计划等国家级项目，并与华为、蚂蚁金服、阿里达摩院等公司开展多项合作研发项目，受邀担任INFOCOM、ICDCS等多个国际会议的大会程序委员。现为IEEE/CCF/电子学会高级会员，CCF物联网专委会常委和CCF大数据专家委员会委员。

报告题目：隐私保护的群智感知系统

报告摘要：随着移动设备的普及，基于众包模式的群智感知成为数据获取的重要手段。然而，在获取数据的同时群智感知面临着严重的隐私泄露风险。《数据安全法》和《个人信息保护法》正式颁布和实施对于数据的安全采集和发布提供了更高更规范的要求。那么，从技术的角度，如何在获取数据的同时保障用户的隐私和数据安全？本报告将系统介绍群智感知面临的隐私泄露风险，并详细介绍如何实现面向群智感知全生命周期的隐私保护。

苏航 清华大学

讲者简介：苏航，清华大学计算机系副研究员，主要研究对抗机器学习和鲁棒视觉计算等相关领域，发表CCF推荐A类会议和期刊论文30余篇，谷歌学术论文引用2500次，获得ICME铂金最佳论文、MICCAI青年学者奖和AVSS最佳论文等多个学术奖项，曾率队在NeurIPS2017对抗攻防等多个国际学术比赛中获得冠军。现任中国图像图形学会青工委执委、VALSE执行AC委员会主席，担任NeurIPS21的领域主席（Area Chair）、AAAI22 Workshop Co-Chair，并在多次ICML等顶级国际会议上作为分论坛主席组织对抗学习专题研讨。

报告题目：深度学习对抗安全方法与评测

报告摘要：人工智能在飞速推动技术革命和产业进步的同时，其存在的安全风险往往被人忽视。许多在数据集上表现良好的算法非常容易被对抗性样本所欺骗，导致AI系统判断失准，给人工智能的应用和部署带来了极大的安全隐患。本报告将针对目前深度学习对抗攻防中存在的问题，从对抗鲁棒的基本原理出发，介绍深度学习的对抗攻击和鲁棒防御的基本原理和最新研究进展；同时将介绍本团队研发的ARES算法对抗开源平台，以及基于该平台发展的算法安全基准，以期推动对人工智能鲁棒性和安全性的研究。

萧子豪 瑞莱智慧

讲者简介：萧子豪，瑞莱智慧算法科学家，研究方向包括深度学习的鲁棒性和概率机器学习。在瑞莱智慧负责人脸识别安全性评测、防火墙等多个方向的研发。2019年获得GeekPwn2019 CAAD CTF和隐身挑战赛的冠军，2020年获得GeekPwn2020 CAAD虚假人脸AI识别比赛冠军，在人工智能顶会上发表多篇学术论文。

徐世真 瑞莱智慧

讲者简介：徐世真，瑞莱智慧隐私计算平台负责人，研究方向包括深度学习框架设计和高性能计算。2020年起负责RealSecure平台建设，在联邦学习、多方安全计算和可信执行环境等隐私计算领域有多项专利，平台已经在金融等场景大量落地使用。

报告题目：安全人工智能的产业实践

报告摘要：大数据和机器学习的发展正在给我们的生活带来深刻的影响。随着多项法律法规的出台，数据安全广泛受到关注，尤其是机器学习模型训练/预测过程中的数据隐私保护。同时，随着人脸识别和自动驾驶中算法安全问题的暴露，机器学习模型在对抗环境下的安全性得到广泛的重视。本报告会分为两部分。报告的第一部分从逃逸和投毒攻击两个角度，介绍机器学习模型的对抗性攻击、防御和评测方法。报告的第二部分从分布式机器学习和联邦学习的关联性入手，介绍机器学习中数据隐私保护的挑战，并介绍多种隐私保护技术和机器学习的结合现状与前景。

学术主任：

朱军 清华大学

朱军，清华大学计算机系教授、人智所所长，北京智源人工智能研究院和瑞莱智慧首席科学家，曾任卡内基梅隆大学兼职教授。主要从事机器学习研究，担任IEEE TPAMI的副主编、AI编委，担任ICML、NeurIPS、ICLR等（资深）领域主席20余次。获科学探索奖、CCF自然科学一等奖、CCF青年科学家奖等，入选万人计划领军人才、MIT TR35中国先锋者以及IEEE“AI’s 10 to Watch”，获多项国际竞赛冠军和最佳论文奖。

时间：2021年10月22-24日

地点：北京•中国科学院计算技术研究所一层报告厅（北京市海淀区中关村科学院南路6号）

报名须知：

1、报名费：CCF会员2800元，非会员3600元。食宿交通费用自理。根据交费先后顺序，会员优先的原则录取，额满为止。
2、报名截止日期：2021年10月20日。报名请预留不会拦截外部邮件的邮箱，如qq邮箱。
3、咨询电话：18810669757   邮箱 : adl@ccf.org.cn  

缴费方式：

在报名系统中在线缴费或者通过银行转账

银行转账（支持网银、支付宝）：

开户行：招商银行北京海淀支行

户名：中国计算机学会

账号：110943026510701

请务必注明：姓名+ADL121

报名缴费后，报名系统中显示缴费完成，即为报名成功。

报名方式：请选择以下两种方式之一报名：

1、扫描（识别）以下二维码报名：

2、复制链接粘贴到浏览器中报名：https://conf.ccf.org.cn/ADL121

相关阅读

ADL线下活动全面启动