CCF成都举办对抗智能与安全前沿进展论坛

11月25日，主题为“对抗智能与安全前沿进展”论坛通过线上会议的方式在电子科技大学清水河校区顺利召开。此次会议邀请了北京航空航天大学刘祥龙教授，浙江大学纪守领研究员，清华大学苏航副研究员以及电子科技大学王国庆教授，四位专家学者围绕“对抗智能与安全前沿进展”进行专题报告与研讨。会议吸引了相关领域学者和学生线上共计400余人参会。本次活动由CCF主办，CCF成都、电子科技大学计算机科学与工程学院、电子科技大学人力资源部教师发展中心和中共电子科技大学计算机学院教工第六支部委员会承办。

宋井宽教授 开幕致辞

电子科技大学宋井宽教授在开幕致辞中指出人工智能作为新一轮科技革命和产业变革的重要驱动力量，正在对经济发展、社会进步、国际政治经济格局等诸方面产生重大而深远的影响。人工智能在带来巨大机遇的同时，也蕴含着风险和挑战。以深度学习为核心的人工智能技术存在脆弱和易受攻击的缺陷，使得人工智能系统的可靠性难以保证，进而难以得到足够的信任。本次学术论坛正是围绕人工智能安全展开，针对最新的对抗攻防与人工智能可靠性前沿技术，开展学术报告与交流，共同探讨当前科学和技术面临的机遇和挑战，为科研人员提供一场学术盛宴。

              北京航空航天大学刘祥龙教授报告

北京航空航天大学刘祥龙教授带来了题为“深度学习对抗攻防与安全评测”的报告，报告中，刘祥龙教授主要围绕深度学习对抗样本问题，分析深度学习安全挑战、对抗攻击与防御（尤其是物理世界对抗攻防）国内外主要进展和具体研究案例，重点介绍团队近年来针对深度学习提出的测试、理解和优化的深度学习对抗攻防与安全评测的研究工作，最后介绍了团队发布的深度学习安全评测平台“重明”以及物理环境仿真测试环境“万象”。

                   浙江大学纪守领研究员报告

浙江大学纪守领研究员进行了题为“''Is your explanation stable?'' A Robustness Evaluation Framework for Feature Attribution”的研究报告。目前，解释神经网络模型行为的一种重要方法是特征归因，即将其决策归因于关键特征。尽管目前已有众多特征归因算法被提出，它们中的大多数旨在提高对模型的忠实度。然而，最近的工作表明，解释算法对随机噪声不稳定并且容易受到对抗性攻击，这使得模型的解释在实际场景中难以信任，特别是在重视安全的应用程序中。纪教授以特征归因解释算法为例，介绍了团队近期针对特征归因算法的量化不确定性的理论研究，以及针对特征归因算法的鲁棒性评估框架MeTFA，最后介绍了几种衡量解释算法在随机噪声场景中的忠实性和稳定性的评估准则。

                    清华大学苏航副研究员报告

清华大学苏航副研究员进行了题为“Adversarial Machine Learning”的报告。人工智能在飞速推动技术革命和产业进步的同时，其存在的安全风险往往被人忽视。许多在数据集上表现良好的算法非常容易被对抗性样本所欺骗，导致AI系统判断失准，给人工智能的应用和部署带来了极大的安全隐患。还针对目前深度学习对抗攻防中存在的问题，从对抗鲁棒的基本原理出发，介绍团队在深度学习的对抗攻击和鲁棒防御方面的最新研究进展，探讨物理世界对抗攻击的真实风险，最后介绍了深度学习对抗安全平台ARES，以及基于该平台发展的算法安全基准。

                电子科技大学王国庆教授报告

电子科技大学王国庆教授带来了题为“多模态可信人机交互”的报告，介绍了人机可信交互既是机器人行为学领域的前沿研究方向，也是兼具社会学和工程学的交叉学科领域。但人机可信交互在社会学领域的研究还很滞后，仅仅停留于研究改变人机信任关系的影响因素，难以为共融机器人的技术攻关和自动驾驶等产业推动提供社会学领域的人文指引。人机的信任修复及信任再校准是人机共融团队（自动驾驶）中的普遍现实问题（人机信任失衡），但当前这一领域的研究尚未得到足够关注。以自动驾驶、家用机器人为案例，系统分析可信交互的挑战与机遇，多模态交互是否能有效校准人机信任失衡，以及多模态交互如何构建可信交互模式，还介绍了团队在该方向上的最新研究工作，包括多模态缓解过度信任、多模态修复信任受损等。

此次学术报告分别从深度学习对抗攻防与安全评测、针对特征归因算法的鲁棒性评估框架、对抗机器学习以及多模态可信人机交互四个方向展开，向与会者介绍了最新的对抗攻防与人工智能可靠性前沿技术，充分激发了大家的兴趣和热情。报告在各位讲者嘉宾、参会人员的大力支持下，获得了圆满成功。

报告人简介：

刘祥龙，北京航空航天大学教授，博士生导师，国家优秀青年科学基金获得者。现任北京航空航天大学软件开发环境国家重点实验室副主任、计算机学院院长助理，主要研究人工智能安全、开放认知。近年来，主持国家自然科学基金、国防科技创新重点项目、科技创新2030重大项目等多项国家课题；发表IEEE CVPR、ICCV等国际顶级会议及期刊论文100余篇。研究成果受到新华社、人民网等权威媒体和杂志关注。担任Pattern Recognition等SCI期刊编委，ACM MM、AAAI等国际会议领域主席，启智开源开放平台技术委员会委员。曾获省部级一等奖2项、北京市科技新星、中国计算机学会优秀博士学位论文等。

纪守领，浙江大学“百人计划”研究员、博士生导师、浙江大学党委组织部副部长（挂职）、滨江研究院国产信创研究中心副主任，获佐治亚理工学院电子与计算机工程博士学位、佐治亚州立大学计算机科学博士学位，入选国家青年人才计划。主要研究方向为人工智能与安全、数据驱动安全、软件与系统安全和大数据分析，发表IEEE S&P, USENIX Security, ACM CCS, KDD等CCF A类论文100余篇，研制的多个系统在大型平台上获得部署应用。获国家优秀留学生奖、网络系统安全领域CCF A类会议ACM CCS 2021最佳论文奖等10项最佳论文奖、华为优秀技术成果奖、浙江大学先进工作者等。

苏航，清华大学计算机系副研究员，入选国家“万人计划”青年拔尖人才，主要研究对抗机器学习和鲁棒视觉计算等相关领域，发表CCF推荐A类会议和期刊论文50余篇，谷歌学术论文引用5000余次，获得吴文俊人工智能自然科学一等奖，ICME铂金最佳论文、MICCAI青年学者奖和AVSS最佳论文等多个学术奖项，曾率队在NeurIPS2017对抗攻防等多个国际学术比赛中获得冠军。现任中国图像图形学会青工委执委、VALSE执行AC委员会主席，担任NeurIPS21的领域主席（Area Chair）、AAAI22 Workshop Co-Chair，并在多次ICML等顶级国际会议上作为分论坛主席组织对抗学习专题研讨。

王国庆，电子科技大学计算机科学与工程学院教授、博导，入选国家级海外高层次人才引进计划青年项目。长期从事人工智能、计算机视觉、多媒体计算、智能无人系统领域的理论与应用研究。担任中国科协和教育部“英才计划”指导老师、担任JW科技委主题专家组秘书，担任国际会议SoCAV 2023的大会程序委员会主席，担任ACM MM、AAAI、ICME等知名国际会议领域主席和主题主席，担任多个国际SCI期刊编委。在中科院一区期刊和CCF A类会议等发表论文70余篇，出版学术专著2部。主持国家自然科学基金项目、JW科技委重点项目课题、ZF预研课题、四川省重点研发计划项目等。部分成果转化应用于构建网络媒体信息认知管控平台、智能无人系统等，产生一定经济价值和社会效益。

本期活动执行主席：

杨阳，电子科技大学教授，CCF成都副主席，全国高校“双带头人”教师党支部工作室书记，国际领军人才，国家青年人才，四川省青年人才，主要研究异构多媒体信息的数据融合、信息检索以及智能分析等关键技术，成果包含跨媒体的数据统一映射模型，构建视觉增强型语义知识库，以及基于带噪音数据的鲁棒学习模型。发表高水平国际学术论文200余篇。相关学术成果获多个国际学术奖项，其中包括中国计算机学会（CCF）推荐A类会议、多媒体领域顶级学术会议ACM Multimedia 2017 最佳论文奖、ACM Multimedia 2013最佳学生论文奖、信息检索领域顶级学术会议ACM SIGIR 2017最佳论文奖Honorable Mention、国际多媒体旗舰会议IEEE ICME 2017最佳论文铂金奖、国际会议Multimedia Modelling 2015最佳论文奖Runner-up、WISE 2013最佳论文奖、ADC 2017最佳论文奖、MediaEval 2014国际竞赛Placing Task第一名、及2018之江杯全球人工智能大赛创新类二等奖等。获得四川省科技进步奖三等奖，2018年获评“ACM SIGMM China Rising Star”学术新星奖，入选爱思唯尔中国高被引学者（2021）。主持或主研多项国家级、省部级重大重点科研项目。

主办单位：中国计算机学会（CCF）

承办单位：CCF 成都

电子科技大学计算机科学与工程学院

电子科技大学人力资源部教师发展中心

中共电子科技大学计算机学院教工第六支部委员会

执行主席：CCF成都 副主席 杨阳