CNCC｜AI如何提升数据安全利用与治理？

熊金波

福建师范大学 教授

CCF高级会员，CCF福州执委，CCF YOCSEF福州分论坛副主席，福建师范大学软件工程系主任。福建省高层次人才、福建省高校杰青。长期研究大数据安全与隐私保护、人工智能安全理论与技术。主持国家自然科学基金项目3项，近年来在IEEE TITS、TCC、TII、计算机学报、软件学报等期刊发表学术论文50余篇；授权国家发明专利8项；出版教材1部、专著2部。IEEE IoT、MONET、SCN等期刊客座编辑，EAI Mobimedia、CIT等国际会议主席、TPC主席等。 

张彦

挪威奥斯陆大学 教授

CCF杰出会员，CCF区块链专委会执行委员，IEEE/IET Fellow, 欧洲科学院院士，挪威皇家科学院院士，挪威工程院院士，挪威奥斯陆大学信息工程学院教授/博导。2018-2021连续四年入选全球“高被引科学家”，全球TOP 1000计算机科学和电子领域顶尖科学家榜单。研究方向为新一代无线通信网络和智能安全物联网。研究成果被引33000+次，H因子95。任IEEE绿色通信与计算技术委员会主席，IEEE通信学会、车载技术学会、2019 CCF杰出演讲者，IEEE通信学会会士遴选委员会委员。任多个IEEE Transactions期刊编委。

报告题目：区块链融合联邦学习：架构，挑战和展望

主要介绍“区块链融合联邦学习”这一近期非常活跃研究方向。区块链可以在不可信的多个参与方之间建立起一种安全可靠的环境；而联邦学习作为近年来出现的新兴机器学习技术，可以实现保护隐私的智能计算。报告主旨是探索如何融合区块链与联邦学习，以及如何应用该新技术实现安全高效地共享数据。我们还将提出该研究方向的未来探索问题。

沈超 

西安交通大学 教授

国家级青年人才，西安交通大学人才办公室副主任、网络空间安全学院副院长。主要从事可信人工智能、智能软件安全与测试等研究，主持国家自然科学基金重点项目、国际(地区)合作项目、国家重点研发计划等项目30余项，发表学术论文100余篇。荣获省部级科学技术奖一等奖3项，担任IEEE汇刊等国际期刊副编辑、ACM CCS等学术会议TPC委员。入选阿里巴巴达摩院青橙奖、麻省理工科技评论MIT TR35 China、霍英东青年教师一等奖等。

报告题目：数据与机理驱动的AI可信安全与测试

人工智能浪潮正在深刻赋能人类生产和生活的各个方面，基于“深度学习+大数据+高性能计算”的解决方案为许多复杂任务（例如无人驾驶、视觉处理等）提供了有效解决途径，在某些特定领域其能力已经接近甚至超越人类。然而在美好蓝图之下，AI系统本身及其在数据、模型和代码等方面的可信问题也逐渐暴露出来，AI的可信安全已经成为一个不容忽视的问题。本次报告将从数据和机理两个方面驱动分析AI系统所面临的安全风险，并讨论AI的可信安全与测试修复。

黄欣沂

香港科技大学（广州） 副教授

国家级青年人才，香港科技大学（广州）人工智能学域副教授，主要从事密码算法分析、设计与应用研究，主持国家自然科学基金优青项目和重点项目，研究工作获教育部自然科学奖一等奖；担任中国密码学会理事、《中国科学：信息科学》青年编委、亚密会程序委员会委员等。

报告题目：基于密码学的人工智能安全防护技术

随着大数据时代的到来，深度学习技术已经成为当前人工智能领域的研究热点，在图像识别、语音识别、自然语言处理等领域发挥了显著作用。然而，随着深度学习技术的研究深化与应用普及，其中的安全隐患逐渐暴露。本报告简要介绍当前深度学习面临的投毒攻击、隐私窃取攻击、对抗攻击、模型萃取攻击、模型逆向攻击等安全隐患，并讨论基于密码学的应对方法与防护技术。

李进

广州大学 教授

国家级青年人才，广东省大数据安全与隐私保护工程中心主任。主要研究领域为数据安全、人工智能安全和区块链。主持承担了包括国家重点研发专项等项目。担任广东省大数据安全与隐私保护工程中心主任。担任International Journal of Intelligent Systems主编。目前已发表或录用的学术论文共100余篇，谷歌学术引用18000余次，入选全球高被引学者。成果获得教育部科技进步一等奖和自然科学二等奖。

报告题目：机器学习中的数据安全与隐私

随着机器学习在图像、金融和医疗等领域的广泛应用，越来越多的安全与隐私问题出现，包括数据的安全与隐私、模型安全与鲁棒性等方面。本报告将围绕机器学习的各个阶段的数据安全与隐私问题，首先介绍目前学术界相关研究方向的主要进展，然后介绍我们在数据及模型安全与隐私保护等方面的研究进展。

付章杰

南京信息工程大学 教授

国家级青年人才、江苏省杰青。南京信息工程大学计算机学院、网络空间安全学院执行院长，数字取证教育部工程研究中心执行主任，江苏省网络监控工程中心主任。主要研究方向为区块链安全、数字取证等，主持国家自然科学基金联合重点项目、国家重点研发计划青年科学家项目等国家级项目6项，发表顶级学术论文50余篇。担任多个学术会议主席和TPC主席、期刊副主编和编委。研究成果获2019年度江苏省科学技术（基础类）一等奖。

报告题目：深度伪造取证技术研究

数字时代，大量的信息是通过图像和视频进行传输的。然而，当前很多不法分子利用深度伪造技术，恶意伪造图像，进行非法活动，给人们生活和社会经济带来巨大损失。如何在数据爆炸、技术快速迭代的多媒体环境中实现先进的多媒体内容篡改检测，进而有效收集数字内容犯罪证据，成为了当前数字取证领域亟待解决的问题。本次报告首先介绍国内外数字图像篡改检测领域的发展现状，然后分析当前图像篡改检测研究存在的挑战难题，最后介绍我们在多媒体内容篡改检测方面取得的研究成果。