返回首页
您的位置:首页 > 新闻 > CCF新闻 > 数字图书馆

【YOCSEF杭州】人工智能赋能智慧未来:性能优先vs安全优先? | 数图回看

阅读量:209 2021-11-20 收藏本文

导读人工智能是新一轮科技革命和产业变革的核心驱动力量之一。然而,人工智能也将数字世界的安全风险向物理世界跨域蔓延,给国家安全、社会稳定与经济发展带来诸多挑战。提升AI安全性的同时,势必降低其应用过程中的性能表现。


如何有效兼顾上述两方面需求,是性能优先还是安全优先?2021年11月6日,CCF YOCSEF杭州分论坛举办技术论坛“人工智能赋能智慧未来:性能优先vs安全优先”。CCF数图带你一起回顾论坛报告。进入数图,CCF会员免费观看。

报告:【智能电网信息物理安全】
图片

讲者:张镇勇 贵州大学特聘教授、博士生导师

简介:智能电网较传统电网而言,具备信息空间和物理空间深度耦合的特性,威胁通过耦合关系进行传递,带来了新的威胁面。比如,委内瑞拉的大停电事件就是信息物理耦合下的一种典型攻击手段,既包含信息侧的入侵,也包括电磁干扰输电线路这种物理侧攻击。此外,电力系统的开放性、复杂性和互操作性等特点,导致电力系统面临着巨大的安全隐患。张镇勇重点介绍了一种虚假数据注入攻击:通过篡改从SCADA采集的运行数据,绕过系统状态估计损害电力系统的可观性,最终影响系统的调度控制决策。


报告:【人工智能治理与可持续发展】

图片

讲者:李朝 阿里巴巴人工智能治理技术总监

简介:阿里巴巴在可持续发展的人工智能模型方面做出了尝试,期望实现可信可靠可用的人工智能技术。其中“可用”指的是:将通用人工智能技术定制化助力生产过程,实现更精细化、低成本的生产过程;“可靠”指的是:开发鲁棒测试平台,整合模型脆弱性的评估指标;“可信”指的是:提高对模型的可解释性研究,同时谨防人工智能模型对特定群体产生的偏见歧视。李朝认为人工智能的可持续发展需要包容协作,为此,阿里巴巴提供了很多公开的数据集,同时积极举办、参加相关的workshop和比赛,希望各个行业领域的科研工作者可以有更多机会进行协作交流,积极探讨对策。


报告:【面向人工智能应用的可信安全研究】

图片

讲者:陈晋音 浙江工业大学信息工程学院网络安全研究所所长

简介:目前国际、国家层面纷纷提出了人工智能的发展战略,但人工智能模型仍面临着数据污染,对抗攻击,后门模型,隐私窃取等关键威胁,这些威胁将造成模型性能受损甚至导致用户隐私泄露。陈教授结合团队研究基础,介绍了从图像识别、多智能体到现实信息物理设备等多个领域的攻防安全工作。例如,其团队研发的一种通用对抗样本的防御方法,通过在输入样本上叠加通用扰动,可以使对抗样本的攻击失效,同时维持正常样本的分类结果。


进入CCF数图查看完整报告内容


CCF数字图书馆,汇集CCF硬核数字资源,收录39个专委/专业组的国际、国内学术会议资料,近2W篇会议文集,24种专业权威期刊图书,近千名国内外知名专家的专业报告,还收录了大量如CNCC、ADL、TF、YEF、FCES、CSP、C³等CCF活动资料。且对外合作开展【CCF数图走进高校】等一系列活动,同时开放【新手7日限免】【会员专属上传资料推荐】等日常活动,让会员“足不出户,踏遍专业路”。