分论坛 > 保定 > 新闻动态
CCF YOCSEF保定举办线上观点论坛“AI时代用户隐私保护谁来主导?”
2021-01-11 阅读量:773 小字

随着人工智能(AI)时代的到来,借助大数据分析与整合等技术,AI用户画像”能力大大提升用户个人体验随之而来的,则是用户敏感隐私数据被采集,甚至泄露。人们发现,手机里的APP软件越来越懂你收到垃圾短信、推销电话也越来越多。人工智能服务飞速发展,伴随的是用户敏感隐私数据的不断被采集,甚至泄露,从而引发了我们的一些思考:1.要想获得更好的用户体验,就一定要出让更多用户的个人隐私吗?平衡点在哪里2.机器智能监管,立法和企业自律哪个效果更好?AI监管AI是否可行?3.针对AI信息收集进行立法规范是否会大幅降低AI发展速度?学界、业界、政界应该为用户隐私保护做些什么?此次论坛围绕以上问题展开思辨。

2021年1月9日,中国计算机学会青年计算机科技论坛(CCF YOCSEF)保定学术委员会举办题为“AI时代的用户隐私保护谁来主导?”的观点论坛,来自政府主管部门、高校和IT企业的150余位各界代表网络安全专家和职业法律人士一起,“用户体验与个人隐私之间的平衡点”“机器智能监管方式”“立法规范是否会影响AI发展”等问题展开激烈思辨和深度交流发布《网络用户隐私信息保护行业自律协议》,以实际行动向社会发声,传播网络正能量。

首先,由YOCSEF保定AC委员杨晓晖介绍了YOCSEF及保定学术委员会。活动分为嘉宾引导性发言和思辨讨论两个环节。

在引导性发言阶段,桂林YOCSEF AC委员、桂林电子科技大学教授丁勇指出,技术没有好坏之分,技术对于人类社会的利弊取决于使用者AI技术与用户隐私保护并不是对立关系数据利用和数据保护之间的矛盾可以法律层面和技术层面加以解决。同态加密等技术可以加强对用户隐私的保护。

丁勇引导发言主题

随后,郑州YOCSEF2018-2019主席、中原工学院副教授夏冰认为AI技术越发用户体验越好,个人隐私保护范围就越小。要从用户隐私全生命周期安全流程来考虑,用户体验和个人隐私之间要能够个性化、定制化,而不是千篇一律、搞“一刀切”。

夏冰引导发言主题

北京市京都律师事务所合伙人、北京市律师协会刑事诉讼法专业委员会副主任刘玲律师指出隐私权属于人格权一种,受法律保护,服务供应商不能以提升用户体验为由侵犯个人隐私权。不能一味追求AI发展速度,更要解决AI发展引发的社会问题。要由法律设置规则,收集和利用个人信息要遵守知情同意原则,让人们有尊严、体面的生活

刘玲引导发言主题

至此,引导发言环节结束,与会嘉宾们进行了合影留念。

线上参会人员合影

接着,论坛进入思辨环节。与会嘉宾们围绕以下三个议题开展了热烈的讨论。针对每个议题,与会嘉宾们都进行了激烈的辩论,以下是对思辨环节内容的总结与凝练:

议题1:要想获得更好的用户体验,就一定要出让更多用户的个人隐私吗?平衡点在哪里?

特邀嘉宾许光全(天津YOCSEF2012-2013副主席,天津大学教授)引导思辨用户体验要获得更好的效果,开发人员和SP就得更多地了解用户,包括了解用户的全栈信息和有关属性资料,这些信息有的本身就是敏感信息,有的是关联隐私信息。从这个意义上说,要想获得更好的用户体验,用户就可能要出让一些个人敏感信息,出让个人隐私,这本身就是一个balance的问题,平衡点的寻找本身应该就是一个多约束多目标的求解问题,是一个NP难问题,不同的场景下这个trade-off的点也不一样,甚至是同样的场景,不同的用户也有偏差。

最终思辨总结:获取更好的用户体验,并不需要出让过多的隐私,当前很多APP已经产生了太多的越界收集隐私数据行为,以及过度的隐私数据浪费。对于不同领域来说是有区别的,某些领域确实需要出让更多的隐私,但是某些领域不需要,隐私数据的主导权应该集中在用户手里,由用户决定是否出让,企业不应该随意越界收集。

平衡点在于以下几点协同发展:第一,依赖技术解决;第二,立法规范;第三,企业自律。

议题2: 机器智能监管,立法和企业自律哪个效果更好?AI监管AI是否可行?

特邀嘉宾林俊宇(CCF理事、中科院信工所副研究员)引导思辨:立法是顶层设计,企业自律是基础。AI监管AI是终极目标,但目前尚未达到。

最终思辨总结:从效果来看,企业自律效果最快,代价最小,但是风险太大,隐患太大。从立法角度来讲,需要长期的规范收集,代价很大,但是风险很小,比较好的方式是企业先走自律路线,并且为立法规范提供依据,立法及时跟进,不断完善。

AI监管AI从技术角度来讲是可行的,但是只靠AI监管是不够的,需要立法规范跟进,关键因素还是人,只有立法与AI双管齐下才是最终可行方案。

议题3:针对AI信息收集进行立法规范,是否会大幅降低AI发展速度?学界、业界、政界应该为用户隐私保护做些什么?

特邀嘉宾徐攀(美国奥马哈价值投资教育与研究中心中国区代表,加拿大安大略eschool董事)引导思辨:针对AI信息收集行为立法规范是会导致降低发展速度的,但幅度预测不会太大。学界负责研发变换隐私数据,防止攻击者推测用户身份。业界建立行业协会,企业共同遵守行业行为。政界负责主导学界、企业界等协调工作,并完成立法

最终思辨总结:立法规范并不会明显降低AI的发展速度,长期来看,反而会促进AI能够健康的发展。立法不可以在早期太过细致,应该是逐步的,并且由企业配合提供参考依据。

学术界应该在早期提供理论依据;企业应该共同发起协会,制定标准规范进行健康约束;政界整合三方资源,最终依赖多方协同形成完善成熟的法律依据。

总结此次观点论坛的讨论成果:在用户体验和个人隐私之间找到平衡点一个多条件约束、多目标求解复杂问题,不同场景下的不同用户得出的结论可能会大相径庭。企业应恪守商业道德底线,不以出卖用户隐私信息获取不当得利。但仅靠企业自律是不够的,机器智能的监管还需要人工监管AI监管相结合双管齐下。同时,与AI技术个人隐私保护相关的立法工作应该与时俱进,明确监管主体和问责对象。学界要坚持理论探索,加强成果转化;业界坚持需求引领,强化落地实践;政界要坚持标准主导,强化制度保障政产学研用形成合力,推动AI技术高水平高标准高质量发展

随后思辨议题环节结束,耿超为嘉宾颁发感谢牌,再次表示感谢。

颁发感谢牌

最后论坛号召国家电网河北省电力公司、智慧城市(保定有限公司、保定市物联网协会、保定市互联网+协会保定市网络安全协会(筹)等拥有海量用户数据的大型IT企业和IT行业协会联合签署《网络用户隐私信息保护行业自律协议》,向社会郑重承诺遵守相关法律法规保护用户隐私信息。

自律协议


延伸阅读
ADL115《隐私保护机器学习》开始报名
随着机器学习在金融、电商、健康等领域的广泛应用, 隐私泄露问题日益严重,用户担心身份/地址等信息被泄露,服务商担忧商业信息被窃取。本期ADL邀请学界与业界资深讲者, 介绍如何开发面向隐私保护的机器学习技术,并分享该技术在各个领域的落地经验。
2021-04-08
TF14回顾 | 数据隐私保护下,AI大数据应如何发展?
3月24日,由CCF主办,微众银行及深圳大学微众金融科技研究院协办的“CCFTF14期研讨会”在深圳大学举办,此次会议的主题为“联邦学习技术及数据隐私保护”。
2019-03-26
回顾:CCFTF14联邦学习技术及数据隐私保护研讨会
3月24日,由CCF主办、微众银行及深圳大学微众金融科技研究院协办的CCFTF14期研讨会在深圳大学举办,此次会议的主题为“联邦学习技术及数据隐私保护”。
2019-03-26
联邦学习助力IoT?从“数据孤岛”走向“共同富裕”
“联邦学习”,一种加密的分布式机器学习技术,参与各方可在不披露底层数据和底层数据的加密(混淆)形态的前提下共建模型,实现各个企业的自有数据不出本地,通过加密机制下的参数交换方式,在不违反数据隐私法规情况下,建立一个虚拟的共有模型。
2019-03-14
CCF TF14:联邦学习助力IoT?从“数据孤岛”走向“共同富裕”
联邦学习是如何具体应用在AI领域的? 联邦学习又是如何促进物联网与边缘计算的?多方的“共同富裕”是如何达成的?联邦学习还会带给我们怎样的惊喜?
2019-03-18
热门动态
2020-09-22
过去的几十年时间里,随着高校教学科研水平的提升和国际化办学的...
2021-04-11
自主智能系统在国防与国民经济生产生活中具有重要作用,是《中国...
2020-04-23
CCF YOCSEF保定于2020年4月18日下午举办了“疫情大考下,虚拟仿...
2021-03-28
当前人口老龄化是我国的基本国情,预测显示,到2050年中国老年人...
2018-10-25
10月24日下午,“CCF YOCSEF保定分论坛——人工智能前沿...
2021-08-14
2021年8月14日上午,由中国计算机学会(CCF)主办,河北大学协办...
2020-11-23
后深度学习时代是指从第二代人工智能兴起之后,到第三代人工智能...
2018-11-19
2018年11月18日,CCF YOCSEF保定分论坛举办本职融合高峰论坛,来...
2021-01-11
随着人工智能(AI)时代的到来,借助大数据分析与整合等技术,AI...
2019-09-28
2019年9月22日下午,CCF YOCSEF保定、天津分论坛联合在华北电力...
2019-12-18
2019年11月30日下午,CCF YOCSEF(中国计算机学会 青年计算机科技...
2020-07-21
CCF YOCSEF保定于2020年7月19日下午举办了“5G时代来临,高校如...
2020-11-02
随着人工智能技术与各行各业的紧密结合,对具有计算素养的复合型...
2021-05-24
2021年5月23日下午,CCF YOCSEF保定(2021-2022)通过“线下+线...
2021-05-10
2021年5月9日下午,CCF YOCSEF保定通过“线下+线上会议”的方式...
2020-05-11
2020年5月10日下午,CCF YOCSEF保定举办的“电力物联网下的AI和...
2021-04-25
国家对智慧社区政策支持力度越来越高,各级政府都在大力倡导发挥...
2021-07-25
2021年7月24日下午,由中国计算机学会(CCF)主办,曙光信息产业...
2020-12-10
“新基建”从内涵上看与传统基建相比存在很大差异,主要聚焦于5G...
2021-04-29
为全面落实习近平总书记给中国“互联网+”大学生创新创业大赛“...
CCF聚焦
会员权益
会员故事
会员荣誉
入会流程
返回顶部