CCF YOCSEF 哈尔滨分论坛 举办特别论坛 “AIGC时代下的信息安全机遇与挑战”
2023-11-23 阅读量:7 小字

随着人工智能和大数据技术的迅速发展,我们进入了一个全新的AIGC时代。这个时代为我们带来了前所未有的机遇和挑战,其中最为关键的信息安全问题备受关注。为了深入探讨AIGC时代下的信息安全机遇与挑战,我们特此举办此次论坛。共同探讨AIGC在信息安全领域的应用和优势、AI道德和法律问题、未来的发展前景。

2023年9月24日下午,中国计算机学会青年计算机科技论坛CCF YOCSEF 哈尔滨哈尔滨工程大学图书馆A208举行。通过专家报告和互动环节,我们将深入剖析相关议题,分享最佳实践经验,并探索创新解决方案

此次论坛由CCF YOCSEF哈尔滨副主席李元鹏(浪潮电子信息产业股份有限公司)、CCF YOCSEF哈尔滨AC委员冯兴宇(绿盟科技集团股份有限公司)担任执行主席。论坛邀请了哈尔滨工业大学刘立坤研究员、哈尔滨工程大学王宇华副教授、绿盟科技集团股份有限公司王星凯经理、浪潮思科网络科技有限公司李金光经理作为引导发言嘉宾CCF YOCSEF哈尔滨主席韩启龙教授、CCF YOCSEF哈尔滨主席宋洪涛副教授CCF YOCSEF哈尔滨主席冯骁骋、CCF YOCSEF哈尔滨副主席玄世昌、CCF YOCSEF哈尔滨学术秘书王勇、CCF YOCSEF哈尔滨AC委员张晓光张轶鑫等参加本次论坛。此外,哈尔滨工程大学黑龙江大学等多名教师也参加了本次论坛


1 论坛开始

在论坛开场环节,CCF YOCSEF哈尔滨副主席李元鹏介绍了本次观点论坛的背景和CCF YOCSEF文化及哈尔滨分论坛的发展和特色。CCF YOCSEF哈尔滨AC委员冯兴宇做论坛嘉宾介绍及思辨环节介绍。

引导嘉宾刘立坤探索AIGC的问题、挑战与解决方案引导发言,描述了AIGC应用风险、AIGC面临的安全问题及应对AIGC安全的解决方案


图二 刘立坤引导发言

引导嘉宾王星凯做“SecXOps助力安全行业大模型落地”引导发言,介绍了安全行业大模型工程化痛点、安全行业大模型创新实践、安全行业大模型技术趋势。


图三 王星凯引导发言

引导嘉宾王宇华做“算力赋能-助力高校科研创新”引导发言,介绍算力作为数字经济时代的新生产力的演进路径、AI智算领域的典型案例、AI在安全领域的应用。


图四 王宇华引导发言

引导嘉宾李金光做“AIGC网络发展趋势汇报”引导发言,介绍了AIGC加速行业赋能与社会变革、当前AIGC主流网络技术及面向未来的超级以太网解决方案。


图五 李金光引导发言

引导发言之后,论坛进入了讨论和思辨环节。与会嘉宾围绕AIGC时代下的信息安全问题开展了三个议题的思辨讨论。

议题一: AIGC能否在信息安全领域从“配角”成为“主角”?

有嘉宾认为AIGC目前还是以生成为主,信息安全问题只能作为配角。通过AIGC更好的发展,才能辅助大家。通过现有的技术还不能达到主角的定位,还只能是作为辅助现有的一个技术手段。

黑龙江大学的张晓光老师认为,AIGC在网络安全领域中扮演三个角色,第一安全问题的制造者,第二受攻击的目标(受害者),第三安全技术本身的提供者。如果从制造者的角度,AIGC的应用越来越多,使用率越来越高,那产生的安全威胁就会越来越大,从而由配角成为主角。如果从受攻击的角度,就与应用范围相关,应用范围越大,关注度就大,在受到威胁严重的情况下,更会受到重视,从而变成主角。如果从技术提供者来说,目前发展方向还是集中在AIGC技术本身,那么信息安全问题只能是一个配角角色。

哈尔滨工业大学的冯骁骋认为目前通过AIGC技术生成的智能体可以在网络中伪装成真正的用户,还有一些网络攻击大模型,自动生成有害言论,以及通过生成技术自动生成制作毒品的方法。目前也有一些机构将重心放在安全大模型上,未来希望被政府所使用。所以信息安全问题绝对会成为一个重要的分支。

哈尔滨工程大学王勇认为AIGC的信息安全这个领域肯定会越来越热,通过AIGC也是我们解决信息安全问题的重要手段。

有嘉宾认为通过AIGC自动生成代码,降低了黑客的门槛,同时也可以通过AIGC构建防御体系,做一些威胁分析、自动识别网络攻击,目前有很多安全厂商已经在做相关的研发。通过此项技术识别威胁,做到精准的处置,逐渐进化,成为信息安全的辅助工具。

议题二:AIGC安全的主要来源是数据治理还是算法优化?

黑龙江大学张晓光老师认为两种来源都是存在的,作为一个工具来说,本身是中性的东西,生成的文本内容由人的意图来控制,人是安全问题的主要来源。如果用来做坏事做成了AIGC就是巨大的威胁,AIGC也具有自己的特点,在某些领域使用的时候如果产生“暴走”的结果,由于之前比较好用,工作人员过于依赖,不主动思考,在关键时候会产生严重问题。另外模型本身存在一些被攻击被利用的漏洞,这种属于模型本身的问题。AIGC还是属于非线性优化的工具,它能够泛化出一些结果,但是涉及到复杂算法还是无法生成结果,不太可能出现真正意义上的意识,不用太担心。但是自有的一些问题和一些漏洞来说还是比较严重,自身还是安全问题的来源。

绿盟科技王星凯老师认为AIGC安全问题来源主要是用户,未来是不是应用更广泛之后它自身安全问题会比较多,各个公司的大模型都做了业务侧防攻击,防窃取,也有大模型建立小模型控制输出,但是安全没有一劳永逸的解决方案,未来模型安全是看他所处的位置,还是用户侧威胁更大一些。

 

议题三:AIGC时代下信息安全的最终守护者是:政府、企业、还是......?

闫家意老师认为信息安全时代的最终守护者不单单是政府、企业,甚至包含在互联网应用中的每一个人,网络威胁无处不在,有人为,也有不经意间产生的,这些威胁会对整个网络造成非常大的风险,所以说网络安全健康的环境,需要政府、企业、以及每一个环节中的所有人共同维护和支撑。

张轶鑫认为以前能获取我们信息的只有企业和政府,现在安全意识提升,大更重视自己的信息,会用合法的权力保卫自己的信息安全,信息安全得到保障,所以最终的守护者将会是每一个人。


图六 嘉宾发言


图七 嘉宾发言

最后,执行主席李元鹏、冯兴宇为引导发言嘉宾颁发了感谢奖牌,并感谢各位嘉宾的精彩发言和积极参与。



图八 颁发感谢奖牌


图片2

图九 合影


热门动态
2023-11-12
聚焦光电成像核心技术,解决国产替代“卡脖子”难题2023年11月11...
2023-11-12
聚焦光电成像核心技术,解决国产替代“卡脖子”难题2023年11月11...
2023-05-05
AI为科学提供了强有力的工具和方法,帮助领域学者发现新的知识、...
2023-05-05
AI为科学提供了强有力的工具和方法,帮助领域学者发现新的知识、...
2023-03-24
2023年3月18日,CCF YOCSEF成都在四川省成都市五岳宫街28号成都...
2023-03-24
2023年3月18日,CCF YOCSEF成都在四川省成都市五岳宫街28号成都...
2023-03-04
2023年3月3日11:00-14:00,CCF YOCSEF成都分论坛开展走进系列特...
2023-03-02
近十年,我国交通运输事业取得了历史性成就,发生了历史性变革,...
2023-03-02
近十年,我国交通运输事业取得了历史性成就,发生了历史性变革,...
2023-02-27
2023年2月24日下午,CCF YOCSEF 成都的现任和候任AC委员们、老AC...
2023-01-12
2023年1月7日-8日,CCF YOCSEF成都在四川省峨眉山市峨眉山...
2023-01-12
2023年1月7日-8日,CCF YOCSEF成都在四川省峨眉山市峨眉山...
2023-01-01
时光荏苒,举步维艰的2022年已远去,欣欣向荣的2023正向我们走来。2022年,在YOCSEF总部、各兄弟分论坛的大力支持下、在各位AC委员、通讯AC委员和委员的共同努力下,CCF YOCSEF太原紧密围绕学术与产业前沿,聚焦科学与社会热点,举办了一系列前瞻性、引领性的观点论坛、技术论坛与CLUB活动,主题涵盖了人工智能算力基础设施、人工智能数据标注、经济转型发展、非物质文化遗产保护等,为山西省乃至全国计算及相关领域的青年科技工作者搭建了交流平台,创造了成长机会,也承担了一定的社会责任。
2022-05-23
2022年5月21日,CCF YOCSEF广州举办“走进图普科技”ClLUB活动暨...
2022-08-18
近年来,人工智能快速发展、赋能千行百业,催生新技术、新产品、...
2022-08-20
近年来,我国大力发展区块链技术和相关应用成果落地,无论是科研...
2022-09-26
近年来,人工智能技术发展迅速,与之相关的数据安全问题也日益受...
2022-10-16
作为我国国民经济的基础,农业是支撑整个国民经济发展和进步的保...
2022-11-13
YOCSEF广州-桂林“东南亚非通用语种AI技术助力东盟经贸合作”联合技术论坛近日成功举办。 随着中国“一带一路”倡议的提出,东盟地区基于地缘政治、地理优势和人文基础成为“一带一路”建设的重点地区,中国与东盟合作迎来历史大机遇。而当前不断优化的东南亚非通用语言AI技术是否能为跨境电商等东盟的经贸合作提供更进一步的助力?
2022-12-04
公司,从算法、架构和软硬件协同等不同的维度去实现高性能的计算。针对人工智能芯片热潮,中国计算机学会(CCF)青年计算机科技论坛(YOCSEF)广州分论坛学术委员会于2022年12月3日以线上视频会议的形式举办了YOCSEF大湾区IT创新论坛——“人工智能芯片的机遇与挑战”观点论坛,共论我国AI芯片发展现状与未来之路
CCF聚焦