CCF YOCSEF 技术论坛|CNCC2026:AI 智能体如何 “撕裂” 传统防护架构?——多域融合安全体系的范式重构与技术应对
2026-10-30 阅读量:6 小字

AI智能体正从辅助决策走向自主执行,冲击传统边界防护范式,网络攻防迈入云边端协同、多域融合新阶段。工业互联网、卫星互联网、低空经济、具身智能等新业态催生模型可信、智能体协同、权限管控等全新安全挑战。2026年10月23日,CNCC2026专题论坛暨CCF YOCSEF成都、广州联合技术论坛在成都举办。论坛立足四川网安产业优势,围绕智能体重构攻防、风险跨域传导、可信防御体系建设展开深度思辨。吴世忠院士提出,在多域交织的复杂环境中,传统防护思路已经难以为继,智能体催生独特的跨域传导风险,安全防护需要技术、机制、治理协同发力。清华大学季向阳倡导可信 AI 由“概率模拟”转向严密推导;国防科大王宝生呼吁打破行业路径依赖,转向运行时持续防护;清华大学张超探索大模型赋能固件漏洞挖掘;四川大学陈兴蜀以“威胁行为基因”,推动防护从特征匹配走向机理解析。研讨形成两大判断:智能体加剧攻防不对称,风险可跨域传导至物理空间,防御智能体自身亦存在攻击面;新型防御要坚守“人在回路”底线,依托场景分级、产业协同与治理规范稳步落地。论坛秉承 YOCSEF 思辨特色,不追求统一结论,呼吁产学研携手探索智能体时代网络安全新范式。

本次论坛汇聚国内网络安全领域院士、高校学者、产业技术专家,覆盖多所重点高校与安全产业机构,包括吴世忠院士,清华大学季向阳、国防科技大学王宝生、清华大学张超、四川大学陈兴蜀,湖南大学方乐缘、南方科技大学张锋巍、深盟科技彭晓军等在内的众多专家学者。与会专家围绕智能体攻防能力边界变迁、多域环境下风险溯源、可信可控防御体系落地、成本约束、应急处置、监管治理等关键命题充分交锋,打通学术界与产业界对话渠道,针对智能体带来的新型安全挑战辨析技术痛点,为多域融合场景下智能体安全范式创新、技术工程化落地凝聚多元洞见与实践思路。

01开场介绍

论坛开场

论坛执行主席白杨(CCF YOCSEF 2026—2027 年度 AC 副主席、成都信息工程大学)、姜思羽(CCF YOCSEF 2026—2027 年度 AC 主席、广东外语外贸大学)为论坛做开场介绍,并详细介绍 CCF YOCSEF 组织文化与活动规则。

【吴世忠院士致开幕辞】

吴世忠院士致辞

吴世忠院士为本论坛致开幕辞。院士指出,生成式 AI、智能体、数字孪生、空天地一体化网络快速演进,网络空间演变为物理、认知、社会域深度交织的复杂巨系统,传统边界式防护逻辑已然失效。他梳理智能体带来的三类核心风险:推理链路不可解释易被恶意利用;跨域数据与控制流隐式耦合放大安全隐患;人机协同下的信任转移存在被操纵风险。院士强调,构建可信可控的智能体防御体系,需要技术、机制、治理协同发力:技术上强化形式化验证、运行时监控、可中断机制;机制上建立智能体行为基线,实现异常可溯源;治理上厘清责任、划定伦理边界。他立足成都网安产业重镇的定位,期待本次 CNCC2026 论坛成为国内网络安全智能化转型升级的重要节点,推动多域融合安全体系由理念走向实践、由战术上升至战略布局。

02引导发言  范式变革之下

【季向阳 | 可信 AI 的系统化范式探讨】

季向阳作引导发言

来自清华大学的季向阳在《可信 AI 的系统化范式探讨》的报告中表示,大模型普遍存在算法黑箱、推理幻觉等问题,可信 AI 需要完成从“概率模拟”到“严密推导”的范式转型。他提出可信 AI 四大核心原则:可观测、可监控、可验证、安全性。结合 AI for Science 科研场景举例,依靠可观测实现内在机理溯源;依靠可验证对齐第一性原理;依靠可执行保障实验可复现;依靠安全性筑牢运行环境底线。实现可信 AI,不能只优化模型本身,更要构建系统级的全生命周期管控体系。

【王宝生 | 惯性·南墙·换道】

王宝生作引导发言

来自国防科技大学的王宝生在《惯性-南墙-换道:网络安全的新起点》的报告中以“惯性、南墙、换道”为核心隐喻,指出行业普遍存在路径依赖。很多时候只是把传统安全方案简单包装,用来应对 AI 时代的安全问题。从大数据发展到大规模大模型,防护对象从有形文件转变为模型参数;数据的使用主体不再只有人类,还包括大量 AI 智能体,传统面向人的口令、身份认证机制开始暴露出短板。安全的内涵也拓展为 Security 与 Safety 双重内涵。他提出,应当打造无需被观测对象主动配合的“上帝视角”可观测能力,探索从信息论密码走向结构论密码,建立智能体专属身份体系,推动安全工作从事后补救转向运行时持续防护。

【张超 | 固件智能化漏洞挖掘】

张超作引导发言

来自清华大学的张超在《面向网络设备固件的智能化漏洞挖掘技术》的报告中指出,网络设备固件是关键信息基础设施的底层基础,传统静态分析、污点分析、模糊测试等手段,长期面临分析效率低、覆盖范围有限、实施成本高等难题。张超团队探索大模型与传统固件分析工具融合的实现路径:利用大模型完成代码理解,识别固件内部测试接口,辅助污点分析,联动模糊测试开展检测。同时也要正视大模型的幻觉问题,通过自动生成POC样本完成漏洞有效性校验。大模型不是用来替代传统安全工具,而是与之协同互补,为固件供应链底层风险检测提供新的解决方案。

【陈兴蜀 | 威胁行为基因】

陈兴蜀作引导发言

来自四川大学的陈兴蜀在《探索网络威胁机理,构建行为基因数据集》的报告中表明,AI技术持续降低攻击实施门槛,攻击迭代速度显著加快,依赖已知特征库的传统防御模式,陷入被动追赶攻击手段的困境。陈兴蜀借鉴生物基因测序的思路,提出“威胁行为基因”的创新理念:不再简单匹配表面流量特征,而是对程序运行时的系统调用做细粒度原子行为编码,从海量正常操作序列中定位造成破坏的恶意行为片段。通过搭建行为基因数据集,解析攻击行为的内在机理,推动防御范式从识别已知攻击,升级为理解威胁的本质。

03思辨一 攻防能力边界

思辨议题

本议题特邀嘉宾为湖南大学方乐缘教授。本轮思辨以 AI 参与网络间谍活动、DARPA AI Cyber Challenge 攻防竞赛为参照,核心辨析:智能体是仅完成原有攻击流程自动化,还是具备复杂环境下真正的自主攻防能力。

方乐缘作思辨引导发言

方乐缘教授表示,智能体具备串连目标分析、工具调用、攻防全链路执行的潜力,在漏洞挖掘、自动修复方面展现价值,但真实场景下环境适应性、执行可靠性仍存在显著短板。围绕 AI 智能体对传统网络攻防体系的影响,与会专家展开深入探讨。专家认为,AI 智能体正推动网络攻防从单点工具应用向自主任务规划、多工具协同与反馈闭环的一体化模式演进,在提升攻防效率的同时,也降低了攻击门槛、扩大了攻击范围,加剧了攻防不对称。随着智能体自主能力不断增强,安全威胁逐步向跨应用、跨边界的复杂场景延伸,传统信任边界与隔离防护机制面临新的挑战。同时,公共大模型的持续演进加速了攻防能力的动态变化,安全技术的评估需兼顾防护效果、经济成本与实际应用价值。与会专家认为,当前智能体在复杂环境适应性、执行可靠性及安全边界认知等方面仍存在不足,其真实攻防能力与应用效果尚需通过更多实际业务场景持续验证。

思辨一 · 现场掠影

04思辨二 多域风险溯源

思辨议题

本议题特邀南方科技大学张锋巍教授担任引导嘉宾,围绕多域融合环境下的安全风险溯源展开思辨,重点探讨智能体如何将模型风险传导至业务乃至物理层面、防御智能体是否会成为新的风险源,以及智能体究竟是放大传统安全风险,还是催生全新的风险类型。

张锋巍作思辨引导发言

张锋巍教授首先作引导发言,从可信计算基(TCB)视角指出,智能体在拓展系统能力的同时,也因代码规模扩大、权限机制复杂化而引入新的攻击面,即使是防御类智能体也可能成为风险源,传统访问控制机制亟需向更加灵活的属性化权限治理转变。围绕这一议题,与会专家从智能体自主性、权限控制、行业应用及分级防护等角度展开深入讨论。专家认为,智能体既是传统安全风险的放大器,也是新型安全风险的产生源,其自主编排能力与高权限特征使风险不再局限于网络空间,而可能跨域传导至业务系统乃至物理世界,在医疗、智能驾驶、人形机器人等场景中甚至直接威胁人身安全。与此同时,智能体自主性与安全可控性之间的矛盾日益凸显,如何在充分释放自主能力的同时防范环境扰动、权限失控及行为不可预测带来的风险,成为亟待解决的关键问题。专家提出,传统依赖静态权限与统一规则的防护思路已难以适应多域融合场景,应根据业务风险等级实施差异化防护,在高安全等级场景强化物理隔离等硬防护措施,在低风险场景合理简化安全规则,并结合细粒度权限治理与智能体行为监测,构建与业务风险相适应的动态防护机制。讨论虽未形成统一定论,但进一步揭示了多域融合安全风险从网络威胁向跨域、跨业务、跨物理空间传导的演变趋势,以及安全防护从传统边界管控向分级分类、权限约束与行为监测协同转变的必要性。

思辨二 现场掠影

05思辨三 可信可控防御体系

思辨议题

本议题特邀深盟科技资深架构师彭晓军担任引导嘉宾,重点围绕智能体与传统安全机制的协同、多域复杂攻击下防御体系的可信可控,以及防御效果验证与产业化落地等关键问题展开思辨。

彭晓军作思辨引导发言

彭晓军结合工程实践指出,智能体安全防御不能脱离现有安全体系,应与防火墙、检测引擎、权限管控及审计溯源等机制深度协同,尤其在阻断、隔离等高风险处置环节,应坚持“人在回路”,确保关键安全决策可控、可追溯。围绕这一议题,与会专家从技术路径、工程成本、产业应用与治理机制等方面展开深入讨论。专家认为,可信防御体系建设不能简单依赖传统安全手段的叠加,而应从威胁机理出发,推动安全防护由已知威胁的被动响应向未知威胁的主动识别转变。传统补丁式防护虽然成熟、成本较低,但难以有效应对未知攻击,基于威胁行为机理理解、攻击模型构建的主动防御技术具有重要潜力,但仍面临技术成熟度与规模化应用成本的双重制约。同时,智能体自身机理尚未完全明晰,安全防护不能仅依赖软件层面的规则修补,需要结合业务场景与风险等级,构建涵盖差异化权限控制、运行行为监测、硬件安全保障及应急处置的多层次防御机制。在产业应用层面,专家指出,国内 AI 安全技术与国际先进水平的差距相对有限,但整体仍处于产业化探索阶段,部分产品存在重合规、轻实效的问题,亟需推动厂商与用户协同开展场景验证,面向工业、金融等重点领域建立差异化安全保障标准,并加强项目支持、成果转化与应急能力建设。与会专家进一步强调,可信可控智能体防御体系的落地不仅是技术问题,更是工程实践、经济成本、产业协同与监管治理共同作用的系统性课题,需要推动技术创新与安全治理协同发展,逐步形成可验证、可实施、可持续的安全防护体系。

思辨三 现场掠影

06论坛总结 范式重构与后续探索

【杨彦兵(四川大学副教授、CCF YOCSEF 成都 25-26 AC 副主席)作论坛总结】

杨彦兵作论坛总结

面对 AI 新技术,不应只追逐概念,更要立足真实业务价值,以解决实际问题为导向,推动理论成果走向落地应用。技术成熟不可能一蹴而就,需要在实践中持续迭代完善。同时技术创新与规范发展要相得益彰,在产业演进过程中逐步完善产业链、服务链相关规范,平衡发展效率与长期安全,促进高质量可持续发展。

依托 CNCC2026 平台,本次论坛直面多域融合时代网络安全范式重构的时代命题。我国网络安全产业已经实现从跟跑到并跑,可信 AI、智能漏洞挖掘、威胁机理研究领域迎来向领跑突破的机遇。YOCSEF 思辨的价值不在于追求全员共识,而在于充分呈现多元观点,梳理现实技术难题:智能体将如何改写攻防能力边界?多域交织环境中新风险从何处滋生?应当构建何种体系实现智能体可信可控?论坛呼吁产学研协同创新,在借鉴国际先进理念的同时坚持自主可控,持续推动多域融合安全体系从概念走向落地,为网络强国建设提供支撑。

论坛合影

供稿:李艳丽、杨雅志、白杨

审核:张晓均

终审:主席会议成员


热门动态
2026-11-09
2026年11月7日,中国计算机学会(CCF)主办的“立足制造转型,工...
2026-10-28
CCF YOCSEF合肥顺利举办论坛“从‘+AI’到‘AI+’:驱动政务信息...
2026-10-28
CCF YOCSEF合肥顺利举办论坛“从‘+AI’到‘AI+’:驱动政务信息...
2026-10-19
2026年10月17日,中国计算机学会(CCF)主办的“智辨真伪:防范...
2026-09-09
科创赋能开学季 逐梦启航向未来——CCF YOCSEF保定公益走进保定...
2026-09-03
CCF YOCSEF保定2026年07-08月活动简报 一、组织活动(1)论坛活...
2026-09-03
2026 年 9 月 1 日下午,作为"未来火种·YOUNG YOCSEFer"青少年科...
2026-09-03
2026 年 9 月 1 日下午,作为"未来火种·YOUNG YOCSEFer"青少年科...
2026-08-17
2026年8月15日,中国计算机学会(CCF)主办的“低空燕赵,何以可...
2026-07-26
承担社会责任 提升成员能力2026年7月11日上午,CCF YOCSEF合肥顺...
2026-07-26
承担社会责任 提升成员能力2026年7月11日上午,CCF YOCSEF合肥顺...
2026-07-23
2026年7月11日下午,CCF YOCSEF合肥分论坛第十六届学术委员会第...
2026-07-23
2026年7月11日下午,CCF YOCSEF合肥分论坛第十六届学术委员会第...
2026-07-11
CCF YOCSEF保定2026年05-06月活动简报 一、组织活动(1)特别活...
2026-07-01
2026年6月28日下午,CCF YOCSEF保定分论坛第九届学术委员会第一...
2026-07-01
01. 活动背景与主题 2026年6月28日上午,CCF YOCSEF保定...
2026-05-31
CCF YOCSEF保定组织“破除产学研壁垒,让科研力量精准赋能河北中...
2026-05-29
聚焦低空经济,共话产业未来2026年5月27日,“聚焦低空经济,共...
2026-05-14
论坛 【活动名称】参加总部特别论坛:养虾者说 【时间地点】2026/3/15,北京 【参与人员】张畔,冯士恩,杨博洋,耿超 【活动名称】2025-2026大比武 【时间地点】2026/4/11,保定 【参与人员】王祝,刘扬,尹红涛,彭锦佳,张畔,张少康,张凯喆,贾楠
2026-01-22
2026年1月17日上午,CCF YOCSEF保定分论坛在保定市深圳园展示中...
CCF聚焦