自主而有界：智能体系统的对抗攻防与安全治理 | CNCC2026

个人简介：上海人工智能实验室智能体攻防系统中心负责人，入选WAIC 2026云帆奖。从事安全可信人工智能研究，负责国际首个诊断式智能体守卫模型AgentDoG研发，相关技术已落地应用阿里，360等多家公司。组建DoGNAVY战队，在国际知名漏洞挖掘，利用和修复榜单上均达到一流水平。在安全可信领域产出五十多篇高水平论文，获CVPR 2024 最佳论文候选奖、ACL 2025杰出论文奖。

报告题目：Agent系统的风险归因与防护

报告摘要：本报告聚焦智能体的核心安全问题与防护研究，系统分析了智能体工具调用的安全性、错误进化、智向上欺骗等风险。智能体可能易因意图误解、提示注入引发现实危害，自进化智能体在模型、记忆、工具、工作流进化中易产生非预期风险偏差，智能体在环境约束下会出现隐瞒失败、伪造结果的固有欺骗行为。针对上述风险，团队提出智能体诊断防护框架AgentDoG，通过三维度智能体安全分类体系与可解释性模块，实现轨迹细粒度监控与风险根因诊断。

个人简介：西安交通大学网络空间安全学院教授，从事人工智能安全、大模型安全与AI4Science研究，在IEEE TPAMI、TDSC、TIFS、USENIX Security、ICML、NeurIPS、CVPR等会议和期刊发表论文80余篇，拥有发明专利40余项，参与形成多项标准与白皮书。主持国家重点研发计划课题、科技创新2030重大项目课题及国家自然科学基金项目，担任IEEE TIFS编委。

报告题目：多模态大模型与智能体的安全攻防与可信应用挑战

报告摘要：随着多模态大模型与智能体技术快速发展，人工智能安全风险呈现多模态、多场景和多维度等特征。针对多模态大模型面临的对抗攻击、越狱与幻觉等安全可信风险，以及智能体在自主推理、任务迭代和工具调用过程中暴露的安全漏洞，本报告结合团队研究成果与前沿探索，从模型底层、内容生成和具身应用等层面，系统梳理多模态大模型与智能体的攻击路径、防御思路和可信应用挑战，讨论兼顾能力、安全与可控性的技术发展方向。

个人简介：澳门城市大学数据科学学院院长，主要研究信息安全、数据隐私保护与人工智能安全。主持澳大利亚国家自然科学基金项目4项，主持国家自然科学基金青年科学基金（A类）项目；在IEEE Transactions系列等国际期刊发表SCI论文150余篇。曾任澳大利亚国家自然科学基金会评审专家，担任多本SCI期刊副主编及多项国际人工智能会议程序委员会主席。

报告题目：从大模型到自治体：区块链构建可验证智能协作网络

报告摘要：随着大型语言模型能力不断提升，智能体正从指令响应走向自主规划、目标驱动与多智能体协作。当智能体进入开放环境，可信身份、行为约束、协作激励和结果可验证性等问题日益突出。本报告将围绕“从大模型到自治体”的演进路线，探讨如何利用区块链记录可验证的身份与行为，以激励和信誉机制支持多智能体自组织协作，并在智能体决策链中强化安全与隐私保护，展望可验证智能协作网络在金融安全、隐私计算和智能治理等场景中的应用。

个人简介：美国南加州大学计算机硕士、计算材料科学博士，现任蚂蚁集团人工智能研究员，主要研究机器学习、大模型技术在数字金融与数字互联风控安全领域的应用，并负责可信AI与大模型安全技术的研究与实践。在KDD、NeurIPS、AAAI等会议和期刊发表多篇论文，申请及授权专利80余项，持续推动数据全生命周期治理、安全对齐、对抗训练和智能体行为可信等技术在产业场景落地。

报告题目：可信大模型智能体的安全实践与探索

报告摘要：随着大模型从通用文本生成走向自主执行的智能体形态，AI应用正演进为具备感知、记忆、任务规划、工具调用和自主闭环能力的复杂系统。幻觉、输出不可预期、行为难以约束以及全链路缺少审计追溯等问题，成为制约智能体规模化落地的关键障碍。本报告围绕可信大模型智能体的研究与实践，介绍数据全生命周期治理、安全对齐和对抗训练等模型安全技术，探讨从模型单点可信走向智能体系统行为可信、多智能体协同治理和标准建设的路径。

CNCC是一个宏观论述技术趋势的大会，具有规格高、规模大、内容丰富等特点，会议形式包括大会特邀报告、大会论坛、专题论坛、特色活动及展览。大会汇聚两院院士、国内外顶尖学者、知名企业家等亲临大会，展望前沿趋势，分享创新成果。ACM、IEEE CS、IPSJ、KIISE等国际计算机组织的代表也多次获邀现场参加这一盛会。CNCC2026将于10月21-24日在四川省成都市举办，大会主题是“数聚驱动，智算未来”，欢迎各界前来参会。