返回首页
您的位置:首页 > 会员活动

AI Agent的应用与安全报告会成功举办

阅读量:0 2026-04-30 收藏本文

2026425日,由中国计算机学会主办,CCF沈阳分部承办,北京清程极智科技有限公司、神州数码(中国)有限公司、曙光信息产业股份有限公司、沈阳明简科技有限公司、辽宁明嘉信息技术有限公司共同组织的“AI Agent的应用与安全报告会”在和平湾数字经济总部基地成功举办。报告会围绕AI Agent技术发展、应用落地与安全治理等前沿议题展开深入交流,聚焦智能体从“能对话”走向“能感知、会规划、可执行”的发展趋势,探讨其在教育、科研、企业智能化转型等场景中的创新价值,并结合数据安全、权限滥用、提示注入、系统越权等风险挑战,共同研讨AI Agent安全、可靠、可控落地的实践路径。

一、开场致辞:拥抱智能体时代,共筑安全可控发展新生态

报告会开场环节,CCF沈阳分部监委会主席、东北大学鲍玉斌教授发表致辞。他首先对出席本次报告会的各位专家学者、业界同仁及嘉宾表示热烈欢迎,并向长期以来关心和支持中国计算机学会及CCF沈阳分部工作的各界人士致以诚挚感谢。鲍玉斌教授指出,随着大模型技术的持续突破,AI Agent正加速从单一智能交互工具演进为具备感知、规划与执行能力的复杂智能系统,成为推动新一轮科技变革和产业升级的重要力量,在教育、科研和产业实践中展现出广阔应用前景。同时,AI Agent在自主调用工具、访问数据和执行复杂任务过程中,也带来了数据安全、权限滥用、模型滥用等新型风险挑战,安全已成为智能体技术健康发展的关键前提。他呼吁与会嘉宾积极拥抱智能体时代,主动跟进技术发展趋势,用好AI Agent、善用AI Agent,并始终坚持安全底线,推动AI Agent在安全、可靠、可控的基础上高质量落地应用。

图片1

CCF沈阳分部监委会主席,东北大学鲍玉斌教授致辞

二、CCF介绍:凝聚计算力量,服务科技强国

CCF沈阳分部主席、沈阳航空航天大学范纯龙教授围绕中国计算机学会(CCF)的发展历程、组织体系与服务能力作专题介绍。范纯龙教授指出,中国计算机学会成立于1962年,是中国科协成员、全国性一级学会,经过六十余年的发展,已成长为我国计算领域最具影响力的专业学术组织之一。截至2024年底,CCF会员总数已达12.8万人,拥有51个专业分支机构、16个工作分支机构、45个城市会员活动中心和87个学生分会,每年开展各类活动1500余场,形成了覆盖学术交流、产业服务、教育培养、科普公益和会员成长的综合服务体系。

范纯龙教授重点介绍了CCF在推动计算事业发展中的重要作用,包括中国计算机大会(CNCC)、CCF推荐目录、全国青少年信息学奥林匹克竞赛(NOI)以及重大行业事件发声等具有广泛影响力的品牌工作。他还结合沈阳会员活动中心的发展情况,介绍了CCF在辽沈地区的组织建设与活动成果,包括成功举办CNCC 2023、持续举办CCF数字孪生大会等重要活动。范纯龙教授表示,CCF将继续秉承“责任、创新、奉献”的文化理念,围绕提升会员能力、服务科技强国战略和促进区域计算事业发展持续发力,为广大计算领域科技工作者搭建更加开放、活跃、高水平的交流合作平台。

图片2

CCF沈阳分部主席,沈阳航空航天大学范纯龙教授致辞

三、专家报告:洞见科技前沿图景

1. 智能体企业平台软件开发实践

在首场特邀报告中,北京清程极智科技有限公司吴再龙围绕AI技术发展、公司产品体系及智能经济相关问题进行了系统分享。报告首先回顾了人工智能技术的发展脉络,从早期深度学习网络结构演进谈起,介绍了2011年三层结构实现、2014Inception五层网络取得突破等重要节点,展现了AI技术持续迭代升级的过程。随后,报告重点介绍了公司在AI基础设施与智能体方向的产品布局,包括面向开发者的云端工具“爱评”、高性能开源推理引擎“赤兔”,以及“八卦炉”智能体和整转移站等产品体系,展示了其在快速启动、高性能推理和一站式智能体服务方面的技术特点。

报告指出,AI Agent的发展应紧密面向行业场景,围绕Token路由、安全设计和持续激励机制等关键环节构建可落地、可持续的应用体系。在核心技术方面,报告介绍了量化技术、编译优化等关键能力,通过离群点处理、矩阵旋转和计算图优化等方式提升模型推理效率与应用性能,相关技术已在数字人、在线教育、办公、设计等多类场景中展现出应用价值。最后,报告还围绕智能经济相关概念展开探讨,结合国家数据局对智能经济的定义,分析了智能经济与Token经济之间的关联,并指出在智能体加速发展的背景下,应同步关注由此带来的新型安全问题。

图片3

北京清程极智科技有限公司吴再龙报告

2. AI Agent发展看“Token经济”与“Token安全”

CCF沈阳分部秘书长,东北大学姚羽教授以《从AI Agent发展看Token经济与“Token安全”》为题,围绕AI Agent快速发展背景下的智能经济、Token经济及安全风险进行了系统分享。报告首先从Token概念切入,指出Token作为大模型处理信息的基本单元,正在成为连接技术供给与商业需求的重要计量单位。随着AI Agent应用规模不断扩大,模型调用量快速增长,Token消耗与算力供给、模型服务、商业模式之间的关系日益紧密,推动形成以Token调用、分发与结算为核心的新型价值体系。姚羽教授结合数字中国、“人工智能+”行动和智能经济发展趋势,分析了Token经济在算力、数据、算法、服务和智能产品之间的枢纽作用,指出Token正在成为衡量智能经济规模与活力的重要指标。

在安全风险方面,报告重点分析了类OpenClaw智能体在广泛应用中暴露出的新型威胁,包括间接提示注入、技能供应链污染、记忆中毒、意图漂移、命令注入、凭证泄露和沙盒逃逸等问题。姚羽教授指出,AI Agent不仅具备理解和生成能力,还能够调用工具、访问文件、执行命令和持续记忆,一旦权限控制和安全隔离不足,早期输入或配置环节的风险可能在规划、决策和执行阶段被放大为系统级安全事件。针对上述挑战,报告提出应从全生命周期构建安全防护体系,在初始化、输入、推理、决策和执行等环节加强插件审查、上下文过滤、记忆完整性验证、意图确认、最小权限控制和人工确认机制,推动AI Agent在可用、可信、可控的基础上健康发展。

图片4

CCF沈阳分部秘书长,东北大学姚羽教授报告

3. 大模型时代行业智能化转型的技术路径与实践

随后,中科曙光材料行业首席工程师冯施施围绕《大模型时代行业智能化转型的技术路径与实践》作专题分享,从技术体系与工程实践两个层面系统阐述了人工智能推动行业智能化转型的发展路径。报告指出,当前AI技术正呈现“模型能力提升”与“应用落地加速”的双重趋势,大模型参数规模持续扩大,MoE稀疏架构与长上下文能力逐步成为主流,推动智能体在办公、科研、金融、工业等多领域加速落地。同时,科研范式正从传统经验科学、理论科学向“数据密集+人工智能驱动”的第五范式演进,人工智能逐步成为科学研究的重要参与者与协同伙伴,推动“数据—模型—算力”协同发展的新型科研模式形成。

在技术实现与产业实践方面,报告重点介绍了以“算力—模型—平台—应用”为核心的一体化技术体系,强调高性能计算与人工智能深度融合的重要性。通过构建超智融合算力底座,结合国产芯片、异构计算架构及高性能互联网络,实现大模型训练与推理的高效支撑;同时依托大模型开发平台与智能体开发平台,形成覆盖模型训练、调优、部署及应用开发的全链路能力。在应用层面,报告展示了科学计算智能体、多行业智能体等典型场景,涵盖材料计算、生物信息、气象预测等领域,体现了AI在复杂问题求解和产业赋能中的实际价值。冯施施指出,未来行业智能化转型需要在性能、成本与能效之间取得平衡,推动算力基础设施、软件生态与应用场景协同发展,加速人工智能技术在千行百业中的规模化落地。

图片5

曙光信息产业股份有限公司冯施施报告

4. 大模型时代智能体应用实践与安全探索

最后,来自火山引擎产品解决方案高级专家布天慈围绕智能体在实际业务中的应用落地与安全治理进行了深入分享。火山引擎作为Openclaw中国镜像站ClawHub的官方合作方,报告首先介绍了当前大模型服务的规模化发展情况,指出随着AI AgentArkclaw的广泛应用,大模型日均Token调用量已达到百万亿级规模,智能体正成为企业数字化转型的重要基础设施。在应用层面,Arkclaw因其低门槛、强灵活性、数据安全保障及活跃的开发者社区支持而迅速普及,使企业能够在短时间内构建符合自身需求的智能体应用,显著提升工作效率和业务响应能力。

在具体实践方面,报告以“养虾”(智能体运营)为核心理念,系统阐述了智能体从工具到“智能伙伴”的转变路径,包括通过记忆管理、知识库建设、任务分级执行等方式不断提升智能体能力,并在教育、科研和企业办公等场景中实现落地应用。同时,报告重点强调了安全与治理的重要性,围绕敏感信息防护、权限控制、提示词安全、知识库权限管理及记忆隔离等方面提出了系统化防护措施,指出在智能体具备自主执行能力的背景下,必须构建完善的安全体系,确保其在实际业务中的可控运行。最后,报告还分享了企业在平台化建设与生态合作方面的实践经验,强调通过系统打通与平台融合,推动AI Agent在多行业中的规模化应用与持续创新。

图片6

火山引擎布天慈报告

四、活动总结:学术传承与创新并行

本次“AI Agent的应用与安全报告会”内容丰富、交流深入,围绕AI Agent技术演进、行业应用、智能经济、Token安全、算力底座、智能体平台建设与安全治理等关键议题,系统呈现了大模型时代人工智能技术创新与产业落地的最新进展。多位嘉宾从技术发展、工程实践、生态建设和安全防护等不同视角展开分享,既展示了AI Agent在教育、科研、办公、产业智能化转型等场景中的广阔前景,也深入分析了其在权限控制、数据保护、提示注入、供应链安全、记忆管理等方面面临的新型挑战。

AI Agent正成为推动智能经济发展的重要力量,其价值不仅体现在效率提升和流程重构上,更体现在对组织协作方式、知识生产模式和行业创新路径的深刻改变。未来,应进一步加强产学研用协同,推动算力、模型、数据、平台和安全体系深度融合,在积极拥抱智能体技术的同时,坚持安全底线和可控原则,促进AI Agent在更加安全、可靠、可信的环境中落地应用。

图片7

报告会参会人员合影