ADL174《大模型与智能体机理与评测》开启报名

学术主任：王希廷/刘勇 中国人民大学

主办单位：中国计算机学会

活动日程：

学术主任

特邀讲者

Lexin Zhou

普林斯顿大学

讲者简介：Lexin，普林斯顿大学计算机科学博士生，以第一作者身份发表两篇Nature正刊论文。导师为 Peter Henderson 教授，并与 Tom Griffiths 教授密切合作。他是计算机科学科班出身，但也经常从认知科学和心理测量学中汲取见解。他的研究兴趣包括大语言模型与 AI 智能体的评测、数据与模型泛化能力。他曾在 微软亚洲研究院、Google DeepMind、OpenAI、Meta AI 以及欧盟委员会（European Commission）从事研究/咨询工作。他的研究成果曾被 Nature、Financial Times（《金融时报》）、Microsoft Research、MIT Tech Review（《麻省理工科技评论》）、Forbes（《福布斯》）、IEEE Spectrum、El País（《国家报》）、New Scientist（《新科学家》）、QbitAI（量子位）、IBM 等媒体报道。

报告题目: A Science of Measurement for Generalization in General-Purpose AI

报告摘要: Ensuring safe and effective use of artificial intelligence (AI) requires understanding and anticipating its performance on new tasks, from advanced scientific challenges to transformed workplace activities. So far, benchmarking has guided progress in AI but has offered limited explanatory and predictive power for general-purpose AI systems attributed to limited transferability across specific tasks. In today’s talk, we will first talk about a paper we pre-printed in early 2025 (recently published at Nature) where we introduced general scales for AI evaluation that elicit demand profiles explaining what capabilities common AI benchmarks truly measure, extract ability profiles quantifying the general strengths and limits of AI systems, and robustly predict AI performance for new task instances. We will then explore new follow-up work on measuring AI models' generalizability and gaps across the cognitive task space, and how this may guide frontier-model training toward more robust and safe artificial general intelligence.

王希廷

中国人民大学

讲者简介：王希廷，中国人民大高瓴人工智能学院副教授，博士生导师，曾任微软亚洲研究院首席研究员，入选北京市人才计划青年项目，获吴文俊人工智能青年科技奖、CCF自然科学二等奖，2篇论文入选IEEE TVCG（CCF-A期刊）封面论文。研究成果落地支付宝百灵大模型、微软必应搜索、Outlook及MSN，影响上亿用户，年收入增益上亿元。担任ICML、NeurIPS、ICLR、AAAI领域主席，曾任IEEE VIS（CCF-A）组委会档案主席。

报告题目：面向通用大模型的评测与解释

报告摘要：大模型展现出在广泛任务上的通用性，但其通用性来源机制和控制方法仍有待深入理解。本报告尝试借鉴认知科学中研究人类通用智能的范式，初步探索大模型通用性的来源及其可控机制，主要包括两个方面：在评测层面，借鉴心理学理论，通过价值观及测度论分析模型对齐的任务泛化模式，探索对人工智能通用性进行科学量化评估的方式；在解释层面，提出价值观的神经元解释及控制方法，通过干预关键功能模块的激活模式探索不依赖特定任务的强泛化性控制方法，例如跨情境的价值观控制方法。

孙若愚

香港中文大学（深圳）

讲者简介：孙若愚，香港中文大学（深圳）数据科学学院长聘副教授、博士生导师，深圳市大数据研究院高级研究科学家。曾任伊利诺伊大学香槟分校（UIUC）助理教授、博士生导师，曾任 Meta人工智能研究所访问科学家，斯坦福大学博士后研究员。他的主要研究领域为人工智能和数学优化，具体研究方向包括大模型的理论和算法、非凸优化、学习优化、网络优化和运维等。担任NeurIPS, ICML, ICLR等人工智能会议的领域主席，Transaction on Machine Learning Research的action editor。

报告题目：深度学习中的优化算法和理论

报告摘要：本次课程系统介绍深度学习的优化理论和算法。第一部分介绍常见优化器的基本原理，从梯度下降、随机梯度法、动量法等基础方法，到AdaGrad、RMSProp、AdamW等自适应优化器的演进脉络。第二部分介绍零阶优化方法及其理论，以及在大模型中的应用。第三部分介绍双层优化的基本理论和算法，并介绍其在超参数优化与元学习中的典型应用。

李建

清华大学

讲者简介：李建，清华大学交叉信息研究院长聘教授，博士生导师。研究方向为理论计算机科学、人工智能基础理论、金融科技。在主流国际会议和杂志上发表了100余篇论文，并获得了数据库顶级会议VLDB和欧洲算法年会ESA的最佳论文奖、数据库理论会议ICDT最佳新人奖、多篇论文入选口头报告或亮点论文。曾主持或参与了多项自然科学基金项目及企业合作项目。

报告题目：通过压缩视角理解大语言模型行为：知识获取，扩展定律与上下文学习

报告摘要：大语言模型（LLMs）在众多任务中展现出卓越能力，但其内在机制及扩展定律、幻觉现象等相关行为仍缺乏系统性理论解释。本研究算法信息论重新审视压缩与预测的经典关系，从而深入解读大语言模型的行为机制。通过运用Kolmogorov结构函数并将LLM压缩理解为双部分编码过程，我们详细揭示了模型如何随参数量和数据规模增长获取并存储信息——从普遍存在的句法模式到逐渐稀疏的知识要素。受此理论视角及Heap定律与Zipf定律启发的自然假设驱动，我们提出一个简化但具有代表性的分层数据生成框架——句法-知识模型。在贝叶斯框架下，研究表明该模型中的预测与压缩过程可自然推导出大语言模型的多样化学习行为与扩展规律。特别地，我们的理论分析为数据与模型扩展定律、训练与微调中的知识获取动态、大模型的上下文学习能力，以及LLM事实性知识幻觉现象提供了直观的理论的解释。我们在大预言模型上的实验结果验证了理论预测的合理性。

刘勇

中国人民大学

讲者简介：刘勇，中国人民大学长聘副教授，博士生导师，国家级高层次青年人才。长期从事机器学习基础理论研究，共发表论文100余篇，其中以第一作者/通讯作者发表顶级期刊和会议论文近50篇，涵盖机器学习领域顶级期刊JMLR、IEEE TPAMI、Artificial Intelligence和顶级会议ICML、NeurIPS等。主持/参与国家自然科学面上/基金青年、科技部重点研发、北京市科技计划中央引导地方专项、北京市面上项目等项目。

报告题目：大模型的能与不能

报告摘要：本报告从学习理论视角系统剖析 Transformer 大模型的能力边界与底层机理。在能力维度，Transformer 具备序列到序列通用近似性与理论图灵完备性；自回归预训练本质是对世界知识的无损压缩，驱动模型向统一的世界表征收敛；规模突破临界阈值后，涌现出上下文学习与思维链推理能力，显著提升组合泛化与分布外泛化水平。在局限维度，大模型根植于独立同分布假设与最大似然准则，本质为关联式统计拟合，难以实现真正的因果推理与外插泛化；成对注意力机制、下一词预测范式存在固有瓶颈，高阶交互、结构化信号处理能力不足，幻觉是长尾数据分布下的必然产物。报告主张理性认知技术边界，持续探索范式突破。

许志钦

上海交通大学

讲者简介：许志钦，上海交通大学自然科学研究院/数学科学学院教授。2012年和2016年分别获得上海交通大学学士和博士学位。2016年至2019年，在纽约大学阿布扎比分校和柯朗研究所做博士后。研究兴趣是深度学习基础与应用等，主要研究收录于《深度学习现象导论：从感知机到大模型》。

报告题目：凝聚现象与大模型推理

报告摘要：深度神经网络是一个复杂的系统，也存在许多令人难以理解问题，例如过参数化的模型为何常常泛化好，Transformer是偏好推理还是记忆等。本次短期课将从参数凝聚现象切入，对深度学习的泛化能力和语言模型的推理性能提供一些理解，并对实际的模型训练提供一些参考。

翁佳琪

阿里巴巴集团

讲者简介：翁佳琪，阿里巴巴集团安全部可信AI算法专家，从事大模型与智能体安全领域，负责AI安全技术从理论研究到产业落地的全链路实践，相关大模型安全研究成果发表于ACL、ICML等国际计算机顶会。所在阿里巴巴安全部可信AI算法团队，以守护人工智能安全向善发展为使命，探索让可信安全成为AI原生能力，赋能人工智能技术安全普惠、规模化发展。

报告题目：大模型可解释研究落地以及智能体安全审计实践

报告摘要：大模型可解释性机理研究成果如何落地是当前业界高度关注的核心问题。本次讲座聚焦大模型安全场景，重点讲解可解释性研究结论在提升模型多语种安全能力、实现多语种安全护栏高效迁移中的具体应用方法与实践效果。此外，智能体技术的快速发展，使得人工智能安全风险特征相较于传统大模型阶段发生了显著变化。讲座将结合真实生产环境，梳理当前智能体体系面临的典型安全风险，并分享团队在智能体安全审计、故障诊断方面的实践经验，为智能体时代的安全防护体系建设提供参考思路。

马彦彪

中国人民大学

讲者简介：马彦彪，中国人民大学高瓴人工智能学院讲师，研究方向包括大模型机理，智能体系统效率优化，多模态大模型图文理解，长尾学习和联邦学习。负责国家重点研发计划子课题，创新群体项目子课题，在人工智能国际顶级期刊和会议发表一作论文20余篇，获得CVPR等主办的国际竞赛冠军6项，长期担任TPAMI、TNNLS、CVPR等期刊和会议的审稿人。

报告题目：推理流形的几何信号：从大模型内部机理到智能体Token效率优化

报告摘要：大语言模型驱动的智能体面临严峻的Token效率瓶颈，现有优化方案缺乏对模型内部机理的深层利用。本研究从大模型推理的几何机理出发，发现推理过程是高维表征空间中的低维动力学过程，有效推理需同时满足表征表达力、流形压缩与非退化信息体积三重约束。在此基础上揭示两个关键应用：其一，模型接收Prompt后内部几何信号即编码请求难度，无需生成任何Token即可预判可解性，实现"先评估再执行"；其二，智能体多步执行中几何信号编码上下文效用差异，可指导动态裁剪与冗余压缩。上述发现已在TierFlow系统中集成验证，基于WildClawBench的36组实验表明可显著降低Token消耗并维持任务质量。本研究构建了从推理机理到智能体效率优化的完整链条。

杨林易

南方科技大学

讲者简介：杨林易，博士，南方科技大学统计与数据科学系助理教授，副研究员，博士生导师，长期从事自然语言处理（NLP）与大语言模型（LLM）融合方向的研究。他已发表学术论文40余篇，包括以第一作者发表11篇CCF-A类论文，总引用次数超过12,960次，GitHub项目累计获得10,000颗星，代表作CycleResearcher被评为AI自主科学发现年度十大突破。他曾获得国家优秀自费留学生奖项（爱尔兰仅1位）及CCIS最佳论文提名奖，担任ICLR、NeurIPS、ACL领域主席、IJCAI 2023高级程序委员会成员，主持和参与科研经费包括国自然重点项目，科技部重点项目等。

报告题目：大语言模型智能体的微调与评估

报告摘要：我们提出了一种面向自适应大语言模型智能体的新型学习范式，无需对底层大语言模型进行微调。现有方法往往存在两类局限：一类依赖静态、人工设计的反思流程，适应性不足；另一类需要对大语言模型参数进行梯度更新，计算开销较大。相比之下，我们的方法通过基于记忆的在线强化学习，实现了低成本的持续自适应。具体而言，我们将该过程形式化为记忆增强马尔可夫决策过程（M-MDP），并引入神经案例选择策略以指导动作决策。智能体将历史经验存储于可微或非参数化的情景记忆中，并根据环境反馈，通过记忆重写机制持续更新策略；同时，通过高效的记忆读取（检索）实现策略改进。我们在深度研究场景下构建了智能体模型Memento。该模型在GAIA验证集上排名第一，Pass@3达到87.88%，并在测试集上取得79.40%的成绩；在DeepResearcher数据集上，其F1值和完全匹配率分别达到66.6%和80.4%，优于当前最先进的基于训练的方法。此外，在分布外任务中，基于案例的记忆机制带来了4.7至9.6个百分点的绝对性能提升。该方法为构建无需梯度更新、能够持续实时学习的通用大语言模型智能体提供了一条可扩展且高效的技术路径，并推动机器学习向开放式技能习得与深度研究场景进一步发展。

时间：22026年9月18-20日

地址：北京•中国科学院计算技术研究所一层报告厅