CCF南京举办大模型推理系统前沿技术研讨会

2025年6月15日，CCF南京在南京举办了《大模型推理系统前沿技术研讨会》，江苏省计算机学会为该研讨会交流提供支持。本次研讨会聚焦大模型推理系统全栈优化关键技术，邀请了5位领域内的专家学者，围绕5个具体主题与参会人员交流讨论，论坛共吸引了70余位相关领域的科研人员、工程技术人员和高校师生现场参与，围绕产学研协同创新展开深入交流。

论坛由南京大学顾荣研究员（CCF南京秘书长）主持，在专题报告环节，五位引导专家分别就大模型数据去重压缩研究、大模型时代的数字基座、面向英伟达GPU的分离式算子混部技术、端侧大模型稀疏推理框架、面向大模型推理的高效KV缓存与模型缓存技术作了前沿发展剖析。接着，在场参会人员与五位专家围绕大模型推理这一实现人工智能技术应用价值的核心环节，深入讨论了数据压缩优化、基础设施构建、异构计算调度、边端推理优化以及缓存机制设计等多个前沿方向面临的关键问题与最新技术突破。本次研讨会的内容前沿务实，观点深刻新颖，引发了现场参会者的广泛关注与热烈讨论，现场交流气氛热烈，学术氛围浓厚。

近年来，随着新一代人工智能技术的迅猛发展，大模型在多个行业领域展现出广阔的应用前景。CCF南京积极参与活动的组织协调工作，为活动的顺利开展提供了有力保障。本次活动不仅拓宽了参会者在人工智能、大模型推理等领域的知识视野，也为高校、科研院所与企业之间搭建了深度交流的平台，促进了产学研的深度融合。展望未来，CCF南京将继续发挥桥梁纽带作用，积极组织参与各类高水平学术交流活动，为会员提供更多参与学术前沿的机会，推动南京地区计算机学科的发展和产业创新，为构建未来信息社会发展贡献力量。