返回首页
您的位置:首页 > 新闻 > CCF新闻 > CNCC

CNCC分论坛 | 当 Token 成为新尺度,AI Infra 如何重构?

阅读量:1 2026-10-17 收藏本文

当 Token 成为衡量 AI 算力价值的重要尺度,AI 基础设施正在经历从单点性能优化到系统效率提升的转变。异构算力如何高效协同?大模型推理如何突破性能瓶颈?智能体与科学智能又将带来哪些新的基础设施需求?

10 月 22 日,沐曦股份邀您相聚 CNCC 2026「Token 经济下的 AI Infra 机遇与挑战」专题论坛。六位来自产业界、学术界及开源社区的技术专家将齐聚成都,从底层芯片架构到上层智能应用,分享 AI Infra 领域的前沿研究与开源实践。

论坛主题:Token 经济下的 AI Infra 机遇与挑战

活动时间:2026 年 10 月 22 日 13:30–17:30

活动地点:CNCC 2026 中国计算机大会(成都市 · 中国西部国际博览城 4 号馆 404)

六场技术分享,拆解 AI Infra 关键命题

马涛|龙蜥社区理事长、阿里云智能集团研发副总裁

《从 Token 效率到 Agent 生产力:面向智能体时代的 AI Infra 开源创新》

当 Agent 成为新的计算负载,AI Infra 的效率标准将如何改变?马涛将结合阿里云的技术实践,分享 AI 编译、KVCache 管理、性能可观测等领域的优化思路,并探讨 Agentic OS 在高效运行、状态恢复与安全治理方面的创新探索,推动效率评价从单位 Token 成本延伸至任务完成的综合成本。

张家驹|vLLM 社区大使

《llm-d:打造跨负载、跨模态、跨硬件、跨平台的分布式推理平面》

当推理系统从单实例走向大规模分布式部署,如何保持性能优势?张家驹将以“四种异构、一个平面”为主线,介绍 llm-d 在 KV-cache 感知路由、Prefill/Decode 分离、分层缓存卸载与可扩展调度等方面的技术实践,并结合 Benchmark 数据分享最新进展。

宋卓然|上海交通大学计算机学院副教授、博士生导师

《大模型高效部署与优化技术研究》

面对大模型日益增长的计算与访存需求,如何从芯片架构层面突破效率瓶颈?宋卓然将分享大模型处理器芯片架构与系统研究进展,介绍稀疏数据并行处理、数据流优化,以及异构计算与高带宽数据交换等关键技术。

刘艳青|先进编译实验室研究员

《面向异构算力的推理实践:FlagOS 生态下的多芯适配与高效执行》

从“适配可用”走向“稳定高效”,异构算力如何释放更大价值?刘艳青将结合 FlagOS 开源生态实践,介绍推理插件机制、多芯适配、分布式执行与底层算子优化等技术,探讨如何提升有效 Token 产出效率,构建可持续的适配与性能优化体系。

赵学庆|沐曦股份产品研发部高级总监

《从 AI4S 模型到科学智能》

如何让 AI 从辅助科学计算走向自主科研?赵学庆将分享沐曦基于曦索 X 系列科学智能 GPU 与 MXMACA 软件栈的 AI4S 实践,通过开源模型、标准化 AI4S Skill 与科学智能 Agent 的协同,实现科研任务自动编排、算力调度与闭环验证,推动 AI4S 从单点模型向科学智能演进。

章文嵩|CCF 会士、常务理事、开源发展技术委员会副主任

《大模型时代云原生 InfraServices 的机会》

AI 应用加速普及,云原生基础设施如何承接新的计算与服务需求?章文嵩将围绕数据基础设施与 AI 服务基础设施的发展机会,探讨如何借助云原生架构和开源协作,降低 AI 技术应用门槛,推动智能服务开发框架、高性能算子库等领域的生态创新。

10 月 22 日,相约成都

从芯片架构、推理优化到智能体与科学智能,AI Infra 的演进正在对软硬件协同与开源生态提出更高要求。

沐曦股份始终坚持开放协同的技术理念,依托 MXMACA 全栈软件栈,持续推动国产 GPU 与主流开源框架、工具及应用生态的融合创新。面向 Token 经济时代,沐曦股份期待与更多开发者、科研机构及开源社区伙伴携手,让技术创新在开放协作中不断释放价值。