返回首页
您的位置:首页 > 新闻 > CCF聚焦

CNCC | 编译系统前沿技术与应用

阅读量:411 2024-10-04 收藏本文


图片

CNCC2024



论坛简介:

编译系统前沿技术与应用

举办时间:10月25日13:30-17:30

地点:秋苑-教室区(东6)

注:如有变动,请以官网(https://ccf.org.cn/cncc2024)最终信息为准



编译器作为连接程序设计与计算硬件的核心工具,在软件开发、性能优化以及异构计算平台的支持方面扮演着关键角色。随着人工智能、机器学习以及隐私计算等前沿技术的兴起,编译器的设计和优化也面临着前所未有的挑战与机遇,推动该领域进入新的发展阶段。然而,当前编译技术在应用落地中还面临诸多问题。例如,如何高效支持异构硬件架构,提升编译器在复杂计算环境中的性能,以及在数据安全日益重要的背景下,如何实现隐私保护与高效计算兼顾。此外,随着AI和学习算法的崛起,如何将这些技术有效应用于编译器优化,仍有大量技术难题亟待解决。针对这些问题,本次论坛将重点讨论如何通过编译器技术推动隐私计算、异构硬件支持、AI赋能优化等关键应用落地。同时,论坛将带来最新的编译器设计思路,分享实际应用中的创新解决方案。








论坛日程


顺序

主题

主讲嘉宾

单位

1

神经网络全同态编译器

陈文光

清华大学

2

敏捷编译技术——面向芯片衍生群的新型编译器设计方法

冯晓兵

中国科学院计算技术研究所

3

AI for Compiler的技术探索与应用实践

魏伟

华为技术有限公司

4

基于学习的编译优化技术

张为华

复旦大学

5

计算通信融合中的编译器设计

郑思泽

节跳动科技有限公司




论坛主席及嘉宾介绍


 论坛主席

图片


图片

赵捷

湖南大学教授 


CCF高级会员、体系结构专委执行委员,2009年本科毕业于清华大学计算机系,2019年于巴黎高师获得博士学位,主要研究方向包括张量编译器、基于多面体模型的代码生成与优化以及基础数学函数库等,华为MindSpore社区技术专家组成员,以第一/通讯作者身份在包括ASE、ISSTA、MICRO、MLSys、OSDI、PLDI、PPoPP等顶级会议和期刊上发表多篇论文,获MICRO-53最佳论文提名,军队科技进步二等奖、ACM SIGHPC新星奖、中原专家智库贡献奖二等奖、军队优秀硕士学位论文等奖项。


 论坛讲者

图片


图片

陈文光教授

CCF会士、学术工委主任,清华大学计算机系教授,蚂蚁集团技术研究院院长


清华大学计算机系教授,蚂蚁集团技术研究院院长。主要研究领域为操作系统、编译器与并行计算。YOCSEF荣誉委员;北京计算机学会副理事长;ACM中国理事会常务理事。

报告题目:神经网络全同态编译器


摘要:全同态加密是一种可以实现托管计算的隐私计算方法,但开发全同态应用面临开发门槛高、参数设置复杂、调试困难、硬件支持少等多方面的障碍。本报告介绍一个神经网络全同态编译器,可以自动将训练好的神经网络(如ONNX格式)编译为全同态程序,并通过一系列优化技术,达到优于手工优化的性能;通过多层IR设计,可以有效支持CPU、GPU以及特定的全同态计算硬件加速器。


图片

冯晓兵

CCF杰出会员,中国科学院计算技术研究所研究员,中国科学院计算机系统结构重点实验室副主任


中国科学院计算技术研究所研究员,博导。长期从事编译与编程方面的研究工作,主持了多项国家863、自然基金、重大专项和重点研发计划项目或课题,在国内外的学术会议和期刊发表了数十篇论文,部分研究成果应用于国产曙光并行计算机,以及龙芯、寒武纪和华为等芯片。

报告题目:敏捷编译技术——面向芯片衍生群的新型编译器设计方法


摘要:“开源与开放”的特性为RISC-V的发展带来前所未有的生机,也令传统的编译器适配方法疲态频呈。敏捷编译技术,基于“共性为干,个性为枝”的RISC-V衍生特点,着眼于人工智能大模型与资深专家研发经验的科学结合,研究自动的编译器组件构造方法,以自动代码生成代替人工,从而实现更高效的编译器适配过程。


图片

魏伟

华为毕昇编译器架构师


主要聚焦于编译器架构设计、编译器性能优化及软硬件协同优化设计,擅长高性能计算编译优化技术、软硬件协同优化、调测调优工具开发及新的编译技术研究方向探索等。

报告题目:AI for Compiler的技术探索与应用实践


摘要:此次报告主要介绍当前学术界及工业界在AI for Compiler领域的的最新探索方向及研究进展,并进一步思考Compiler与AI/LLM技术融合过程中所带来的挑战及机遇。最后,分享毕昇编译器团队在AI for Compiler上的最新应用实践及未来计划。


图片

张为华

复旦大学计算机学院教授、并行处理研究所所长


2007年复旦大学获博士学位,博士论文获“计算机学会优秀博士学位论文奖”。研究方向为体系结构、系统软件和并行计算。作为项目或课题负责人承担国家自然科学基金、重点研发、上海市科委重点和863等项目。已在TC、TPDS、MICRO、DAC和PPoPP等高水平国际会议和期刊发表论文60余篇。研究工作获得CGO2024、ICPP 2015和 ACA 2014 最佳论文奖。

报告题目:基于学习的编译优化技术


摘要:随着各种新型应用和硬件的蓬勃发展,编译技术已成为有效衔接应用和硬件,提升开发效率和硬件资源利用率的重要手段。已有编译技术及优化空间探索方法存在耗时大、开发成本高和对新硬件优化难等问题。基于学习的编译技术通过挖掘已有编译系统中存在的相关知识指导新的编译优化,是一种有效提升编译效率的方法。本报告将介绍基于学习的运行时优化技术及最新研究进展。


图片

郑思泽

字节跳动深度学习系统研究员


于2024年取得北京大学计算机学院博士学位,导师是梁云教授。郑思泽从事人工智能编译器研究多年,关注软硬件结合与高性能优化,在国际高水平会议和期刊发表论文18篇,代表工作有FlexTensor,AMOS等。他目前在字节跳动作为首批Topseed,从事大模型相关系统优化和编译器设计。

报告题目:计算通信融合中的编译器设计


摘要:随着大语言模型的广泛应用,大语言模型的训练和推理优化愈发重要。大语言模型参数量大,计算量大,往往难以在单个芯片上完成计算,因此,分布式训练和推理成为主流。然而,分布式场景引入的额外通信代价导致芯片算力利用率降低,造成资源浪费。将计算和通信延迟进行隐藏从而提高算力利用率成为当前学界和工业界关心的重要问题。计算通信融合技术通过细粒度调度技术,将计算和通信统一分块,在不同块的计算中隐藏通信延迟,提高整体计算利用率。但是计算通信融合需要人工重新设计并实现算子库,开发效率低,难以满足模型快速演进需求。为此,本报告将介绍使用编译技术自动化计算通信融合并进行代码生成,从编译器设计和代码优化角度报告工业界最新成果,并针对计算通信融合编译器未来发展方向进行预测。




关于CNCC2024




CNCC2024将于10月24-26日在浙江省东阳市横店镇举办,大会主题为“发展新质生产力,计算引领未来”。大会为期三天,包括18个特邀报告、3个大会论坛、138个专题论坛及34场专题活动和100余个展览。图灵奖获得者、两院院士、国内外顶尖学者、知名企业家在内的超过800位讲者在会上展望前沿趋势,分享创新成果。预计参会者超过万人。

图片