走近图计算，走进新未来 | CNCC2021

张宇

华中科技大学

华中科技大学副教授、博士生导师，主要研究体系结构、运行时系统和高性能图计算。2016年6月在华中科技大学获得计算机系统结构博士学位，获得2017年ACM-Wuhan和湖北省计算机学会优秀博士论文奖，2020年ACM-Wuhan和湖北省计算机学会新星奖，CCF高性能计算专业委员会执行委员和CCF体系结构专业委员会执行委员，在国际期刊/会议上发表学术论文40余篇，其中以第一作者或通讯作者在CCF A类会议和IEEE/ACM Transactions期刊上发表10余篇，包括ASPLOS、HPCA、USENIX ATC、SC、ACM TOS、ACM TACO、IEEE TPDS、IEEE TC等，获评USENIX ATC 2018最佳论文提名和最佳存储相关论文。

廖小飞

华中科技大学

华中科技大学教授、博士生导师，国家杰出青年基金获得者，CCF分布式计算与系统专委会主任。主要从事大数据处理、系统软件、新型体系结构等研究工作。主持或参与多项863、重点研发计划、国家自然科学基金等项目（课题）。在重要期刊和会议上发表100余篇论文，获国家自然科学二等奖1项、国家科技进步二等奖1项、教育部技术发明一等奖2项、教育部自然科学一等奖1项，获2017年度CCF-IEEE CS青年科学家奖。

翟季冬

清华大学计算机系 长聘副教授

嘉宾简介：翟季冬，清华大学计算机系长聘副教授，博士生导师。现为清华大学计算机系高性能所副所长，ACM中国高性能计算专家委员会秘书长、北京智源青年科学家。主要研究方向包括高性能计算、性能评测和编译优化等。研究成果发表在相关领域顶级学术会议和期刊——SC、ICS、PPOPP、ASPLOS、MICRO、OSDI、ATC、IEEE TC、IEEE TPDS等。研究成果获ACM ICS 2021最佳学生论文奖、SC 2014 Best Paper Finalist、ICDCS 2020 Best Paper Honorable Mention奖。担任NPC 2018程序委员会主席、IEEE Cluster 2021领域主席、SC 2022领域副主席，SC、ICS、PPOPP等国际学术会议程序委员会委员。目前担任《IEEE Transactions on Computers》、《IEEE Transactions on Parallel and Distributed Systems》、《IEEE Transactions on Cloud Computing》等多个国际学术期刊编委。担任清华大学学生超算团队教练，指导的团队十一次获得世界冠军。获教育部科技进步一等奖、CCF优秀博士学位论文奖、IEEE TPDS杰出编委奖、国家自然科学基金优秀青年科学基金(2017)、CCF-IEEE CS青年科学家奖(2020)。

报告题目：理解和优化图神经网络系统性能

报告简介：图神经网络(GNN)因其在信息检索、推荐系统等领域的应用，最近引起了工业界和学术界的广泛兴趣。如何提高图神经网络系统的性能对许多应用来说至关重要。在这项工作中，我们对典型图神经网络系统的性能进行了深入研究，揭示了当前图神经网络系统存在的主要性能差距，特别是相比于传统图计算系统，图神经网络引入的特殊复杂性。针对发现的性能问题，我们提出一系列优化技术来填补这些差距。实验结果表明，在典型的GNN模型上，我们的优化技术能带来1.37倍-15.5倍的性能提升。

张岩峰

东北大学计算机科学与工程学院 教授

嘉宾简介：张岩峰，东北大学计算机科学与工程学院教授，博士生导师，CCF数据库专委会委员。主要研究方向为并行与分布式系统。承担国家自然科学基金、辽宁省重点研发计划等多项国家和省部级科研项目，承担CCF-华为数据库创新研究计划、阿里巴巴达摩院创新研究计划等校企合作项目。在SIGMOD、VLDB、PPoPP、SOCC等计算机学会推荐A/B类期刊会议上发表论文20余篇。曾获云计算国际会议ACM SOCC优秀论文奖、辽宁省科技进步二等奖等奖励。

报告题目：单调图计算的模型与系统

报告简介：图计算的单调性是指在图的迭代计算过程中，顶点或边的状态值是单调更新的。借助于图计算的单调性，可以实现异步无协调的分布式计算，节点之间不需要协调等待，且能保证结果的收敛性和正确性。另外单调性对于增量计算也是非常好的特征，非常适合处理动态变化的大图数据。本报告介绍单调图计算的理论模型基础，图计算程序单调性的自动检验，以及非单调图算法到单调图算法的自动转换。并对近年来面向单调图计算的系统优化技术和分布式图计算系统进行总结汇报。

杨智

北京大学计算机科学技术系 副研究员

嘉宾简介：杨智，北京大学计算机科学技术系副研究员。2005年本科毕业于哈尔滨工业大学，2010年博士毕业于北京大学（计算机系统结构）。主要研究兴趣为分布式系统，包括图计算系统、深度学习系统、资源和数据管理系统等，目前致力于深度学习模型的分布式并行、计算优化、系统设计方面的研究。已取得的成果包括第一个可以大规模执行的图神经网络系统NeuGraph，深度神经网络编译器Rammer等，目前在OSDI、ATC、SIGMOD、VLDB、KDD、SoCC等高水平国际学术会议上发表论文40余篇。获得过高校科学研究优秀成果奖、湖北省科技进步一等奖、中国电子学会科技进步一等奖。

报告题目：HETU：基于图计算的大规模嵌入模型训练系统

报告简介：嵌入表示模型(Embedding models)已被认为是一种有效的学习高维数据的范式，能够将高维稀疏向量转化为低维稠密向量，广泛应用于推荐系统、图系统、自然语言处理系统。然而，模型的参数化表示导致巨大参数空间。我们发现已有的分布式训练框架在支持嵌入模型面临严重的可扩展性问题，更新和读取共享大规模嵌入参数的通信代价成为训练主要的瓶颈。本次报告将介绍HETU，一种用于大规模嵌入模型训练的高效分布式系统。该系统的独特之处在于从图计算的视角来设计和优化嵌入模型的训练效率。HETU提出异构图抽象来表示数据样本和嵌入向量之间的访问关系，提供了发掘模型参数访问的局部性和不规则性的优化机会。系统通过新的图切分算法，实现了大规模嵌入模型在GPU集群上的高效自动并行，并提出基于图的有边界一致性(Bounded Staleness)协议来进一步降低模型同步的通信开销。结果表明HETU能够支持10^11参数规模的嵌入模型训练，相比最先进的基线系统，HETU能够减少87.5% 的通信开销和达到27.5倍的性能加速。

李超

上海交通大学计算机科学与工程系 长聘副教授，CCF体系结构专业委员会 副主任

嘉宾简介：李超,上海交通大学计算机科学与工程系长聘副教授,博导，CCF/ACM/IEEE高级会员。研究可持续可扩展的高性能计算机体系结构, 在包括CSUR、TC、TPDS、ISCA、HPCA、MICRO、SC等在内的国内外学术期刊和会议上发表论文70余篇, 获高水平期刊会议的最佳/焦点论文奖4项，申请国内外发明专利20余项。博士期间研究成果曾获佛罗里达大学工学院Gator工程师奖, Facebook Fellowship奖研金, Yahoo！KSC重点科技挑战奖, 以及教育部国家优秀自费留学生奖等荣誉。入职交大以来, 先后入选“CCF-Intel青年学者提升计划”, “CCF青年人才托举计划”, 微软亚洲研究院“铸星计划青年访问学者”, 2018年获IEEE 计算机协会可扩展计算技术委员会TCSC的可扩展计算优秀青年奖, 2021年入选上海市青年科技启明星计划。李超是CCF体系结构专委会的副主任兼常委、CCF青年计算机科技论坛2019-2020届上海主席, CCF杰出演讲者。曾任第12届CCF全国计算机体系结构学术年会ACA的程序委员会主席, 第39届IEEE国际可靠分布式系统学术会议SRDS的程序委员会共同主席。目前担任国际期刊IEEE Transactions on Computers的编委。研究成果获得教育部科技进步奖一等奖1次（排名第七）。李超本科毕业于浙江大学, 博士毕业于美国佛罗里达大学。

报告题目：基于GPU统一内存优化的图计算框架设计

报告简介：图提供了群体的一种抽象，可以描述丰富的对象和关系。GPU具有较好的并行度和内存带宽优势，被广泛应用于图计算加速。然而，由于图计算负载具有复杂性，基于GPU的异构图计算系统存在访存效率不高，资源利用率差等问题。本次将汇报我们在GPU图计算框架方面的研究，尤其是在GPU统一内存(Unified Memory)管理优化方面的设计思考。

钱正平

阿里巴巴达摩院智能计算实验室 资深技术专家

嘉宾简介：钱正平博士现任阿里巴巴达摩院智能计算实验室资深技术专家，他带领团队负责围绕阿里巴巴内外诸如图计算、机器学习等新兴应用的系统研发和商业解决方案构建。加入阿里之前，钱博士是微软亚洲研究院的主管研究员。他的研究兴趣是分布式计算，在OSDI、NSDI、EuroSys、VLDB等国际顶会发表多篇论文，并获得EuroSys 2012最佳论文奖和VLBD 2020最佳论文提名(Runner-up)奖；同时研究对应的大部分系统工作都被成功应用于阿里或微软大规模生产实践。钱博士2009年毕业于华南理工大学，获得计算机博士学位。

报告题目：大规模交互式子图模式挖掘与应用

报告简介：图模型可以自然表达数据间的复杂关联。诸如搜索推荐、安全风控和金融预测等很多重要领域都强依赖图计算技术和利用数据间的关联结构特征来增强大数据分析的效果，从而为用户提供更精准和可靠的信息。子图模式挖掘是一类重要的图计算方法，它允许领域专家直接探索图数据和挖掘具有可解释性和易于理解（和可视化）的特征和获得深入的数据洞察。本演讲将汇报真实子图模式应用驱动的两项研究工作，它们分别解决分布式模式挖掘计算效率问题和改进（经典）子图模式在需求表达上的不灵活性。同时我们也呼吁更多研究者和领域专家投入这个非常有前景的新兴图+AI应用方向。