CCF香港|香港高校和科技企业如何乘大模型东风顺势而上

2024年3月24日下午，《香港高校和科技企业如何乘大模型东风顺势而上》在香港理工大学赛马会创新楼成功举行。本次论坛由中国计算机学会（CCF）主办，CCF香港和CCF YOCSEF香港（筹）承办，CCF YOCSEF香港（筹）提名委员\香港城市大学副教授王诗淇和CCF YOCSEF香港（筹）提名委员\香港浸会大学助理教授韩波担任本次论坛的执行主席。与会代表包括，CCF香港副主任葛明，CCF YOCSEF总部主席高志鹏，CCF YOCSEF深圳主席张伟鹏以及来自香港、内地等地各大高校及企业届的三十余位代表。

会议开场由李平进行YOCSEF文化培训。他介绍了YOCSEF的历史、新定位和新目标，以及YOCSEF的使命和规则。

之后王诗淇介绍了本次论坛召开的背景和目的，简要介绍了最近大模型的发展趋势以及其对工业界和学术界带来的潜在机遇和挑战，并抛出本次论坛的主题：香港高校和科技企业如何乘大模型东风顺势而上。

第一位引导发言讲为CCF香港副主任葛明。他以“大模型在新型工业方面的技术与应用”为话题展开讨论。葛明首先介绍了香港创新科技发展蓝图，指出在创科蓝图中，重要的策略之一是：“推动科技产业发展，实现香港的'新型工业化'”，其中也包括协助传统产业通过创新科技进行升级转型，走向智能化制造。他认为，新型工业化的发展需要新技术的推动，而大模型技术带来了新的契机。随着人工智能领域的一次次重大变革，人工智能模型的成本结构发生了转变，从众多小模型的边际成本逐渐演变为一次性的大规模固定投资。这些拥有百亿至千亿级参数的大模型，经过海量数据和计算资源的深度训练，其能力得到了显着的提升。可以说，香港以其充裕的研发资金和坚实的学术基础，为大湾区的制造业等领域提供了新质生产力。借鉴内地大模型的成功应用案例，香港有机会快速迭代，促进本地技术的成熟与发展。然而，随着大模型技术的广泛应用，相应的监管框架、规范和管理制度的建立也显得尤为重要。这不仅涉及技术层面的规范，更关乎隐私保护和数据安全的重要议题。因此，平衡创新与风险管理，将是香港在推进新型工业化道路上必须考虑的重要因素之一。

第二位引导发言者杨美基是Simbury主席和Semiconductor Nanotechnology Alliance(SNA) 的创始主席。他以“大模型与软硬件应用与前瞻”为主题，首先介绍了芯片技术的进步，尤其是在半导体纳米技术领域，我们现在能够制造出更小、更快、更节能的计算设备。这些设备不仅提高了计算速度，而且降低了能耗，使得大模型的运算成本大幅度降低。同时，空间计算作为一种新兴的计算范式，它利用物理空间作为信息处理的介质，通过空间的多维度来增加计算的并行性和扩展性。这种计算方式在处理大规模数据时显示出巨大的潜力。当大模型与空间计算相结合时，我们可以期待在生产生活等方面取得突破性的进展。杨美基强调，为了充分发挥大模型和空间计算的优势，软硬件的协同发展是不可或缺的。软件需要能够有效地编排和管理硬件资源，同时硬件也要能够支持软件的高效运行。这就要求我们在设计和制造硬件时，就要考虑到软件的需求和特性，以及未来可能的发展方向。

 第三位引导发言者为香港城市大学的协理学务副校长张泽松。他结合自身丰富的经验探讨了“香港超算中心的发展及大模型为金融和教育的赋能”。张泽松从宏观的角度分享香港特区政府在科技创新和教育培养方面所做的努力和取得的成就。他提到，香港特区政府一直致力于推动科技创新，特别是在超级计算机和人工智能领域。香港超算中心的建立，不仅加强了香港在科技研发方面的竞争力，也为金融服务业和高等教育提供了强大的技术支持。张泽松还强调，大模型在金融分析、风险管理和投资决策中也发挥着越来越重要的作用，并且为教育界带来了变革。尤其是学校和研究机构可以利用大模型进行AI辅助的教学和科研，极大地提高了研究效率和教学质量。最后，张泽松展望了香港超算中心未来与大模型结合的发展方向，期待其在智慧城市建设、生物医药研究、环境保护等多个领域发挥更大的作用。

  合影茶歇后，志鹏进一步对思辨环节进行介绍，以及对上面引导发言进行了总结。

议题1：大模型对香港产业和创新会产生哪些影响？

李平首先发言，他强调目前学术界有个观点：虽然没有严格的数学逻辑证据，但是大家也看到了，就是说这个模型好像是越大越好。然而，如果那个模型越大越好，我们学者到底在研究什么，怎么应该发挥我们的数学功底和优势？

亚马逊云刘东屏进一步分析强调模型应该是为产业应用，而不是越大越好。同时，香港应该考虑基础科研，比如如何做出比transformer性能更加优异的模型，如何研究数据利用率，使得在有限数据和算力的情况下，能够更加高效的利用数据。

香港中文大学龙卓瑜进一步结合自己的研究方向强调大模型在垂直领域的应用，如供应链场景和电商，如何进一步的进行优化。其中一个比较关键的点是并不是参数量越多越好。例如当数据给定的时候，要拟合对应的参数，则小参数量也许拟合的效果更加显著。

香港数字孪生科技有限公司车伟涛强调大模型对香港的产业有着重要的影响，也相信它对创新的重要影响。然而，我们也要认识到香港和内地的区别。香港有很多很多传统的产业,例如物流仓库是一个国际上非常发达的产业。大模型如何在传统行业中的落地，也是我们非常需要思考的一个方面。

议题2：香港高校和科技企业在大模型方面有何优势劣势？

来自香港生产力促进局、工程及科技学会香港分会 - 制造及工业工程分部(IET Hong Kong - MIES)的罗咏婷首先指出，香港在研发方面，首先要强调快速应用。所以自己从头搭建模型肯定是很难的一件事情。因此，香港如何做应用创新十分重要，也很有优势。

香港理工大学范文琦指出，香港的教职体系比较独立，我们可以在这个制度下做自己喜欢的研究。然而，独立PI没有很大的支持去购买算力，因此可能需要和一些公司来合作。比如，我们在做一些酒店方面的聊天机器人，结合香港的一些优势产业来做，才可以取得成功。

香港科技大学邓锦亮指出，政府投资了很大的一个InnoHK中心做港版大模型。香港对大模型的发展也是很支持的，同时也有自己的独特的需求。同时，香港的数据非常具有独特性，如何挖掘这些数据同时保证数据的隐私和安全利用，则十分重要。

最后大家讨论认为，大模型的应用有多种场景，包括语言，图像，视频，三维数据，编程等。目前大部分的应用集中于文本。如何能集中力量，形成产业链，需要包括产业界，学界，政界的共同努力。

议题3：大模型在香港最先落地的产业会是什么？能否行稳致远？

香港理工大学郭径材指出大模型有两个赛道。一个赛道是国家的产业，那么这里面需要大数据和大算力。另外一个赛道是怎么样让大模型为所有人都可用。例如在有限资源条件下的模型训练。例如利用边缘计算训练模型，

香港都会大学的王伟明指出，最先落地的场景应该是医疗和金融行业。另外，落地的话则需要考虑数据的问题。例如，数据的监管问题则是十分重要的。如何应用好的数据去训练，如何让模型为善，则十分重要。

亚马逊云刘东屏分析大模型的应用是面向用户的而非公司。香港本身是十分有产业活力的，应该结合香港的产业政策和数据政策，促进大模型在各行各业的应用。李平强调，大模型的大小只是一个相对概念。现在的大模型十年以后也可能会成为小模型。例如优盘也是一样。目前的GPU性能已经突破了摩尔定律。

最后，罗咏婷和车伟涛探讨了大模型如何替代劳动力的问题。大家认为，大模型虽然会暂时替代劳动人口，但是会创造出更多的就业岗位。来自亚马逊云刘东屏也指出亚马逊在这方面的努力，例如提议培养使用大模型的人才，以适应社会发展的需求。

 论坛最后由李平做总结，他表示CCF YOCSEF香港（筹）第二次论坛的成功举办离不开各位的大力支持。大模型作为科技创新的推动力量，还有很多问题值得继续深入探讨。希望YOCSEF香港（筹）积极探讨大模型为香港各行各业赋能，为香港带来新的发展机遇。