刘子韬：大语言模型数学推理能力提升既是挑战又是机会-新华网

第二十届中国计算机大会(CNCC2023)将于2023年10月26日-28日在辽宁省沈阳市举行。经过二十年的发展，CNCC已成为我国计算机学术与技术产业各领域广泛交流的平台。作为学术、技术、产业、教育各界在计算领域共同探讨交流的年度盛会，CNCC的影响力逐年递增。

在模拟人类对话及解决数学问题上表现出惊人进展的大语言模型，是近几年人工智能发展最热门的领域之一。然而大模型在以数学推理为代表的复杂推理上表现欠佳，难以应对数学领域的研究难题。暨南大学教授、广东智慧教育研究院院长刘子韬将围绕《大语言模型在数学领域的前瞻问题与挑战：理论、方法与应用》作精彩报告。围绕相关问题，刘子韬接受了新华网采访。

新华网：您的研究为何聚焦大语言模型在数学领域的前瞻问题与挑战？

刘子韬：我们主要想研究的是将大语言模型和教育相结合。在教育领域，数学是比较难的学科，从学科的角度上大家都想用AI去解决一些复杂的推理和数学问题，但一直难以突破。大语言模型应用以后，给解决复杂的数学问题给予了一些希望，所以我们在这个热点下，选择了更突出的数学学科。

新华网：大语言模型让更多人看到了人工智能未来的方向，请您介绍一下大语言模型是什么，它在自然语言处理领域有着怎样的重要意义？

刘子韬：大语言模型可以做出很多常识性的回答，具有初步的思维推理能力，可以对事物做出判断、想象、分辨。大语言模型的核心是在海量数据上训练，并且不是基于某一个具体任务来训练的大模型。自然语言理解的模型都是各个任务非常独立的小模型，假如进行一个多轮对话，这个多轮对话是一个任务，但其实背后是有很多个小模型，然后通过模块拼接的方式组合起来。大语言模型产生之后，因为模型足够大，有能力覆盖各个小模型的模块，就展示出更优秀的反应效果。

新华网：数学一直被视为人工智能的试金石。在解决数学问题中，大语言模型是如何解决复杂的数学问题的？

刘子韬：大型语言模型通过学习大量的文本数据，包括数学教材、教程、论文和问题解答等，来理解和生成数学相关的文本。它们并不直接理解数学的本质，而是学习如何模仿人类解决数学问题的方式。训练大模型如何解决数学题，分为两个层面。第一步是需要先给他提供很多的数学相关的数据，但这些数据并不一定都是数学题，有可能是论文、代码、科学文献、科学报道等。第二步我希望大语言模型在数学上有突破，就需要提供纯数学相关的公式、数据、内容。通过这两步让它在数学的解题推理上有一个提升。对于一些简单的数学问题，如基础的四则运算、开根号等，模型可以直接生成正确答案。这是因为在训练数据中，这些类型的问题及其解答很常见，模型已经学习到了如何解决它们。对于更复杂的数学问题，模型可能会尝试生成一种解决问题的方法或策略，这通常涉及到对问题的重新表述、将问题分解为更小的子问题、应用数学公式或理论等。然而，由于模型并不真正理解数学，它可能会生成不准确或无意义的解答。在这些情况下，人类的指导和监督是必要的。同时，也有学者在尝试把大语言模型应用在数学领域的定理证明上，有很多学者在研究上需要证明定理的时候，可能需要一定量的定理来证明和支撑新提出的定理，但是每个人都不可能知道世界上所有的定理，这个时候大语言模型就会帮你找到它认为和新定理相关的，你可能需要用的其他定理。

新华网：大语言模型发展过程中还存在哪些挑战和机遇？如何面对？

刘子韬：目前的挑战分为两个层面，一方面是从技术层面如何提升大语言模型的数学推理能力。相当于它是一个曲线，一开始可能上升的比较快，然后进入平缓期，我们目前还处于上升阶段，提升空间非常大。所以我觉得它既是机遇又是挑战，明明有很大的上升空间，但它确实很难提升。另一方面从应用层面来讲，大语言模型让人看到教育的另外一种可能，有很多其他领域的专家都在关注，它对教育的影响和变革非常多。面对挑战，我认为首先在探索阶段要持续投入的去研究，目前国内的研究团队还是比较分散的，并没有形成非常大的平台和基础设施。另外就是数据方面，我们需要让大语言模型“见多识广”，让它汇聚各种各样的高质量的知识。

新华网：2023CNCC恰逢20周年，您对本次大会有什么寄语？对人工智能的未来有哪些展望？

刘子韬：CNCC是一个让各方学者汇聚一堂进行交流的非常好的平台，在20年之际迎来新的阶段，我希望能够通过这个大会，未来能够不断的引领计算机的发展，促进各个领域行业的人才交流。

我们进入了新一代人工智能技术高速发展的时代，深刻感受到不断进化的人工智能技术带来的不断提升的用户体验。未来孕育着巨大的创新机遇，有非常多的机会值得去尝试研究。

【责任编辑：满旭蕊】