本文阐述了经典定理证明器的基本分类与思路,回顾了近期智能化定理证明技术的进展;介绍了近期典型的数学定理证明系统,以及定理证明技术在软件形式验证领域的应用情况;探讨了当前定理证明面临的主要挑战以及未来的研究方向。
本报告介绍LEGO-Prover。LEGO-Prover核心思想是模拟人类数学家“分解问题、引用已有知识、积累新定理”的迭代过程,通过构建一个不断增长的技能库(Growing Skill Library)来持续提升大语言模型的定理证明能力。与以往假设定理库固定不变的方法不同,LEGO-Prover采用模块化的“积木式”证明方式,先证明子目标引理,再组合这些引理完成最终定理的证明——这些引理既可从现有技能库中检索,也可在证明过程中由模型全新构造并加入库中。系统包含一个“证明器”(Prover)和一个“演化器”(Evolver),前者负责生成模块化证明并积累新引理,后者则对库中技能进行泛化与重构以提升其可复用性。在miniF2F基准测试上,LEGO-Prover将验证集和测试集的通过率分别从48.0%和45.5%提升至57.0%和50.0%,并在证明过程中生成了超过20,000个可复用的引理。该工作获ICLR 2024口头报告,其核心贡献在于证明了动态积累与复用证明知识能够显著提升AI的数学推理能力,为神经定理证明从“一次性求解”走向“持续学习”开辟了新的路径。
本报告介绍 Kimina-Prover,一个为形式化定理证明设计的大语言模型。该模型的核心是一种“推理驱动的探索范式”,旨在让模型模拟人类在 Lean 4 等证明环境中解决问题的策略。Kimina-Prover通过大规模强化学习(RL)进行训练。它采用了一种被称为形式化推理模式的结构化方法,通过迭代式地生成和优化证明步骤来构建证明。该模型在 miniF2F 基准测试中取得了 92.2% 的证明成功率。其独特的推理模式和RL训练也带来了高样本效率,且性能随计算资源增加而有效扩展。同时研究观察到了模型性能随其参数规模增大而明确提升的趋势,这一现象在此前的同类工作中较为少见。模型学习到的推理风格与传统搜索算法存在差异,展现出弥合形式化验证与人类数学直觉之间差距的潜力。此外,报告还会提及后续工作对该框架的扩展,包括引入“测试时强化学习搜索”以增强模型的自主证明能力,以及赋予其解读错误信息并进行自我修正的“错误修复能力”。
该报告介绍字节跳动Seed-Prover定理证明模型的设计思路。
自动化定理证明(ATP)传统上依赖于证明搜索,近年来,随着大语言模型的快速发展,AI赋能的定理自动证明已成为一种新范式。然而,由于现有证明数据的匮乏,基于人工智能的定理自动证明仍面临诸多挑战。针对组合恒等式定理自动证明问题,提出了一种融合大语言模型与强化学习的定理自动生成框架,通过融合人工形式化与定理自动生成方法,构建了一个基于Lean的组合恒等式形式化数据集,提升了模型的自动证明的效率和准确率;设计了LLM与符号计算融合的证明框架,将LLM的策略预测与经典的Wilf-Zeilberger(WZ)方法相结合,解决了此前单一方法难以处理的复杂恒等式证明问题。