形式化证明与大模型：共创可验证的AI数学未来｜量子位直播

于 2025-05-27 11:53:32 发布
阅读量49 收藏
点赞数
文章标签： 人工智能
原文链接：https://mp.weixin.qq.com/s?__biz=MzIzNjc1NzUzMw==&mid=2247797296&idx=3&sn=7a29dd86c6ffbccca07eb417ebd19d80&chksm=e9825d86caa7ad726fe35e2d2d5cd076638163c567f0f672490c7e18c81d51e7ea2f4718b220&scene=126&sessionid=0
版权
林樾 发自 凹非寺
量子位｜公众号 QbitAI

就在5月，前有DeepSeek Prover V2发布，后有陶哲轩的AI数学直播，还有谷歌最新发布的AlphaEvolve。

大模型“解数学题”的能力已经是衡量AI「智能天花板」的一种方式，正吸引着无数团队争相挑战。

为了更好地评估AI完成数学推理的能力，近期发布的FormalMATH基准测试也备受关注。

现在，AI完成自动定理证明的表现与挑战究竟如何？主流的技术路径是什么？AI完成形式化证明的能力，又将对大模型应用带来怎样的影响？

为了回答这些问题，5月29日20:00，我们与2077AI开源基金会共同邀请到了来自FormalMATH、Kimina等项目团队的成员，一同来讨论大语言模型形式化证明前沿探索。

点击下方按钮，一键预约直播 

直播嘉宾（不分先后）

辛华剑，爱丁堡大学博士生，字节跳动Seed实习生

刘威杨，香港中文大学博士生导师，助理教授

付杰，上海人工智能实验室青年科学家，上海创智学院博士导师

郁昼亮，香港中文大学博士生

王海明，月之暗面（Moonshot AI）研究员，Kimina Co-author

刘征瀛，月之暗面（Moonshot AI）研究员，Kimina Co-author

李祎哲，浙江大学博士生，数学领域青年研究者

刘明皓，资深算法工程师，2077AI核心发起人、贡献者

直播议程

本周四晚20:00，一起来聊聊AI数学吧～

一键三连「点赞」「转发」「小心心」

欢迎在评论区留下你的想法！

QbitAl
关注
博客
波士顿动力机器人进厂打工现逆天操作！3D感知+实时追踪，人类捣乱完全不带怕的
05-29 24
据介绍，Altas的一系列功能升级源于波士顿动力团队对Altas感知系统进行的全新设计，融合了2D与3D感知技术、物体位姿追踪，以及基于物理特性的精确校准方案。而这背后是一套精心设计的摄像头和运动校准程序，用于补偿机器人机身制造和组装中的不精确性，以及因温度变化或反复物理冲击等外部因素导致的随时间产生的物理变化。所以，当有人移动Atlas身后的固定装置时，机器人会迅速识别预期位置与实际位置的差异，重新定位装置，并相应地重新规划行为。除了检测和识别所有固定装置外，系统还。
博客
华为攻克AI推理「想太多」问题！新方法让大模型推理提速60%，准确率还高了
05-29 15
移除掉Serial-Group Generation的设计后，S-GRPO退化成GRPO，模型在准确率和推理长度上取得了与w/o. Decaying（All 1）相近的表现，这说明作为S-GRPO中不可或缺的一环，Serial-Group Generation的设计本身不会损害模型在RL中的探索能力。消去对短输出提供高回报的设计，即所有对正确的采样结果都给予高回报，会导致模型推理依旧冗长，这是由于更长的推理更容易取得正确的结果，模型会收敛到探索长序列推理的方向。
博客
视频推理界的“福尔摩斯测试”：所有大模型，统统不及格 | 论文代码开源
05-29 332
除此之外，团队进一步还分析了模型的推理过程，结果显示，现有模型整体上能够正确感知视觉信息，但它们普遍在线索串联信息（推理能力）上欠缺，以及容易遗漏关键的视觉信息。即使是较为前沿的模型，在这些基准上的提升也非常有限（如从 68.3% 到 69.4%），难以验证模型的真实推理能力。，目前已经上线到了GitHub和HuggingFace，有做视频推理相关的小伙伴，可以去挑战一下了（地址见文末）。注：Video-Holmes的标注、构建、测试、推理过程分析的资料和代码，以及论文全部都开源啦（见文末）~
博客
英伟达再创历史纪录！Q1收入增长69%，数据中心贡献89%，游戏业务大涨42%
05-29 8
前不久，黄仁勋在中国台湾之行中也提到，在2021年初，英伟达在中国AI市场拥有95%的市场份额，但如今这一比例已下降到只有50%。GAAP毛利率为60.5%，低于去年同期的78.4%，主要受H20产品库存减值和出口限制的影响。其中，数据中心业务仍是英伟达的核心增长驱动力。但在出口限制的影响下，H20芯片的损失也在扩大，预计下一财季将达到80亿美元。非GAAP毛利率为61.0%，若排除H20库存相关费用，毛利率可达71.3%。中国有很多本土AI芯片，如果没有英伟达的AI技术，中国客户将会使用本土技术。
博客
不懂建模也能做角色！VAST升级AI神器，一手实测来了：一键拆建/魔法笔刷/万物绑骨
05-29 6
从单纯提供算法，到用完整的工作台承接3D创作者的用户意图，体验之后才能发现Tripo Studio提供的这些功能不是简单的效率提升，而是“流程再造”——传统3D建模需要美术、拓扑、绑定、贴图等多岗位协作，现在一个非专业人士就能通过Tripo Studio完成全流程，这种“去专业化””能力正是“成果型产品”的核心特征。在CG领域的技术应用实践中，过往行业对市面其他3D生成算法工具的尝试（包括Tripo自身），普遍面临AI生成3D模型的局限性——若要将其纳入工业化管线，仍需大量手工调整以适配流程需求。
博客
SOTA大模型遇上加密数据评测：Qwen3未破10%，o1也栽了丨上海AI Lab等联合研究
05-29 21
在CipherBank评测中，Claude-3.5-Sonnet和o1表现最佳，DeepSeek系列略优于通用模型，而 GPT-4o、Gemini等模型表现平庸，Qwen2.5, Llama3.1, Llama3.3等开源模型表现较差，即使是最新发布的Qwen3系列模型表现也不尽人意，30B和32B的模型准确率均未超过10%；： 文本越长，模型越容易出错！：改进模型的思考流程，避免在看似简单的任务上“过度思考”或陷入不必要的递归修正，确保推理过程更加直接、高效和稳定，能够精确无误地执行推断出的解密步骤。
博客
基准测试揭秘大模型“字数危机”：26个模型长文本生成普遍拉胯，最大输出长度过度宣传
05-29 4
，除此之外模型还有假遵循现象：有些模型生成后自信满满地“认为自己已经完成了任务”，但实际结果却大相径庭：这种现象表明，模型更像是在“自我感觉良好”，而非真正理解并执行了指令。分析表明，当前 LLMs 在长度指令执行上仍存在显著问题，尤其在长文本限制下，生成长度常低于声称的能力范围，甚至表现出“提前结束””的倾向。在要求遵循长度指令的同时，还需要生成特定格式（如Markdown、HTML或LaTeX）时，模型的表现进一步恶化，复杂格式让模型“抓狂”：格式越复杂，模型越容易出错，甚至格式和内容双双崩溃。
博客
搜索Agent最新高效推理框架：吞吐量翻3倍、延迟降至1/5，还不牺牲答案质量丨南开& UIUC研究
05-29 17
基于上述洞察，SearchAgent-X通过智能调度与自适应检索，最大限度减少延迟，最大化GPU资源利用率，尤其提升KV-cache的有效利用。在Musique, NQ, HotpotQA等六个代表性数据集上的评估表明，SearchAgent-X在生成准确率上，与采用精确检索的基线系统。有趣的是，在某些数据集上，由于近似检索带来的轻微扰动促使模型进行额外推理，其准确率甚至略有提升。在由多个异步组件构成的复杂AI系统中，微小的延迟和不当的资源调度会被急剧放大，造成雪崩效应。现象：异步检索和生成可能时间错位。
博客
AI连电路图都看不懂？SeePhys新基准暴击多模态短板，正确率低至55%
05-29 6
然后，归纳得出了9种错误的推理模式，包括视觉误读、文本误读、建模错误、错误假设、数值计算错误、过度简化、总结错误、过度思考和重复输出。研究团队对强模型o4-mini, Gemini-2.5-Pro与弱模型Qwen2.5-VL-3B共同错误的100个样本进行人工分析。的推理能力评估中大放异彩，而物理学由于其具有与真实场景的强相关性和更复杂的图像信息，正在多模态测评中得到越来越多的重视。，且模型在视觉依赖性较低的问题中准确率远高于视觉信息富集的问题，暴露了当前顶尖MLLM仍存在巨大的视觉-文本对齐问题。
博客
DeepSeek新版R1直追OpenAI o3！实测来了：“小版本升级”着实不小
05-29 15
Unsloth本来想抢个DeepSeek新模型的消息首发，准备了个文章模板，没成想让搜索引擎给爬了，于是乎社区开始疯传……也能做对难倒o3、Gemini 2.5 pro、Claude 4等一众顶流大模型的数字新难题“。当时，官方的说法也只是“小版本升级”。同样，网友们实测下来的感受是“这都算小什么算大”在讨论当中，大家也重新提及了DeepSeek今年3月份对V3进行的升级。而现在的R1-0528，很有可能就是在V3-0324的基础上修炼的。官方还没有更新模型卡，不过网友们已经迅速整理出了更新亮点：。
博客
奖励是假的，能让Qwen提升25%性能却是真的！
05-29 2
例如，在MATH500基准上，使用错误标签奖励进行训练可提升24.6%，而基于真实答案的RLVR提升幅度只有28.8%，即使是提供纯噪音的随机奖励，也仍能带来 21.4%的性能提升。：故意提供错误的监督，只奖励错误答案，即先用多数投票法标注所有训练数据，选择错误标签的子集进行训练，并给予对应的响应奖励。通过分析Qwen2.5-Math-7B和OLMo2-7B的推理轨迹，团队发现预训练期间，模型学习到的。因此团队证明，即使是完全错误的奖励或随机奖励，也能在Qwen2.5-Math模型中激发性能提升。
博客
开源AI开发生态大洗牌：低代码平台逆袭，传统LLM框架日渐式微
05-28 676
同时，为了呈现当下最顶尖的和最火热的开源项目，蚂蚁选择了华东师范大学X-lab实验室的OpenRank影响力评价指标作为一个重要的数据依据——只有今年的OpenRank月均值大于10的项目，才会出现在全景图上。就在第十届527蚂蚁技术日上，蚂蚁通过Coding范式、数据、模型部署等角度，对现有开源生态进行了全面完整的大剖析，从数据的视角揭示了大模型开源生态的演进规律，如果你是大模型开发者或者潜在的开发者，可以说，蚂蚁的这份报告，对当今的开源生态进行了鞭辟入里的分析，那么，它又能给从业者带来什么样的思考呢？
博客
北大校友王虹，将任法国高等研究所常任教授！2/3前辈为菲尔兹奖得主
05-28 16
这5位数学家每一位都在数学界声名赫赫，包括分别在1998年和2022年获得数学最高奖——菲尔兹奖的Maxim Kontsevich和Hugo Duminil-Copin，2018年菲尔兹奖获得者Peter Scholze的合作者Dustin Clausen等等。此前，1994年菲尔兹奖获得者Jean Bourgain，以及2009年阿贝尔奖获得者Misha Gromov，都是IHES在相关领域的代表人物。IHES的公告中还表示，加入IHES后，王虹将延续IHES在数学分析和几何方面的卓越传统。
博客
阿里通义发布并行计算新策略：1.6B等效4.4B，内存消耗骤降95%
05-28 16
当P=8时，1.6B参数模型在HumanEval的性能（Pass@1=39.1%）接近4.4B参数模型（Pass@1=45.4%），但内存占用仅为后者的1/22，延迟增加量为1/6。由此提出假设：并行计算的规模（如路径数量）可能是提升模型能力的关键因素，而非仅依赖参数规模或推理时间的串行扩展（如生成更多token）。KV缓存区分：在Transformer的注意力层中，不同路径的键（K）和值（V）缓存相互独立，确保各路径的计算互不打扰，增强输出多样性。且该策略使训练成本降低约 98%
博客
Claude 4破解困扰人类4年系统bug，30年码龄程序员200小时没搞定，GPT-4.1/Gemini-2.5也做不到
05-28 18
老哥表示，他之前尝试过GPT-4.1、Gemini 2.5、Claude 3.7等高级AI模型，但这些模型都没能找到头绪，Opus 4是第一个成功定位问题的。4年前，因为一次设计6万行代码的大规模重构，系统里突然出现了一个bug：在一个特定shader（着色器）被特定使用方式下，出现了一个边界条件下的问题。这位老哥自称有30年C++开发经验，在目前的团队里承担“技术支援”的角色，大家卡了一周的问题，他当场就能解决。过去几年里，他一直在尝试解决这个问题，零零碎碎花了有200个小时时间，都没能定位和修复它。
博客
港科大Apple新研究：Tokens使用量减少，模型推理还更强了
05-28 18
经过Laser和它的进阶方法Laser-D、Laser-DE训练后的模型，相较于训练前模型或者其他方法训练的模型，在准确率（Accuracy）和Tokens使用效率（Efficiency）上，同时取得了显著的提升。同时，研究人员还发现，经过训练的模型的思考过程里，冗余的“self-reflection”的比例大大降低，呈现出了一种更加健康的思考模式。表中最右侧的可视化图片，展示了不同的方法对应的奖励函数的不同形状，其中蓝线代表正确的回复对应的奖励函数，红线代表错误的回复对应的奖励函数。
博客
大模型玩不好数独？！Transformer作者初创公司公布排行榜：o3 Mini High“变异数独”正确率仅2.9%
05-28 30
该公司还发布了一种名为“连续思维机器 (CTM)”的新型AI模型，通过像人类一样“逐步”思考并学习世界的内部模型，超越了简单的模式识别，并获得了逐步解决迷宫等复杂问题的能力。，前者一出场就独自完成了十篇完整的学术论文，包括但不限于扩散模型方向、Transformer与强化学习等，引起了不小的轰动。为了给模型一个公平的机会，团队为模型提供了部分完成的谜题，并评估它们完成谜题的能力。，从当前模型可以解决的简单问题到甚至最先进的推理模型也无法处理的极其困难的问题。
博客
一个省略号提示+强化学习搞定大模型“过度思考”，中科院自动化所新方法：从强制推理到自主选择
05-28 19
在复杂问题中，能显著提升答对率，避免“拍脑袋”行为。为了鼓励模型尽可能在不思考的前提下答对题目，首先设计了一个基础奖励函数 (naive reward)，在答对的前提下“不思考”奖励最高（+2），答错且不思考惩罚最重（-1），体现了“能不想还答对最好，答错就该罚”的原则。为了教会模型自主思考，团队设计了一个三阶段的强化学习策略，从最基础的模式稳定，到行为优化，再到推理剪枝。通过这两者的结合让模型具备了类似人类的“任务感知能力”：简单问题不浪费思考，复杂问题多加推理，真正做到“按需思考”，如图1所示。
博客
马斯克星舰第九次试飞失败，为测试极限拆除100块隔热瓦，返航途中燃烧解体
05-28 60
在2025年1月16日的第七次发射中，星舰飞船级因意外强烈的谐振反应引发推进剂泄漏并导致解体。针对前两次发射失败，这次任务也包括验证针对先前故障所做的改进，并进一步推进系统的成熟度。按计划，助推器还将尝试多项飞行实验，以收集未来飞行剖面和异常场景下的真实性能数据。直播间解说员随后确认“，其大部分硬件沿用此前经过测试的部件，包括33台猛禽发动机中的29台。在发射后约37分49秒，在太空中重启一台猛禽海平面发动机，收集数据。星舰上升段燃烧已完成，标志着星舰进入预定的轨道，正在太空滑行。
博客
单卡即可微调大模型！内存占用仅1/8，性能依然拉满 | ICML 2025
05-28 87
比主流的LoRA MoE变体，在Mt-Bench中超越4.2%，GSM8K中超越6.3%，HumanEval中超越3.1%，逼近全量微调水平；：在CLIP-ViT微调中，仅用2.24%参数即达到全参数微调99%性能，超越主流LoRA变体6%，主流LoRA MoE变体2.4%；如果在微调LoRA MoE的过程中，对每个专家，在初始化时保证LoRA专家的等效权重与全量微调MoE的专家权重一致。，LoRA MoE就可以与全秩微调的 Upcycled MoE 在每一步优化都实现对齐，理论上能达成相同的性能。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值