图灵奖得主姚期智和月之暗面创始人杨植麟联手发布论文,推出 TCSExam 评测基准,专门用来测试前沿大模型在理论计算机方向的科研能力,这份评测结果打消了前段时间 “AI 马上取代数学家” 的恐慌,所以才说让数学家松了一口气。这套基准一共 100 道研究级题目,用 Lean4 形式化证明工具自动核验答案,同时测试定理证明、求解器工程、数学构造、开放猜想四类任务,一共拉了 9 款主流大模型参与测试,结果显示顶尖模型虽然能搞定一部分中等难度证明、甚至做出少量优于人类公开记录的数学构造,但面对真正的开放猜想依旧能力不足,AI 更适合当成数学家的辅助工具,而不是直接替代研究者,也给后续 AI 数学能力的研究划定了清晰的测试标尺。
一、TCSExam 评测基础信息
| 项目 | 详情 |
|---|---|
| 论文名称 | TCSExam: Evaluating Frontier LLMs on the Full Range of TCS Research |
| 发布时间 | 2026-11-05,arXiv 上线 |
| 作者团队 | 清华大学交叉信息研究院、上海期智研究院、月之暗面 |
| 评测题目总量 | 100 道理论计算机科研原题 |
| 核验工具 | Lean 4 形式化证明器、可执行程序校验器 |
| 参评模型数量 | 9 款前沿大模型,含 GPT-6 Astra、Kimi K3.1 Pro 等 |
| 开源情况 | 评测基准、题目集、验证代码在 GitHub 开源 |
二、四类评测任务说明
- 定理证明:不给辅助引理,让模型独立写出可通过 Lean 核验的完整形式化证明,一共 20 道近年公开研究定理
- 求解器工程:要求模型写出通用求解代码,不是单题答案,代码要能批量处理测试样例
- 数学构造:产出图、编码方案等数学对象,附带证明凭证,目标是尝试超越现有人类公开构造结果
- 开放猜想:选取还没有公认解法的前沿猜想,测试模型能不能提出有效研究思路
三、核心评测结果
- 定理证明:GPT-6 Astra 成功率 70% 排名第一;Kimi K3.1 Pro 38.3% 第二;其余模型最高仅 11.7%
- 数学构造:GPT-6 Astra、Kimi 都做出了优于已有公开记录的构造,Kimi 刷新一道无三角无四边形图论构造结果
- 开放猜想:所有参评模型都无法真正解决开放猜想,只能给出一些参考思路,没有可靠证明
- 整体结论:大模型在结构化、中等难度的 TCS 问题上已经具备不错辅助能力,但距离独立攻克前沿数学难题差距很大
四、为什么这份结果会让数学家松一口气
- 破除极端预期:之前 OpenAI 放出大量 AI 数学手稿,很多人炒作 AI 很快搞定数学猜想、替代数学家,这次评测证明开放猜想仍是 AI 的短板
- 能力边界清晰:AI 擅长写证明、构造例子、写求解代码,但是不具备自主的深度数学洞察力,没法独立完成突破性猜想攻坚
- 定位回归辅助:AI 更适合做数学家的助手,帮忙试构造、写形式化证明、快速验证小结论,而不是替代研究者思考
- 评测标准规范化:TCSExam 用机器自动核验,避免人工主观打分,以后大家评估 AI 数学能力有统一标尺
五、当前这套评测的局限
- 只覆盖理论计算机科学方向,不包含数论、微分几何等其他纯数学分支
- 题目总量 100 道,对于浩瀚的数学研究来说样本有限
- Lean 形式化门槛高,很多人类数学成果本身没有转换成 Lean 代码,会带来评测偏差
- 测试只看单次输出,没有测试长时间迭代、多轮科研探索的智能体能力
【相关 FAQ】
问题 1:姚期智杨植麟联手推出 TCSExam,为什么说让数学家松了一口气?
回答 1:姚期智杨植麟联手推出 TCSExam,评测结果证实大模型没法解决前沿开放数学猜想,AI 只是科研辅助工具,不会短时间取代数学家,打消了 “AI 淘汰数学家” 的焦虑,所以让数学家松了一口气。
问题 2:姚期智杨植麟联手的 TCSExam 评测,用什么工具校验 AI 给出的数学证明?
回答 2:姚期智杨植麟联手的 TCSExam 评测,依靠 Lean 4 形式化证明器自动核验 AI 的证明,不是人工阅卷,保证证明逻辑严格可查。
问题 3:姚期智杨植麟联手的 TCSExam 评测里,Kimi K3.1 Pro 表现怎么样?
回答 3:姚期智杨植麟联手的 TCSExam 评测里,Kimi K3.1 Pro 定理证明成功率 38.3%,排在第二位,还在图论构造题上刷新了公开最优构造结果。
问题 4:姚期智杨植麟联手的 TCSExam,能不能用来评估所有方向的数学 AI 能力?
回答 4:姚期智杨植麟联手的 TCSExam 聚焦理论计算机科学 TCS 方向,暂时不能覆盖数论、几何等其他纯数学分支,有适用范围限制。
【参考资料】
[2026-11-11](姚期智杨植麟联手,让数学家松了一口气)凤凰网科技
[2026-11-10](姚期智、杨植麟联合署名论文:9 个前沿大模型,如何挑战理论计算机科学难题)澎湃新闻
[2026-11-10](姚期智杨植麟首次共同署名论文,Kimi 刷新一项图论构造公开最优结果)智猩猩
[2026-11-05](TCSExam: Evaluating Frontier LLMs on the Full Range of TCS Research)arXiv
【免责声明】
本文信息全部来自 arXiv 论文、公开媒体报道,不构成学术和投资建议;TCSExam 评测结果、模型能力随版本迭代持续变化,AI 数学研究后续进展请以论文作者、模型厂商官方发布为准。
本文来自作者[星矢流码官]投稿,不代表乌兰科技网立场,如若转载,请注明出处:https://www.wlcbnews.com/rgzn/202611/1543.html
评论列表(4条)
我是乌兰科技网的签约作者“星矢流码官”!
希望本篇文章《姚期智杨植麟联合推出 TCSExam 基准,给大模型数学能力划清边界》能对你有所帮助!
本站[乌兰科技网]内容主要涵盖:互联网行业的追踪与探索
本文概览:图灵奖得主姚期智和月之暗面创始人杨植麟联手发布论文,推出 TCSExam 评测基准,专门用来测试前沿大模型在理论计算机方向的科研能力,这份评测结果打消了前段时间 “AI 马上取代数学家” 的恐慌,所以才说让数学家松了一口气。这套基准一共 100 道研究级题目,用 Lean4 形式化证明工具自动核验答案,同时测试定理证明、求解器工程、数学构造、开放猜想四类任务,一共拉了 9 款主流大模型参与测试,结果显示顶尖模型虽然能搞定一部分中等难度证明、甚至做出少量优于人类公开记录的数学构造,但面对真正的开放猜想依旧能力不足,AI 更适合当成数学家的辅助工具,而不是直接替代研究者,也给后续 AI 数学能力的研究划定了清晰的测试标尺。