ZH ▾
SNAPE REP RT 头版 →
已证实科学与数学11月05日 12:58 UTC

TCSExam 是含 100 项任务的理论计算机科学基准,GPT-6 Astra 以 71.9 分居首

这篇 arXiv 论文作者包括姚期智,答案由 Lean 内核或可执行检查器验证;Opus 5.5 以 72.3 分领跑 20 项任务的 Lite 集,两个集合对 8 个共同智能体的排序几乎一致。

在 arXiv 阅读全文 分享

为何重要

TCSExam 试图衡量基于语言模型的智能体能否为理论计算机科学做出贡献,而不只是解答考试式题目。它涵盖定理证明、求解器工程和构造,并包含对公开猜想的直接尝试,答案由 Lean 内核或可执行检查器验证。GPT-6 Astra 在 100 项任务的完整集上得 71.9 分,Opus 5.5 以 72.3 分领跑 20 项任务的 Lite 集,两个集合对 8 个共同智能体的排序几乎一致(斯皮尔曼系数 0.93)。作者还报告评测产出了改进的求解器结果和数学构造。后续值得关注智能体是否开始解决公开猜想。

要点

  • 2026 年 11 月 5 日提交至 arXiv(2611.07962)
  • TCSExam-Full 含 100 项专家审核任务,TCSExam-Lite 含 20 项
  • 答案由 Lean 内核或可执行任务检查器验证
  • 完整集评测 8 个智能体,Lite 集评测 9 个
  • GPT-6 Astra 以 71.9 分领先完整集;Opus 5.5 以 72.3 分领先 Lite 集
  • 两个集合对 8 个共同智能体的排序一致(斯皮尔曼系数 0.93)

来源

更多科学与数学报道
Snape Report 更多报道头版 →