FrontierPhysicsベンチマーク:168回の研究タスク試行で46回超を通過したAIモデルはなし
42人の物理学者が9分野56タスクを作成。22モデル・26構成を評価し、タスクセットは公開されている。
なぜ重要か
FrontierPhysicsはクイズ型ではなく、端到端の物理研究タスクをエージェントに課す。arXivプレプリントによると、168回の実行で46タスク超をクリアしたモデルはなかった。短いベンチで高得点でも長い科学ワークフローではまだ失敗することを示す。より厳しい科学評価の潮流に位置づく。後続リーダーボード、挑むラボ、ツール利用エージェントが差を縮められるかが焦点だ。
要点
- arXiv:2611.06910
- 168回の評価実行
- 46超をクリアしたモデルなし
- 端到端の物理研究タスク
- 査読前のプレプリント