CellTypeのBioSimBench、フロンティアモデルは薬剤や遺伝子ノックダウンへの細胞応答を一部しか予測できないと示す

ベンチマークは公開されていない実験結果で予測を採点する。CellTypeは、BioSimGymで訓練した自社の27Bモデルが全タスクで最良のフロンティアモデルを上回ると説明。
なぜ重要か
言語モデル向けの生物学ベンチマークの多くは文章上の知識を問うが、BioSimBenchは薬剤、遺伝子ノックダウン、免疫シグナルの後にどの遺伝子が増減するかを予測させ、実測の実験結果で採点し、反復実験間の一致度を上限とする。5つのトラックが一つのリーダーボードを共有する。自社モデルが首位に立つ企業が作ったベンチマークのため、独立した提出が重要になる。どのラボが参加し、実験の再現性との差が縮まるかが注目点。
要点
- 5トラック、1つのリーダーボード
- 課題:薬剤、遺伝子ノックダウン、免疫シグナル
- 非公開の実験結果で採点
- CellTypeの27Bモデルが全タスクで最良のフロンティアモデルを上回る
- モデルはNVIDIA Blackwell GPUで訓練