JA ▾
SNAPE REP RT トップページ →
確認済み科学・数学11月04日 14:26 UTC

CellTypeのBioSimBench、フロンティアモデルは薬剤や遺伝子ノックダウンへの細胞応答を一部しか予測できないと示す

Bar chart of frontier language models predicting how cells respond to new drugs, against how well two repeats of the same lab experiment agree
CellType

ベンチマークは公開されていない実験結果で予測を採点する。CellTypeは、BioSimGymで訓練した自社の27Bモデルが全タスクで最良のフロンティアモデルを上回ると説明。

CellType で読む 共有

なぜ重要か

言語モデル向けの生物学ベンチマークの多くは文章上の知識を問うが、BioSimBenchは薬剤、遺伝子ノックダウン、免疫シグナルの後にどの遺伝子が増減するかを予測させ、実測の実験結果で採点し、反復実験間の一致度を上限とする。5つのトラックが一つのリーダーボードを共有する。自社モデルが首位に立つ企業が作ったベンチマークのため、独立した提出が重要になる。どのラボが参加し、実験の再現性との差が縮まるかが注目点。

要点

  • 5トラック、1つのリーダーボード
  • 課題:薬剤、遺伝子ノックダウン、免疫シグナル
  • 非公開の実験結果で採点
  • CellTypeの27Bモデルが全タスクで最良のフロンティアモデルを上回る
  • モデルはNVIDIA Blackwell GPUで訓練

出典

科学・数学の関連記事
Snape Report のほかの記事トップページ →