ZH ▾
SNAPE REP RT 头版 →
已证实科学与数学11月04日 14:26 UTC

CellType推出BioSimBench:前沿模型只能部分预测细胞对药物和基因敲低的反应

Bar chart of frontier language models predicting how cells respond to new drugs, against how well two repeats of the same lab experiment agree
CellType

该基准用未公开的真实实验结果评判预测;CellType称其在BioSimGym中训练的27B模型在每项任务上都超过最强前沿模型。

在 CellType 阅读全文 分享

为何重要

多数面向语言模型的生物学基准考的是书面知识;BioSimBench则要求模型预测在药物、基因敲低或免疫信号作用后哪些基因上调或下调,并用实测实验结果评分,以重复实验之间的一致性作为上限。五个赛道共用一个排行榜。该基准由自家模型位居榜首的公司打造,因此独立提交的结果很重要。后续关注哪些实验室提交模型,以及与实验可重复性的差距是否缩小。

要点

  • 五个赛道,一个排行榜
  • 任务:药物、基因敲低和免疫信号
  • 以未公开的实验结果评分
  • CellType的27B模型在每项任务上超过最强前沿模型
  • 模型在NVIDIA Blackwell GPU上训练

来源

更多科学与数学报道
Snape Report 更多报道头版 →