CellType推出BioSimBench:前沿模型只能部分预测细胞对药物和基因敲低的反应

该基准用未公开的真实实验结果评判预测;CellType称其在BioSimGym中训练的27B模型在每项任务上都超过最强前沿模型。
为何重要
多数面向语言模型的生物学基准考的是书面知识;BioSimBench则要求模型预测在药物、基因敲低或免疫信号作用后哪些基因上调或下调,并用实测实验结果评分,以重复实验之间的一致性作为上限。五个赛道共用一个排行榜。该基准由自家模型位居榜首的公司打造,因此独立提交的结果很重要。后续关注哪些实验室提交模型,以及与实验可重复性的差距是否缩小。
要点
- 五个赛道,一个排行榜
- 任务:药物、基因敲低和免疫信号
- 以未公开的实验结果评分
- CellType的27B模型在每项任务上超过最强前沿模型
- 模型在NVIDIA Blackwell GPU上训练