BaseBench把生物AI模型的每个检查点都拉上同一张榜:训练不必暂停,结果可追溯
核心概要
生物基础模型长期缺少统一、覆盖面广的评测,相关任务横跨核酸、蛋白质、基因组、细胞、整体生物与临床,而实验室验证太慢,无法对每个检查点都做。Basecamp Research 正在构建的 BaseBench 把评测、检查点与适配器拆成三块,让每个模型的每个检查点都跑同一套评测,并把数据版本、检查点身份、适配器配置和评分步骤一并记录。平台目前已在内部模型和公开生物模型上运行,计划近期开放公开提交。
深度剖析
生物 AI 模型的评测从分散、手工的状态,转向一个对每个模型的每个检查点运行同一套评测的单一平台。 此前生物领域缺少像其他 AI 方向那样通用而广泛的基准,相关任务各自拥有数据集和目标,实验室验证又太慢,无法在每个检查点上执行。 BaseBench 让每个模型的每个检查点,包括公开可用的生物模型,都经过相同的评测与测试,从而以同一方式评估所有模型。
平台把评测、检查点和适配器三部分解耦,使模型与评测可以各自独立扩充。 适配器负责让一个模型家族给出评测所需的输出,例如嵌入、似然或生成结果,新检查点可直接复用所属模型家族已有的适配器。 一个传感器监视带版本的数据存储以发现新检查点或评测数据集变更,计算工作进程运行相应适配器,评分器打分后写入表格并汇入排行榜,训练无需暂停。
每条排行榜结果都记录产生它的条件,使结果可追溯、评测可复现。 记录内容包括数据版本、检查点身份、适配器配置以及从输入数据到最终得分的步骤,检查点还记录其模型家族和接受的序列类型。 当模型无法提供某项评测所需的输出时,BaseBench 会记录这一限制及其原因。
启示与展望
BaseBench 目前运行在 Basecamp Research 自己的内部模型和公开可用的生物模型上,覆盖从 DNA 到临床的多个应用领域,并计划在近期开放公开提交。
材料称目标是覆盖生物学多个领域的数百项评测,并计划开放公开提交,但当前各领域的评测数量在图中仅为示意;平台也说明,即使流程一致,解读结果仍需结合数据集、划分方式和评分方法等背景。
