arXivcs.LG · q-bio.QM
Fesser L, Zhang H, Li M M, Wang E, Perozzi B, Azizi S, Kakade S M, Zitnik M
系统评测 100+ 生物 AI 模型在基因组、转录组、蛋白质三大领域的持续预训练(CPT)、监督微调(SFT)、强化学习(RL)三阶段后训练效果:SFT 提升域内但损害域外泛化,强 RL 配合短 SFT 才能同时兼顾两者。
- 方法:控制变量评测 CPT/SFT/RL 三阶段,跨 100+ 模型、三大生物域,分析域内/域外性能权衡
- 结果:CPT 对齐生物语言,提升下游;SFT 域内提升但域外过拟合出现早期衰减;RL 在强 checkpoint 上能恢复泛化
- 亮点:首次系统量化三阶段后训练在生物 AI 上的交互效果,给出"先短 SFT,再大 RL"的最优预算分配策略
编者按随着越来越多的生物基础模型进入微调阶段,"怎么微调"成为关键问题。这篇来自 Zitnik 实验室的系统研究回答了一个实践中极为重要的问题:不同后训练方式在生物域内/域外性能上有截然不同的效果,而 RL 是恢复泛化能力的关键——这对下一代生物 AI 的训练策略有直接指导意义。
局限 · 评测覆盖的三大生物域(基因组/转录组/蛋白质)仍缺少空间转录组、单细胞多组学等新兴模态;RL 在生物域的奖励设计本身是挑战,当前用监督信号替代真实生物奖励。
后训练生物推理模型强化学习Zitnik Lab
arXivcs.LG · cs.AI · q-bio.QM
Garg N, Jain S, Yadav S, Bhargava B K, Singh G, Srivastava A, Kar P
神经符号框架将基因组神经网络归因与 WHO 耐药突变知识图谱通过"认识论信任门"融合,结核分枝杆菌异烟肼耐药预测 AUROC 0.9760,92.5% 的预测可追溯到已知生物机制。
- 方法:RotatE 知识图嵌入 + 认识论信任门权衡神经证据与符号先验,引入 Biological Grounding Ratio(BGR)量化机制对齐度
- 结果:M. tuberculosis 异烟肼耐药 AUROC 0.9760;92.5% 符号覆盖率;零高置信低覆盖假阳性
- 亮点:不只是提高准确率,而是让"AI 为什么预测这个基因耐药"有可验证的生物学解释
编者按临床使用的耐药预测工具不仅要准,还要让感染科医生能理解和信任预测原因。KG-TRACE 把神经网络的泛化能力与知识图谱的机制可解释性结合,BGR 指标首次让"模型学到的东西是否符合已知生物学"变得可量化——这对 AMR 监测系统的临床部署至关重要。
局限 · 当前仅在结核分枝杆菌异烟肼耐药场景深入验证,WHO 知识图谱的完整性决定了符号覆盖率上限;对新发现突变(尚未进入知识库)的处理依赖不确定性标记而非真正的知识推断。
耐药预测神经符号 AI知识图谱结核