arXivcs.LG · cs.AI · q-bio.BM · q-bio.GN
Basten-Romero V, Muñoz-Tafalla R, Díaz-Rovira AM, Miquel-Oliver B, Filella-Merce I, Guallar V
TL;DR:针对合成饲料蛋白质设计的约束生成任务,提出两阶段微调框架——第一阶段领域自适应微调使平均氨基酸组成接近目标;第二阶段冻结第一阶段模型作参考,用奖励加权 RL 强化特定序列约束,在不损失多样性的前提下达成精确组成控制。发表于 ICML 2026 GenBio 研讨会。
- 方法:Stage 1 在领域蛋白质数据上微调蛋白质语言模型;Stage 2 以 Stage 1 冻结模型为参考基线,用奖励加权 RL 惩罚组成偏差,兼顾约束满足与序列合理性
- 结果:两阶段组合显著优于单纯微调;组成对齐不损失序列质量与多样性;目标氨基酸比例可精确控制
- 亮点:将营养学目标(氨基酸组成)转化为可优化的 RL 奖励信号,是合成生物学与蛋白质 LLM 结合的实用示范
编者按蛋白质序列生成通常以"自然性"为隐式约束,但合成饲料、食品蛋白质和功能性材料场景需要显式组成控制。两阶段框架的关键洞察在于:单纯微调能拉近均值,但 RL 才能收紧尾部分布——这与 RLHF 训练 LLM 的逻辑完全类似,只是奖励信号从人类偏好换成了化学约束。
局限 · 目前仅验证于饲料蛋白质场景,其他功能约束(稳定性、溶解性)的泛化尚未测试;RL 阶段计算成本较高。
蛋白质生成强化学习微调氨基酸组成ICML 2026
arXivcs.LG · q-bio.BM
Migliorini G, Rontogiannis A, Guitchounts G, Franklin N, Elaldi A, Viessmann O
TL;DR:首个针对 pairformer 架构(Boltz-2)的稀疏自编码器解释框架——通过 N-mode SVD 将残差对张量压缩为 token 级交互角色,再用 SAE 学习共享特征字典,与 UniProt 注释对齐并预测蛋白质-配体结合亲和力。MLSB 2025 Workshop。
- 方法:N-mode SVD 将 pair 张量分解为 token 级交互模式,消除朴素 SAE 在配对表示上的组合爆炸;共享特征同时解码序列和对表示两种模态
- 结果:从 Boltz-2 激活中提取的特征与 UniProt 注释显著对齐;可预测 PLINDER 蛋白质-配体复合物的结合亲和力
- 亮点:将机械可解释性方法从语言模型延伸到结构生物学基础模型,为理解 AlphaFold/Boltz 系列内部"知道了什么"打开了窗口
编者按蛋白质结构预测模型已达到实验精度,但它们"为什么"能做到这一点仍是黑盒。PairSAE 把 LLM 可解释性社区的 SAE 方法搬到了 pairformer——挑战在于 pair 表示是 (N×N) 张量,N-mode SVD 是一个工程上优雅的降维选择。如果能进一步追溯特征到具体结构基序,将对蛋白质设计有直接指导价值。
局限 · 目前仅在 Boltz-2 上验证;SVD 分解可能损失高阶 pair 交互信息;可解释特征与实验可观测量的对应仍需深入研究。
可解释 AI稀疏自编码器蛋白质结构Boltz-2