6 月 18 日,阿里通义实验室联合中国人民大学高瓴人工智能学院,开源了一个很有意思的模型——LOGOS,Language Of Generative Objects in Science。
卖点足够抓眼球:在口袋配体生成、结合位点识别、逆合成预测、材料生成、蛋白编辑、抗体 CDR 设计这六类任务上,这个最小只有 1B 参数的模型,一致地追平或超过了各个领域的专用方法;其中 1B 版本只用了 1/56 的参数量,就在多项任务上压过了参数为 8×7B 的 NatureLM。更反直觉的是,它做这一切——包括搞懂蛋白口袋和小分子到底怎么结合——全程不输入任何 3D 坐标,也不用几何神经网络,纯靠「读序列」。
但当我和 LOGOS 的 project leader Mingyang Li 聊完,发现他真正想讲的故事,比这些数字大得多。
「科学本身,是不是可以用一种统一的语言被模型捕捉?大语言模型已经能用一个模型解决千万种任务,凭什么 AI for Science 不行?」
这是一篇关于一个团队、和他们押下的一个赌注的访谈。赌注的内容写在论文里:
AI for Science 的未来,可能不在于去建一套独立于大模型之外的技术栈。
PROTEIN 「一任务一模型」,对一个机器学习人来说太不优雅了
Mingyang Li 给自己的定位是「本质上最早是个机器学习人」。这个底色,几乎决定了 LOGOS 后来所有的设计取向。
他从 2023 年起一直在做 AI for Science,路径很典型:最早是典型的一类小分子表征模型、一类蛋白表征模型,再到后来的基因生成模型。但做得越多,他越被一件事困住。
「这些模型做下游任务,最重要的一步,是先预训练出一个大模型,然后再在它的 embedding 上面微调,去适应各种预测任务。」他说,「但最大的问题是——你每换一个任务,就得换一套模型、一套新的训练设置、一个新的假设。这些知识之间是没办法迁移的。」
对一个习惯了大模型范式的人来说,这个现状「不太优雅」。而更深一层的问题,是它根本不符合真实科学的样子。
「你从做药的角度想,一个候选药物,本质就是嵌进蛋白口袋里的一个小分子,是这个互作决定了它有没有效。」他说,「你不可能只理解其中的蛋白,或者只理解那个小分子,你得联合地去理解这件事。大家往往各自钻研在整个大方向中的某些小领域进行定制化研究,整个技术栈是割裂的,社区根本没有统一化。」
他把大模型生态的繁荣,归功于「共同维护、共同推进」的那套共建逻辑——而这恰恰是 AI for Science 最缺的东西。「我们最早也是用 fairseq,后面慢慢迁到支持 AlphaFold 之类的各种框架上,但这些全是零散的,没有统一性。」
于是那个问题就一直悬在那里:LLM 一个模型能解决千万种任务,为什么 AI for Science 不行?「我们就是一直在想,想去把它解决掉。这就是统一语言这个念头的整个心路历程。」
MOLECULE 把科学从「预测」改写成「生成」
LOGOS 真正的智识内核,是一次问题形式的改写。
Mingyang Li 说,他做了两三篇表征模型的工作之后,有一个越来越强的判断:这条路再走下去,永远无法更进一步。
「像 BERT 那一类的工作,我做完以后就觉得,OK,于它之外,我们是不是还有更好的方式。」他说,「我意识到我们不能再这么做下去了。」
破局点,是把「预测问题」变成「生成问题」。
他举的例子是虚拟筛选——这本质是个排序问题:把一堆候选物按某个打分排序,分高的排前面、可能更好。「但我们把它变成了一个生成问题:给定口袋,去生成。」更妙的是,生成本身又能反过来变回排序——「因为生成完会有 PPL(困惑度),你按 PPL 选,其实就是在做 ranking。」
一来一回,预测和生成被统一进了同一套范式。在 LOGOS 里,这落地为一句技术上的话:几乎所有下游科学任务,都被重新表述成同一个语法空间里的 next-token prediction。条件配体生成、材料生成、逆合成、从蛋白序列里挖口袋、蛋白优化编辑、抗体 CDR 预测——全是「预测下一个 token」。
这也顺带消掉了传统范式里那个最别扭的「目标偏差」:预训练在干一件事,下游任务要的是另一件事,中间靠大量微调来弥合。LOGOS 让预训练的形式直接等于下游的输入输出形式,预训练的目标直接等于下游的生成目标。「形式一致,目标一致,」他说,「不需要复杂的适配层,也不需要大量微调,就能直接把生成能力激活出来。」
POCKET 一套「科学语法」,七种科学语言
如果说「预测变生成」是方法论,那 LOGOS 真正硬的地方,在于它怎么把蛋白、小分子、材料、反应这些「鸡同鸭讲」的东西,塞进同一个模型。
答案是一套统一科学语法,外加一项叫空间交互离散化的技术。
具体来说,LOGOS 设计了一套共享词表,把七类异构对象全部编码成统一的离散 token 序列,让它们在同一个生成空间里被自回归地理解和生成。这七类模态、总计 44.87B tokens,分成三层:
- 生物大分子层蛋白质(28.9B tokens)、抗体(3.0B tokens)
- 化学实体与转化层小分子(2.1B tokens)、化学反应与 MOF 材料(0.47B tokens)
- 界面互作层蛋白质口袋(5.8B tokens)、蛋白口袋–配体复合物(4.6B tokens)
最激进的一步在第三层。传统上,要让 AI 看懂蛋白和小分子怎么结合,必须喂显式的 3D 坐标、再上一套复杂的几何神经网络。LOGOS 干脆不要这套——它把 3D 空间接触模式直接「语法化」成离散 token,让模型纯靠序列预测,就在「脑子里」建出复杂的空间互作规律。
「我们没有把这些结构当成连续的几何输入,」Mingyang Li 解释,「而是把科学对象的关键关系和互作模式,离散化、语法化、token 化,塞进一个统一的序列生成框架里。」
一个直接的证据是:模型看到蛋白质的「方言」(氨基酸口袋序列),能直接「翻译」出小分子的「方言」(SMILES 结构)——它是真的学会了两者之间的对应。
这件事如果成立,结构生物学或许将迎来更为高效的建模方式:不用显式坐标,不用几何神经网络,一个纯序列模型,在口袋–配体生成上能匹敌 3D 扩散模型,那「序列理解」也许比直接的「结构认知」更高效——至少在技术栈上更为普适。
LOGOS 一共练了 1B、3B、8B 三个尺度,模型越大、性能越好,呈一致的正相关。三个尺度连同预训练权重,都已经开源。对外打榜用的是参数效率最炸的 1B,但他们真正发布的旗舰,是 8B。
TASK_TYPE 专有模型不会消失,它们是模型的「脚手架」
LOGOS 越是强调「一个模型通吃」,一个问题就越尖锐:那些专门的 PPI 模型、对接模型、筛选平台,以后还有用吗?现在不是已经能用 skill 直接调那些开源专有模型,拿 Claude Code 这类 agent 做基本的设计和筛选了吗?
Mingyang Li 的回答是:非常需要,而且是把这两件事拆开看。
他先认下了 agent 这条路:「现在确实可以通过一些 skill,去调一些很好的模型,帮我们做一些人能做的 agent 任务。这是一类 AI for Science 的 agent 任务,我们组里很多同学在做。」
但他指出了这条路的天花板。「最关键的是,这种方式没办法让模型真正理解你输进去的科学对象。它只能通过工具拿到一些结果,而这些结果很可能就是一串数字——也就是说,它只能做一些 high-level 的决策,没有深入到去理解这个分子内部的 interaction。」
换句话说,纯调工具的 agent,缺一个「先期理解」。
「如果我们有了 LOGOS 这套东西,再去调这些工具,性能可能会更好。」他说,这也是他们正在做的方向——把这套理解能力做进预训练,再配合后续 agent 的后训练。终极形态,是一段模糊的提示词进去,模型先把它拆解成一连串具体的生命科学任务,再去调用专有工具。
至于专有模型本身,他给了一个很清醒的比喻:
「同样一位同学,你将他放在不同的平台上,平台更好的一定能做出更好的成果。这是一定的。所以我倾向于把它分成两部分:专有模型,更多是在 AI for Science 的 harness(工具集)上发力;而基模,要在科学实体本身的理解上发力。」
往远了看,他描绘的是一条完整的管线:给定蛋白和小分子,模型生成先导化合物,再通过和人的交互去铺设湿实验,中间可能还要接入具身智能,自动化地把湿实验室搭起来。「这里面的想象空间,非常大。」
REACTION 当万物皆 coding,科学也该被「编译」一次
访谈快结束时,Mingyang Li 抛出了那个一直藏在 LOGOS 背后的、更大的类比。
「大模型做到今天,已经基本可以把 coding 解决了。我们现在几乎可以认为,万物皆 coding。」他说,「那如果我们也把科学 coding 化、流程化呢?」
他拆解了 coding 之所以成立的底层逻辑:「coding 的本质,是因为语法的统一——正因为语法统一,我们才有一整套逻辑能被展示出来。数学能被 AI 做好,也是因为我们把数学做了一种 coding 化的表示,它同样有逻辑可以展示。」
「24 年的时候,我们其实没想到 coding 会那么火,」他说,「但我们确实想到了一件事:这些科学实体,本质上也是一种 coding 的展示。如果我们能把这套人类自己都难以理解的逻辑,用统一的方式表示出来,我相信模型会对它产生一种深层的理解。我们就是带着这个假设,一点点去逼近它。」
一个 1B 模型打穿 56B 的故事,很容易被写成一场效率上的胜利。但听完 Mingyang Li,你会更愿意把它理解成另一件事的开端:一个相信「LLM 和科学模型之间那道墙本就不该存在」的人,正在动手把它拆掉。而他赌的,不是 LOGOS 这一个模型能赢,是「一个模型通吃自然科学」这条路,本身能走通。
按他的判断,这条路要爆发,还需等待数年。但他已经在路上了。
- 论文
- Speaking the Language of Science: Toward a General-Purpose Generative Foundation Model for the Natural Sciences · arXiv 2606.16905
- 代码
- github.com/LOGOS-Hub/LOGOS(Apache 2.0)
- 权重
- HuggingFace · LOGOS-Hub/LOGOS-8B,及 LOGOS-pretrain-1B / 3B / 8B
- 团队
- 阿里巴巴通义实验室(ATH-Token Foundry)× 中国人民大学高瓴人工智能学院