创始人对谈 · 访谈摘编

从 AI 前沿研究到生物学创业,他们看到了什么?

从圣诞节后的白板讨论,到把模型送进真实世界,Radical Numerics 四位创始人谈研究、创业与生物学的验证难题。

圣诞节后的第二天,一通电话把 Eric 叫到了白板前:“我好像发现了点东西。”在这次访谈中,他回忆起同伴兴奋地推演新架构的场景。那场讨论通向了 Hyena,但他们当时关心的,还是怎样让模型处理更长的序列。

如今,Eric Nguyen 与 Armin W Thomas、Michael Poli、Stefano Massaroli 一起创办了 Radical Numerics。四个人的研究轨迹从 Hyena 延伸到 Evo,但创业把问题推向了更远处:模型怎样进入真实的生物学?以下根据这次创始团队访谈整理。

Radical Numerics 官网团队合照
Radical Numerics 团队合照,非本次访谈现场(图源:Radical Numerics 官网)
THE CONVERSATION

擅长长序列,然后呢?

像读一本越来越厚的书,模型得不断联系前后的内容。但传统全注意力的计算量随序列长度平方增长,越读越贵。他们回忆,Hyena 的突破之一,就是让语言模型有机会用增长更慢的计算成本处理长序列,继续探索预训练架构。

接下来的问题带着研究者式的好奇:“世界上最长的序列是什么?”DNA 进入视野。但他们想尝试的还包括生成:能否像续写文字一样,写出新的 DNA?这条探索后来通向 Evo,也让他们感到,一股“引力”正把团队拉向生物学。

Michael Poli 官网肖像
Michael Poli,联合创始人兼首席 AI 科学家,官网肖像(图源:Radical Numerics 官网)
THE CONVERSATION

DNA 打开了门,但门后还有什么?

DNA 像一份说明书,但只读说明书,很难知道它在什么环境中被怎样使用。团队从 Evo 的经历中得出的判断是,仅有 DNA 还不够。组织是否健康、细胞处于什么状态,都可能影响问题的答案,因此还需要蛋白质、RNA 和表观组学等上下文。

他们也在回应另一种期待:让大语言模型多读论文,能否加速科学发现?但他们押注,尚未被写成自然语言的原始科学数据里,仍有大量知识可供学习。

Omnii 官网技术视觉素材
Omnii 技术页采用的生物组织视觉素材,非模型实验结果(图源:Radical Numerics 官网技术页)

这也是他们介绍 Omnii 时反复强调的方向:把多种生物信号放进同一个模型。但“通用生物智能”仍是团队追求的目标。他们期待,不同任务共享学到的关系,经后训练适配新的问题,减少每遇到一种任务就重新训练一个专用模型的割裂。

这份期待伴随着不确定性。我们会说话,较容易判断语言模型的回答是否合理;但生物学没有同样直观的反馈。一位创始人把它比作学习一门连句法和语法都不知道的语言。词元化、多模态处理和验证方法,都需要重新摸索,语言模型的经验无法照搬。

Omnii 官网多模态相关视觉素材
Omnii-1 官方模型视觉图,非性能对比或验证结果(图源:Radical Numerics 官网技术页)
THE CONVERSATION

创业,还要让两套语言彼此听懂

谈到为什么一起创业,回答很少落在商业术语上。Michael 说,自己一直想创业,但过去没有勇气。真正推动他迈出这一步的,是找到了愿意一起尝试的人。谈话还提到,一项困住同伴一两周的评估工作,Armin 加入后,一两天就拿出了能运行的版本。

他们用搜索算法形容彼此:有人一路向深处钻,有人向更宽处探索。但互补也发生在代码之外。一位同伴原以为 Stefano 是个典型的数学书呆子,见面才发现,他还是巴西柔术练习者。那些私人细节,让这次对谈里的团队比公司介绍更具体。

Armin W Thomas 官网肖像
Armin W Thomas,联合创始人兼 CTO,官网肖像(图源:Radical Numerics 官网)

但把熟悉的合作者聚在一起,只解决了创业的一部分问题。懂得训练模型的人,未必知道模型能怎样被生物学家使用;熟悉实验的人,也有另一套问题和判断标准。

访谈里有个很形象的说法:前沿模型需要被“培育”出来。但这要求团队跨过职责边界,有时还得把个人自尊放到一边。模型能否前进,依赖训练、数据和应用人员持续协作。组织方式因此成了技术路线的一部分。

Stefano Massaroli 官网肖像
Stefano Massaroli,联合创始人兼总裁,官网肖像(图源:Radical Numerics 官网)
THE CONVERSATION

从损失曲线抬起头,现实才刚开始

有人回忆,连续几个月盯着发散的损失值,生物模态在眼中几乎只剩词元字符串。但等他们从研究“战壕”里抬头,同一个模型已经被用于不同应用。团队提到稀土相关蛋白质设计和癌症检测,也把这种跨任务适配的体验称为生物 AI“GPT-3 时刻”的一瞥。

但这些应用各自需要不同层次的证据,患者使用也不能直接等同于疗效确证。访谈提及 AI 设计噬菌体用于患者;公司发布稿将其说明为受监管的同情用药项目。对这次对谈而言,更值得保留的是他们由此产生的意识:模型正接近真实世界的后果。

Omnii 官网应用方向页面
Omnii 官网列出的应用方向,属于公司展示,非独立疗效验证(图源:Radical Numerics 官网应用页截图)

谈话也因此转向安全。团队把推进设计能力与生物防御并列为使命,承认让药物设计更容易的技术,也可能降低滥用门槛。但这种责任表述还需要落实为可检验的措施。

最后,被问到“破解生物学”意味着什么,他们谈到减少痛苦,也谈到走出学术研究。但实验很慢,验证很慢,过程必须谨慎——这些限制,他们同样清楚。当下一次训练结束、损失曲线变得漂亮时,现实中的细胞、实验和患者,会给出怎样的回答?

Eric Nguyen 官网肖像
Eric Nguyen,联合创始人兼 CEO,官网肖像(图源:Radical Numerics 官网)