ProTok 统一蛋白质分词器:多模态共享词表,结构预测拿下 21 项第一

alphaXiv 上公布的论文 ProTok 提出用产品量化把蛋白质的结构、序列、功能映射到同一套离散词表,单个检查点即可在缺少部分模态时推理,在 28 个结构分词器评测划分中拿下 21 项第一。

一句话看懂:alphaXiv 上公布的论文 ProTok 提出用产品量化把蛋白质的结构、序列、功能映射到同一套离散词表,单个检查点即可在缺少部分模态时推理,在 28 个结构分词器评测划分中拿下 21 项第一。

事件核心:发生了什么

论文 ProTok 于 2026 年 10 月 13 日发布。它使用四个冻结的预训练编码器,分别处理全局结构、局部几何、序列和功能,每类信息各配一组四个码本,经产品量化后每残基得到 16 个并行编码,再融合成一条残基级 token 流。训练时引入模态 dropout:随机保留部分模态组合,其余替换为掩码 token,共享解码器需从剩余信息重建结构、序列和功能目标。作者在七个 StructTokenBench 基准、14 项任务、28 个测试划分上评测,ProTok 结构 token 平均排名 1.4,21 个划分第一、27 个进入前二;CATH 4.2 重建 lDDT 达 0.939。需要说明的是,以上数据均来自论文摘要与页面,尚不代表已上线的产品功能。

为什么重要

现有蛋白质分词器通常按模态独立编码,结构、序列和功能之间的互补信息留给下游模型自己对齐。ProTok 的思路是让三类信息共享一个离散词表,并用模态 dropout 让同一检查点支持不同输入子集,无需为每种模态组合重新训练。这为蛋白质语言模型提供了一条“统一 token 流”的技术路线,可能降低多模态训练与推理的组合成本。从评测看,多模态联合训练确实让结构 token 在功能检索任务上领先基线,但论文也承认并非每项都第一,例如 BioLIP2 催化位点预测中 DPLM-2 的 AUROC 为 88.37%,高于 ProTok 的 85.79%。

对用户/开发者/创作者的影响

对做蛋白质 AI 的开发者,ProTok 的吸引力在于一个检查点可覆盖结构、序列、功能多种推理模式,能减少为不同模态组合维护多套模型的工程负担;对下游应用而言,统一 token 流可能简化蛋白质检索、功能注释和生成流程的接口设计。生成方面,论文用一个从零训练的小型语言模型在 ProTok token 上同时生成骨架和序列,采样骨架可设计率为 52%,参数匹配的 GeoBPE 基线为 21%。不过目前公开信息显示这仍是论文阶段的结果,尚无开源权重、API 或商业产品的落地信息,实际可用性需要等待代码和模型释放。

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

值得关注的后续

一是 ProTok 的代码、权重和许可证是否会开源,这决定开发者能否真正复现与集成。二是多码本量化的推理开销和显存占用是否适合实际部署,论文只给出结构 token 的效果,未披露完整效率数据。三是统一 token 流能否被更多蛋白质大模型采用,以及 StructTokenBench 之外的评测是否会出现性能反转。

来源:alphaXiv

celebrityanime
celebrityanime
文章: 29133

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注