一句话看懂：英国 AI Security Institute 用开源蛋白质模型 ESM-2 做了一组从头预训练实验，发现从训练数据中剔除病毒蛋白可以压低模型在病毒相关任务上的表现，但只需不到 80 美元的算力做微调，丢掉的能力就能被恢复。这说明数据过滤本身不足以成为开放式生物模型的安全护栏。
事件核心：发生了什么
英国 AI Security Institute（AISI）的 Chem-Bio 团队在 2026 年 10 月 25 日发布博客，介绍其对预训练数据过滤有效性的研究。实验对象是开源蛋白质语言模型 ESM-2，团队从 800 万到 30 亿参数多个规模从头预训练，在训练集中剔除病毒蛋白序列作为“遗忘”目标，并用其余蛋白质评估“保留”能力。过滤范围分为多个层级，从只移除单一流感毒株，到移除全部病毒蛋白及其近缘同源序列。结果显示，过滤能针对性地削弱病毒相关能力，而不明显拖累相邻任务；但这些能力可以通过继续用被剔除的病毒序列微调来恢复，即使对最大模型，所需算力也不足 80 美元，而且这些数据通常公开可查、容易获取。
为什么重要
开放权重模型的安全问题在于，权重和推理代码一旦公开，训练后加的安全措施往往能被低成本微调绕开。数据过滤被认为是更难篡改的防线，部分开发者甚至把它当作开放权重的理由。AISI 的实验给这个说法加了一个明确的限制条件：在生物模型这种训练数据同质性高、目标领域和相邻领域难以隔离的场景里，过滤能制造门槛，但不足以单独构成可靠护栏。这直接影响“开放权重 + 数据过滤”作为安全叙事是否成立，也把数据访问控制重新推到台前。
对用户/开发者/创作者的影响
对做生物、医药方向模型微调的开发者来说，这项研究提示不能把上游数据过滤当作安全保证，部署前仍需评估微调后的能力边界。对模型发布方，如果要开放权重的生物模型，过滤需要配合数据访问控制、使用条款等组合手段。对关注 AI 生物安全政策的读者，这是一个可核查的量化数据点：恢复成本极低，说明仅靠训练阶段干预很难约束有动机的修改者。目前公开信息显示，该研究针对的是 ESM-2 家族和病毒蛋白这一具体任务，结论不宜直接外推到所有科学模型或所有能力领域。
AI 工具推荐
想把多个 AI 模型放在一个入口？
GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型，适合写作、绘图、视频和日常 AI 工作流。
推广链接：通过此链接购买，我可能获得佣金，不影响你的价格。
值得关注的后续
一是 AISI 是否会公布完整实验细节和排除层级的具体设计，以便复现；二是模型发布方会不会调整开放权重生物模型的发布策略，把数据访问控制纳入默认流程；三是后续研究是否会在其他专业模型上重复类似测试，验证“过滤 + 低成本微调恢复”是否具有普遍性。
