分类: AI 资讯

英国AISI实测:ESM-2预训练过滤能被80美元算力破解

英国AISI实测:ESM-2预训练过滤能被80美元算力破解

英国 AI Security Institute 用开源蛋白质模型 ESM-2 做了一组从头预训练实验,发现从训练数据中剔除病毒蛋白可以压低模型在病毒相关任务上的表现,但只需不到 80 美元的算力做微调,丢掉的能力就能被恢复。这说明数据过滤本身不足以成为开放式生物模型的安全护栏。