The Mathematical AI Safety Institute 想用密码学家证明密码不可破解的方式，来证明 AI 是安全的

一句话看懂：新晋菲尔兹奖得主、加拿大数学家 Jacob Tsimerman 宣布成立数学 AI 安全研究所（MAISI），试图像密码学家证明加密不可破解那样，用数学证明的方式论证 AI 系统是安全的。这背后是 AI 安全至今缺乏严格定义和可验证标准的现实困境。

事件核心：发生了什么

据《纽约时报》报道，Tsimerman 发起的 MAISI 是一家独立研究机构，落地旧金山湾区，计划 2027 年 1 月启动，首批招募 10 到 30 名数学家专攻 AI 安全问题。Tsimerman 本人同时加入 OpenAI 安全团队。他公开表示，这个领域需要“比现在高得多的安全标准”。

MAISI 想解决的核心问题是：加密方案可以用数学证明其不可破解，无需穷举所有攻击；AI 没有这种捷径，安全性只在实践中显现。目前公开信息显示，业界连“安全”的理论定义都不清晰。MAISI 的目标是证明系统行为负责、输出正确，多个 AI 智能体协作不会触发意外结果，并能抵御尚未被发现的漏洞。零知识证明可能是工具之一，让系统在不泄露 AI 实验室商业机密的前提下证明自己没有作弊。

为什么重要

当前 AI 安全主要依赖红队测试、评测基准和事后修补，属于经验性手段，难以覆盖未知风险。如果 MAISI 的方法论成立，AI 安全有望从“测出来安全”转向“证明安全”，这对大模型训练、推理部署、多智能体系统和 API 生态都意味着新的信任基础。对闭源厂商尤其关键：零知识证明若可用，既能对外证明安全性，又不必公开模型权重和训练细节。

对用户/开发者/创作者的影响

短期看，MAISI 是研究机构而非产品团队，2027 年才启动，不会立刻改变工具使用体验。开发者更应关注的是：未来 AI 应用的安全合规可能引入可验证证明，企业采购大模型或 API 时或要求厂商提供某种安全证明。对创作者而言，如果多智能体协作的安全性有数学保障，自动化内容流水线的可靠性预期会提升。目前公开信息显示，这些影响尚未落地，不宜过度解读。