一句话看懂：Anthropic CEO Dario Amodei 提议把独立安全评估员”嵌入”领先 AI 公司内部，比照银行监管模式；多位银行监管与 AI 评估人士指出，这类评估员只有调查和报告权，没有叫停训练或发布的否决权，独立性和约束力都存疑。
事件核心：发生了什么
据 CNBC 报道，Amodei 提出让长期独立第三方安全评估员进驻头部 AI 公司，给予其接近内部风险团队的访问权限，并允许在有限限制下独立发布结论。他明确以银行驻场监管员为参照，并承诺 Anthropic 会为第三方提供与内部风险团队同等级别的系统访问权限。在同一篇长文中，他还警告未来 6 到 12 个月内，一组失准的智能体可能接管互联网的大部分，造成数千亿美元损失。此前，Anthropic 前研究员 Jacob Coxon 离职并警告头部实验室正在竞速开发可能失控的系统。
为什么重要
批评集中在两点。其一是权力不对称：怀俄明大学法学院院长 Julie Andersen Hill 指出，政府银行检查员可以要求银行停止某些业务、限制扩张、更换管理层，极端情况下甚至关闭银行，而 Amodei 设想的评估员只能调查和报告。XBOW 的 AI 负责人 Albert Ziegler 也说，黑盒测试难以覆盖风险只在特定条件组合下才暴露的情形，”我们其实没有否决权”。其二是独立性：Amodei 点名非营利机构 METR 作为潜在驻场方，而另一位前 Anthropic 研究员 Joe Benton 近期加入 METR。加州大学伯克利分校研究员 Deborah Raji 认为这存在财务、意识形态和个人利益冲突，仅有访问权不等于独立；最终标准是负面发现是否带来后果，”做审计但什么也没发生，就是审计洗白”。Anthropic 公共政策总监 Sarah Heck 回应称，AI 公司无法靠”荣誉准则”管理监督与安全问题。
对用户/开发者/创作者的影响
若该机制落地，头部闭源大模型的训练、推理与发布流程可能多一道外部审计环节，API 能力上线节奏或受评估周期影响；开源模型基本不在覆盖范围内，监管落差可能进一步拉大。企业采购模型服务时，第三方评估报告有望成为合规参考材料，但目前公开信息显示这类报告尚无强制效力。对开发者而言，短期更实际的变化是获取模型系统卡、风险披露的频率和深度可能提升。
AI 工具推荐
想把多个 AI 模型放在一个入口？
GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型，适合写作、绘图、视频和日常 AI 工作流。
推广链接：通过此链接购买，我可能获得佣金，不影响你的价格。
值得关注的后续
一是 METR 或其他机构是否正式接受驻场角色，以及访问权限的实际边界；二是评估员能否获得任何形式的暂停发布权限，还是停留在建议层面；三是”审计洗白”质疑是否推动立法层面的独立监管设计，而非由企业自行选择审计方。
来源：AIbase
