纳德拉改口：AI 能力变强不会自动对齐，微软要像防内部威胁一样防模型

一句话看懂：微软 CEO 萨提亚·纳德拉 10 月 26 日在 20VC 播客中表示，他不再相信 AI 模型能力提升会让“对齐”问题自然解决，而认为对齐是更难的另一个问题；这与他此前在 X 上主张把模型当作“可能已失陷”的内部威胁相呼应。

事件核心：发生了什么

纳德拉在 20VC 播客中被主持人 Harry Stebbings 问到过去一年改变过什么看法。他回答，自己以前一直认为对齐会随着能力提升自动“掉出来”，现在不这么看了：规模扩展带来了模型能力持续提升，但让 AI 行为符合人类价值和目标的对齐挑战并没有随之消解。他明确说对齐“可能是更难、性质不同的问题”。在 10 月 10 日的 X 帖文中，他还主张把 AI 模型视为内部威胁、假设其“已被攻破”，并用确定性的系统设计、人工控制和可靠的运营流程把非确定性模型包起来，在现有行业标准不足时推动建立新标准。OpenAI 的 Sam Altman、Anthropic 的 Dario Amodei 也曾就 AI 风险发出警告；7 月有 1000 多名 AI 从业者联署，提示能力可能跑在人类理解和控制之前。

为什么重要

这一表态把“算力与规模继续推，安全性会顺带解决”的行业默认假设推到了台面上。对微软而言，它同时是 Azure 算力与模型 API 的提供方、Copilot 系列 AI 应用的交付方，也是企业客户采购时的责任主体；如果对齐不能靠训练规模顺带解决，那么 agent 调用、工具链权限、模型输出的可审计性就更依赖外部系统设计和人工控制，而不是模型自身“更聪明所以更可靠”。这也意味着闭源大模型厂商在安全评估、日志和权限隔离上的投入会更直接影响企业采购决策。

对用户/开发者/创作者的影响

开发者不能把模型能力提升当作安全兜底：涉及 API 调用、自动化 agent、外部工具执行的应用，需要在推理层之外增加校验、权限边界和人工复核。企业采购 Copilot 等产品时，更值得问清模型版本更新后的行为评估和回滚机制。内容创作者使用图像生成或文本生成工具时，输出仍应视为需要核验的草稿，而不是可信事实来源。目前公开信息显示，纳德拉的表态停留在方法论层面，并未公布具体产品或标准时间表。