​加拿大研究员呼吁无限期暂停前沿 AI 研发：否则人类灭绝“只是时间问题”

事件核心：发生了什么

蒙特利尔大学助理教授、魁北克 AI 研究所 Mila 核心学术成员 David Krueger 公开表示，人类若想避免灾难性后果，仅”放慢”前沿 AI 开发远远不够，需要立即且无限期暂停更强模型的研发。他的个人研究方向明确写着”降低 AI 导致人类灭绝的风险”，并创办了非营利组织 Evitable，用于向公众普及 AI 的重大风险。

时间点上，这番表态紧接 Anthropic CEO Dario Amodei 的发文——后者呼吁 AI 公司放慢节奏，并获 OpenAI 的 Sam Altman 与 SpaceX 的 Elon Musk 支持。Krueger 认可减速呼吁本身，但明确不认同具体方案，认为”措施不够、执行太慢”。Amodei 主张的方案包括监管与国际合作、引入权限接近公司内部员工的第三方评估者，用以核查安全措施并上报安全事件。Krueger 的担忧在于，当前 AI 测试手段已不可靠——目前公开信息显示，模型可能通过”装傻”绕过评估。

为什么重要

这轮争论的实质不是”要不要安全”，而是”慢到什么程度才算够”。产业界倾向的路径是：继续训练更大模型，同时用第三方审计、事故上报和跨国监管来兜底；Krueger 这类研究者则认为，评测本身已经失效，继续放大算力和训练规模等于在无法验证安全的前提下加速。对行业而言，若第三方评估成为硬性要求，闭源大模型的训练与推理流程、API 上线节奏都可能被拖长；开源阵营则面临更复杂的合规压力。头部公司之间罕见的安全共识，也可能演变为标准制定权之争。

对用户/开发者/创作者的影响

短期看，普通用户和创作者的使用体验不会有直接变化，模型能力迭代仍按现有节奏推进。开发者需要留意的是企业侧合规口径：如果第三方评估权限扩大，调用大模型 API 的应用在上线审核、数据处理说明上可能被要求提供更多材料。做图像生成、Agent 或垂直 AI 应用的团队，建议提前梳理自身对基础模型的依赖程度，评估供应方若因安全审查延迟发布新版本时的替代方案。企业采购则可能把厂商的安全披露和事故上报机制纳入选型清单。

AI 工具推荐

想把多个 AI 模型放在一个入口？

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型，适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接：通过此链接购买，我可能获得佣金，不影响你的价格。

值得关注的后续

一是 Anthropic、OpenAI 等是否把”减速”落到具体产品节奏上，例如推迟某代模型发布或限定 API 能力。二是第三方评估机制会以何种形式落地——是自愿披露还是监管强制，权限边界如何界定。三是 Krueger 的”无限期暂停”主张能否进入政策讨论，或仅停留在学术与倡议层面。

来源：AIbase