42位顶尖数学家警告:AI存在性风险真实且紧迫

42 位顶尖数学家联名致信英国皇家学会,要求其向政府和媒体发出警示:先进 AI 带来的存在性风险是真实且紧迫的,不应被当作炒作。签署者中包含多位菲尔兹奖得主,且无人与 AI 公司存在利益关联。

一句话看懂:42 位顶尖数学家联名致信英国皇家学会,要求其向政府和媒体发出警示:先进 AI 带来的存在性风险是真实且紧迫的,不应被当作炒作。签署者中包含多位菲尔兹奖得主,且无人与 AI 公司存在利益关联。

事件核心:发生了什么

2026 年 9 月,42 位数学家联名向英国皇家学会主席发出公开信,敦促这家英国国家级学术机构向政府和公众发出 AI 风险警报。签署者包括菲尔兹奖得主 Martin Hairer、Peter Scholze 和 Wendelin Werner,公开信息显示他们均未供职于任何 AI 公司。

触发这封信的直接原因,是头部大模型在数学领域的能力跃升:信中称,OpenAI 和 Anthropic 的领先模型在三个月内解决了多个公开研究问题,其中包括一个千禧年大奖难题,另一个可能很快被攻克;这些模型在数学的许多分支上已表现出“顶尖人类数学家水平”,并存在在相近时间尺度内发展出超人能力的显著可能。

但信的重点不止于数学。数学家们判断,模型在网络安全、自主武器控制、生化制剂研发和定向虚假信息等领域的能力变化速率可能与数学领域相近。对于 AI 实验室给出的“存在性风险高于 10%”的估算,他们明确表示不应被视为“炒作”。

为什么重要

这封信的分量不在结论新奇,而在签名者的身份与独立性。此前讨论 AI 生存风险的公开声音多来自 AI 研究者本身,容易被质疑立场;而数学家群体以形式化证明和严格推理为职业习惯,且与 AI 商业利益相对隔离,他们的判断更难被简单归入行业营销或恐慌叙事。

更关键的是论证路径:信中没有依赖对未来的抽象推演,而是以“数学能力已被实证突破,且能力提升速度可能在其他领域复现”作为推理起点。这意味着 AI 风险讨论正从哲学辩论转向可观测的能力曲线。对行业而言,这会给前沿模型的训练、推理能力评估、开源与闭源路线之争,以及各国监管节奏带来更直接的舆论压力。

对用户/开发者/创作者的影响

短期看,普通用户和开发者的工具使用不会立刻变化,但几个链条值得留意:一是模型能力的评估标准可能从“刷榜”转向对真实开放问题的攻坚能力,这会影响 API 选型与 AI 应用的能力预期;二是若监管因这类公开信加速,闭源大模型的部署合规、模型卡披露和算力使用审查可能趋严,开源模型的落地环境也会受到连带影响;三是内容创作者需要更谨慎对待由模型生成的“专业结论”,尤其在数学、生化和安全相关话题上,AI 生成内容的可信度核验成本正在上升。

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

值得关注的后续

第一,皇家学会是否作出正式回应,以及是否将警示传导至英国政府与主流媒体。第二,信中提到的第二个千禧年难题是否真被模型解决,以及相关结果能否通过同行评审。第三,AI 实验室会否公开更细的能力评估数据,尤其是数学之外的安全敏感领域,这将决定这封信是成为监管转折点,还是又一次被搁置的警示。

来源:The Decoder AI News

celebrityanime
celebrityanime
文章: 24268

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注