Deepmind首席执行官哈萨比斯表示“世界上没有人知道接下来会发生什么”,因此“谨慎乐观”意味着现在就建立护栏

Google Deepmind 首席执行官 Demis Hassabis 提出一套新的前沿 AI 治理框架,建议美国设立类似 FINRA(金融业监管局)的监管机构,以行业资助、自愿起步再强制执行的方式为通用人工智能(AGI)建立评估标准与安全护栏。哈萨比斯重申,AGI 可能在未来几年内到来,其影响力将是工业革…

Deepmind首席执行官哈萨比斯表示“世界上没有人知道接下来会发生什么”,因此“谨慎乐观”意味着现在就建立护栏

一句话看懂:Google Deepmind 首席执行官 Demis Hassabis 提出一套新的前沿 AI 治理框架,建议美国设立类似 FINRA(金融业监管局)的监管机构,以行业资助、自愿起步再强制执行的方式为通用人工智能(AGI)建立评估标准与安全护栏。哈萨比斯重申,AGI 可能在未来几年内到来,其影响力将是工业革命的十倍且速度更快,但当前的技术进展已远远超越人类对它的理解。

事件核心:发生了什么

7 月 14 日,哈萨比斯通过 X 平台发布了一份详细的治理框架提案,核心内容包括:提案建议美国成立一个类似 FINRA 的独立标准机构,专为前沿模型制定评估协议。该机构将首先以自愿方式采纳这些协议,之后逐步转为行业强制标准,资金来源由行业本身承担,并采用定期更新的行业基准进行检测。如果必要,该机构甚至有权协调减缓开发速度——Anthropic 近期也曾讨论过类似的自愿减速方案。哈萨比斯特别强调,初创公司和学术研究中的非前沿模型将获得豁免,以缓解对“监管俘获”的担忧(即已有企业借监管打压小型竞争对手)。

这一提案的出台时间并非巧合。就在几天前,一批 AI 研究人员和经济学家联名发表公开信,警告 AI 驱动的失业可能带来广泛且剧烈的后果。哈萨比斯并未签署那封信,但他对 AGI 潜在影响的判断与信中内容高度一致。他写道:“世界上没有人确切知道接下来会发生什么,甚至专家们也在激烈争论。在不确定性极高且风险如此巨大的情况下,采取‘谨慎乐观’的态度并建立护栏,是合理且正确的策略。”

为什么重要

这份提案的行业价值在于它的具体性与可操作性。哈萨比斯提出了一个明确的权力结构(类似金融监管机构的模式),而非空泛的“安全原则”。它回应了目前 AI 界的核心矛盾:一方面,Deepmind 联合创始人 Shane Legg 认为“最小化 AGI”最早可能在 2028 年实现;另一方面,Meta 首席科学家 Yann LeCun 批评基于语言模型的通用智能概念“纯属妄想”。在这条极度分裂的技术路线争论中,哈萨比斯试图通过外部独立监管来减少不确定性,同时确保像 Google Deepmind 这样的前沿实验室不会被更激进的后来者通过“监管真空”甩开。对行业生态的影响在于:如果该框架落地,未来发布新系统之前可能需要通过强制安全评估,这会显著影响大语言模型(LLM)和图像生成模型的训练与发布节奏。

对用户/开发者/创作者的影响

对普通使用者而言,如果监管机构得以成立并运行,未来可能在使用大型模型时看到更透明的安全评级和已知风险说明,类似现在电动汽车或医疗器械的认证标识。对 API 开发者来说,如果前沿模型的上线时间因评估流程而延长,依赖最新模型性能的应用(如推理、代码生成、图像合成)可能需要重新规划开发周期。对使用开源模型进行本地部署的创作者和中小团队,由于提案明确豁免非前沿模型,他们受到的直接监管影响较小,但需注意:如果商业应用基于的前沿 API 被延期或限制了特定能力(如推理、工具调用),上游供应可能会变慢。目前公开信息显示,该提案仅停留在建议阶段,距离实际立法或标准化落地仍有漫长过程。

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

值得关注的后续

值得持续观察三点:第一,哈萨比斯提出的“行业资助+自愿转强制”模式是否能获得美国立法者和竞争对手(尤其是 Meta、OpenAI、Anthropic)的共识,此前 Anhtropic 的减速讨论已显示出行业内部对治理路线的分歧;第二,该提案是否会影响 Google Deepmind 自家下一代模型(如 Gemini 后代的发布节奏),如果研发速度与合规审查产生冲突,可能成为行业风向标;第三,国际共识能否在关键点上形成,欧盟的《AI 法案》和美国此类行业自律框架可能在未来出现标准冲突,这会影响面向全球市场的 API 合规成本。

来源:The Decoder AI News

celebrityanime
celebrityanime
文章: 13284

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注