据报道,亚马逊的安全研究导致了白宫对《人择寓言》的禁令

据《华尔街日报》报道,亚马逊的安全研究显示其能通过提示词让Anthropic的Fable 5模型输出可用于网络攻击的信息,CEO安迪·贾西随后与白宫沟通,导致美国政府直接禁止外国人员使用该模型。此举不仅引发安全与自由辩论,更暴露出Anthropic与特朗普政府之间的长期对立。

据报道,亚马逊的安全研究导致了白宫对《人择寓言》的禁令

一句话看懂:据《华尔街日报》报道,亚马逊的安全研究显示其能通过提示词让Anthropic的Fable 5模型输出可用于网络攻击的信息,CEO安迪·贾西随后与白宫沟通,导致美国政府直接禁止外国人员使用该模型。此举不仅引发安全与自由辩论,更暴露出Anthropic与特朗普政府之间的长期对立。

事件核心:发生了什么

根据《华尔街日报》报道,亚马逊的网络安全研究论文声称,通过一系列精心设计的提示词(prompt),它能“越狱”Anthropic的Fable 5模型,使其泄露可用于网络攻击的信息。安迪·贾西在与白宫官员分享该发现后不久,美国政府即发布出口管制指令,要求Anthropic切断外国用户对Fable 5及Mythos 5的访问。Anthropic在声明中辩称,这并非真正的“越狱”,类似漏洞在包括GPT 5.5在内的其他公开模型中同样存在。部分安全专家支持该观点,LutaSecurity创始人Katie Moussouris在BlueSky上表示“我看过那篇论文,这不是越狱”。此外,Anthropic此前因拒绝让AI用于大规模监控美国公民或驱动自主武器,与特朗普政府已多次冲突——今年2月,特朗普曾指示联邦机构停止使用Anthropic的AI,国防部随后将其列为供应链风险。尽管双方后曾和解并扩展了Mythos的访问权限,但此次禁令再度激化矛盾。

为什么重要

这一事件揭示了多个关键层面:首先,AI安全研究的定性问题成为政治博弈工具——亚马逊的研究是否属于“越狱”尚无共识,但被直接用作出口管制依据。其次,它暴露了美国内部对AI技术控制权的分裂:Anthropic作为最强调安全对齐的闭源模型公司,却因政治立场(反对政府监控)而被制裁。第三,这一禁令直接影响了Anthropic的研发能力——许多研究人员本身是外国出生,禁止他们访问自家产品意味着开发受阻。此外,亚马逊既是Anthropic的主要云服务商与投资方,又通过安全研究获取了能够影响竞争对手命运的“证据”,这种角色冲突可能重塑AI商业合作关系。

对用户/开发者/创作者的影响

对普通用户而言,Fable 5和Mythos 5的海外访问被直接切断,无论其是否涉及安全用途。对开发者来说,依赖Anthropic API进行应用构建的团队可能面临服务中断或被迫迁移——尤其是涉及计算、网络安全等领域的工具。对AI安全研究人员,这一案例可能促使更多政策制定者以“安全风险”为由限制模型开放,削弱开源生态的共享精神。对于正在评估AI模型的企业采购方,需要重新审视供应商的政治合规风险:即便技术领先,政策不确定性也可能让部署方案随时失效。

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

值得关注的后续

第一,Anthropic是否会像此前一样,通过法律或谈判争取撤销禁令,或转而推出仅面向美国公民的版本。第二,亚马逊与Anthropic的商业关系是否因此恶化——亚马逊既有投资利益,又具备通过安全研究施压的能力。第三,特朗普政府对其他AI公司的态度是否会走向类似模式,尤其是那些拒绝参与监控或武器化的企业。目前公开信息显示,前商务部官员Kate Koren向《WSJ》推测,白宫对Anthropic的反感可能影响了决策,这意味着技术问题背后是更深层的政治角力。

来源:The Verge

celebrityanime
celebrityanime
文章: 7518

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注