一句话看懂:Anthropic 首席执行官 Dario Amodei 再次强调,具备危险能力的开放权重模型可能带来严重风险,但他明确表示公司从未主张全面禁止开放权重模型。他呼吁加强芯片出口管制和强制安全测试,这一立场在业界引发对 AI 安全与开源路线冲突的持续讨论。
事件核心:发生了什么
在最新发布的博客中,Amodei 重申 Anthropic 从未呼吁“禁止开放权重模型”,并指出“不具备危险能力的模型属于公共品”。但他同时描绘了两个“噩梦场景”:一是中国等威权国家可能利用美国芯片制造出比美国更强的模型,以获取军事优势或监控能力;二是强大的开放权重模型被用于网络攻击或生物武器开发。Amodei 强调,开放权重模型无法撤回,缺乏安全护栏,风险尤其集中。他引用英国 AI 安全研究院的一项研究称,开放权重模型在网络安全能力上落后前沿模型约几个月,但差距正在缩小。
Amodei 的言论紧随美国当局正考虑限制美国公司使用中国开放权重模型的报道。与此同时,包括 OpenAI 在内的多家大型科技公司签署了一封反对此类限制的信函,但 OpenAI 据称仍在私下游说反对开放权重。
为什么重要
这是 Anthropic 在 AI 安全与开源路线之间又一次明确划线。作为闭源商业模型的代表,Anthropic 的立场——鼓励对开放权重进行更严格的安全评估和出口管制——被批评者视为“为自身商业利益说话”,因为开放权重模型可能以更低成本与闭源模型竞争。但 Amodei 的论点与部分监管机构(如英国 AI 安全研究院)的研究方向一致,即开放模型在关键安全指标上确有差距。这场辩论直接关系到全球 AI 治理的基调:是走“开放+事后问责”还是“封闭+事前许可”的路径。
对用户/开发者/创作者的影响
对 AI 开发者与研究者:如果 Amodei 倡导的“强制安全测试”推广至所有强模型,开源项目将面临额外的合规成本,甚至可能影响模型发布节奏。使用开放权重模型的团队需更关注模型能力的边界与潜在滥用风险。
AI 工具推荐
想把多个 AI 模型放在一个入口?
GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。
推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。
对普通用户与创作者:短期内,用户仍可访问大多数流行的开放权重模型(如 Llama、Mistral 等)。但如果美国出台限制中国开放模型使用的具体措施,依赖中国模型(如 Qwen、DeepSeek)的海外应用可能受阻。长期来看,更严格的安全测试可能减少“失控”事件,但也会减缓模型创新速度。
对企业采购方:企业在评估开源与闭源方案时,需额外考虑安全审计和政策风险因素。如果监管趋严,闭源模型供应商可能因“可控性”获得更多企业客户。
值得关注的后续
第一,美国是否正式出台限制美国公司使用中国开放权重模型的法规,以及科技公司签署的反对信能否影响政策走向。第二,Anthropic 是否会将“强制安全测试”的主张转化为具体的立法提案或行业标准,尤其是在美国国会讨论《AI 安全法案》的背景下。第三,开源社区与商业模型之争将如何影响下一代前沿模型(如 Llama 4、GPT-5)的发布策略——开放权重模型是否会主动加强安全护栏以应对批评。


