消息来源:白宫正准备命令美国机构与人工智能公司在网络安全方面进行合作; EO 不需要政府进行预发布模型测试(彭博社)

消息来源:白宫正准备命令美国机构与人工智能公司在网络安全方面进行合作; EO 不需要政府进行预发布模型测试(彭博社)

消息来源:白宫正准备命令美国机构与人工智能公司在网络安全方面进行合作; EO 不需要政府进行预发布模型测试(彭博社)

一句话看懂:白宫计划通过一份行政命令(EO),要求美国联邦机构与人工智能开发商在网络安全领域进行系统性合作,但该命令不包含对模型发布前进行政府强制测试的要求。这表明美国政府正在平衡AI安全引导与商业自主发展之间的张力。

事件核心:发生了什么

据彭博社报道,白宫正在起草一份行政命令,核心内容是命令美国各联邦机构与人工智能公司就网络安全问题展开协作。这份EO聚焦于防范AI系统在训练与推理环节被攻击、模型权重被盗用以及数据投毒等安全风险,要求机构与开发者共享威胁情报、制定应急响应机制。然而,该命令明确不要求模型在公开发布前必须经过政府的预发布测试或审批,这与部分立法者提议的严格准入门槛形成对比。目前EO仍在起草阶段,具体执行细节和生效时间有待公开。

为什么重要

这一动向是拜登政府迄今为止在AI安全领域最具体的行政干预之一,但选择了一条相对温和的路线:强调协作而非前置审批。其意义在于,美国正试图在不减缓商业创新速度的前提下,建立一套政府-企业联动的安全防御体系。这对于闭源厂商(如OpenAI、Google DeepMind)和开源社区都会产生影响——前者需要调整内部安全审计流程以适应信息共享要求,后者则可能面临更复杂的合规窗口指导。此外,缺少强制性预发布测试也意味着白宫暂时搁置了“暂停训练巨型模型”等激进监管思路,转而用更务实的网络安全合作换取行业自我约束的空间。

对用户/开发者/创作者的影响

  • 开发者与AI企业:未来在发布大模型前,需要建立更规范的安全日志记录和接口,以配合联邦机构的信息共享要求。但不必等待政府审批流程,这意味着产品迭代速度不会受到直接行政阻碍。
  • 企业API使用者:由于模型本身不需预审,企业调用API时仍可依赖自有安全策略。但需注意,联邦机构与AI公司的数据共享协议可能触发使用者侧的数据合规审计,特别是在涉及敏感行业(如金融、医疗)应用场景时。
  • 开源社区:如果EO最终覆盖开源项目(目前尚不明确),可能会对模型分发平台(如Hugging Face)提出额外的安全漏洞报告机制,但不改变开源许可证性质。

值得关注的后续

  1. EO最终文本细节:“网络安全合作”的具体范围是否包括模型权重托管、训练数据溯源、以及第三方API调用链?这些细节将直接决定企业需要投入的合规成本。
  2. 自愿承诺与行政命令的衔接:此前白宫已获得多家AI公司的自愿安全承诺,EO是否会将这些非约束性承诺转化为可执行的规则,是观察监管硬度的关键节点。
  3. 是否触发欧洲/中国的政策参照:美国选择“协作护安全、免预审”的路径,可能会影响欧盟AI法案下一步的执行细则,以及中国“AI安全治理”框架中试验性部署条款的微调方向。

来源:Techmeme

celebrityanime
celebrityanime
文章: 864

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注