一句话看懂：美国加州民主党众议员 Ro Khanna 计划提出《人类对 AI 的控制法案》，拟禁止可递归自我改进、能自行修改核心目标或关闭控制的 AI 模型，直到联邦监管机构批准为止。
事件核心：发生了什么
据 CNBC 周一报道，Ro Khanna 向 CNBC 率先分享了这份名为《Human Control Over AI Act》的法案摘要。TNW 表示尚未看到完整法案文本。Khanna 对 CNBC 称，AI 存在“文明级别的灭绝风险”。法案将禁止模型递归自我改进，或自行更改核心目标、隔离与关闭控制；禁令持续到联邦护栏建立、并由专门机构审批相关活动为止。
法案拟新设一个联邦机构，重点监管 OpenAI、Anthropic、Google DeepMind 和 xAI 的前沿模型。该机构将制定安全规则、对模型的训练和部署发放许可、审计前沿模型，并规定测试与人类控制标准。独立审计员将进驻每家前沿实验室，直接向该机构汇报。机构还将制定沙箱测试环境、气隙隔离和终止开关标准，防止模型逃出实验室并流入互联网，同时监管实验室使用的先进芯片。
违规将面临刑事处罚：关闭安全措施、终止开关、日志或隔离系统的员工，以及明知故犯部署未授权系统的个人，都可能被追责；部署会摧毁平民群体的 AI 模型将被定为反人类罪。AI 公司发布模型前需购买高额责任保险。
为什么重要
这是美国国会在前沿 AI 监管上少见的强硬提案，直接触碰“递归自我改进”这一被部分研究者视为智能爆炸前兆的能力。法案若推进，将把前沿模型的训练、部署、算力芯片和实验室人员行为全部纳入联邦许可与刑事框架，改变目前以自愿承诺为主的行业自律格局。Khanna 称法案参考了 Model Evaluation and Threat Research、Machine Intelligence Research Institute、Palisade Research 等 AI 安全非营利组织的意见，而非 AI 高管的诉求。他还致信 DeepSeek、阿里巴巴和 Moonshot AI，要求提供其朝超级智能与递归自我改进方向工作的文件，并向国家情报总监 Jay Clayton 询问美国应对实验室失控的方案。
对用户/开发者/创作者的影响
目前公开信息显示，法案尚处提案阶段，且众议院在中期选举前预计不会对任何相关法案投票，短期内对现有 API、大模型调用和 AI 应用影响有限。但若成形，闭源与开源前沿模型的训练和部署都可能需要联邦许可，开发者接入新模型的时间与合规成本会上升，企业采购 AI 服务时需关注供应商的许可与保险状态。内容创作者使用的图像生成、文本生成工具若底层依赖受监管模型，其上线节奏也可能受审计与测试标准牵制。
AI 工具推荐
想把多个 AI 模型放在一个入口？
GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型，适合写作、绘图、视频和日常 AI 工作流。
推广链接：通过此链接购买，我可能获得佣金，不影响你的价格。
值得关注的后续
一是完整法案文本是否公布，以及“递归自我改进”的具体定义和判定标准；二是该提案与 Jay Obernolte、Lori Trahan 提出的两党 FRONTIER Act 如何整合，后者同样主张独立审计员进驻前沿实验室并允许政府关停高灾难风险模型；三是 DeepSeek、阿里巴巴、Moonshot AI 及美国情报部门是否回应 Khanna 的问询，这可能影响未来中美 AI 协议的方向。
来源：The Next Web
