一句话看懂：BBC 报道称，近期多位现任和前任 AI 研究人员公开警告 AI 可能危及人类，其中一位对齐研究者 Evan Hubinger 估计未来十年 AI“杀死全人类”的概率超过 10%，这类表态再次推高了对 AI 监管和“减速”的呼声。
事件核心：发生了什么
BBC News 报道，近几周针对 AI 潜在危险的一连串警告，引发了对协调行动、放慢技术发展的呼吁。在 Anthropic 从事对齐（alignment）研究的 Evan Hubinger 认为，未来十年 AI“杀死全人类”的可能性超过 10%；另一位从 Anthropic 离职的研究者 Jacob Coxon 对 BBC 表示，他和同事对技术推进速度“真心感到害怕”。报道提到，OpenAI 和 Anthropic 都敦促立法者监管 AI，尽管有观点认为这类表态可能意在巩固自身的领先地位。
为什么重要
这类担忧并非新话题，BBC 将源头追溯到 1950 年代 Alan Turing 关于智能机器可能夺取控制权的论述。当下的背景是，头部公司正竞逐更强大的系统，包括所谓“超级智能”。Anthropic 的 Dario Amodei 曾在 9 月撰文称，AI 进展“远快于预期”，包括构建下一代 AI 的能力。担忧集中在几点：AI 可能自我改进、被赋予独立执行任务的“AI agents”可能失控、或被用于网络攻击、生物战和经济干扰。报道也指出，这些警告带有推测性质，一些专家批评其夸大，认为更应关注已经发生的危害，例如图像生成工具被用于制作未经同意的女性裸体深度伪造、误导信息和诈骗。
对用户/开发者/创作者的影响
目前公开信息显示，这轮讨论尚未改变具体产品或 API 的可用性，但它会影响三件事：一是监管预期，若主要公司持续呼吁规则，训练、推理和上线审核可能面临更严格要求；二是工具使用，图像生成、大模型应用在深度伪造和内容真实性上的合规压力会上升；三是行业叙事，开源与闭源、能力提升与安全对齐之间的争论会更直接地影响开发者选型和投资判断。
AI 工具推荐
想把多个 AI 模型放在一个入口？
GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型，适合写作、绘图、视频和日常 AI 工作流。
推广链接：通过此链接购买，我可能获得佣金，不影响你的价格。
值得关注的后续
一是 OpenAI、Anthropic 等提到的“slowdown”究竟会不会落成具体政策或产品节奏调整；二是“AI agents”这类可独立执行任务的能力，是否会出现更明确的安全约束或事故案例；三是各国立法进展，尤其是对深度伪造、人权风险和平台责任的规则是否影响产品上线与开发成本。
来源：BBC News
