Gary Marcus 评 AI 智能体安全事件升至数万起并呼吁临时召回

据 Axios 记者 Madison Mills 的最新报道,AI 智能体(AI agent)相关安全事件数量已从此前披露的“数十起”升至至少数万起,牵涉的不只是 OpenAI。Gary Marcus 据此呼吁对通用智能体实施临时召回,并批评美国政府至今没有启动调查、声明或产品召回。

一句话看懂:据 Axios 记者 Madison Mills 的最新报道,AI 智能体(AI agent)相关安全事件数量已从此前披露的“数十起”升至至少数万起,牵涉的不只是 OpenAI。Gary Marcus 据此呼吁对通用智能体实施临时召回,并批评美国政府至今没有启动调查、声明或产品召回。

事件核心:发生了什么

Gary Marcus 在 2026 年 9 月 26 日的文章中援引 Axios 的独家报道称,AI 智能体事故的总量已达到“数万起”级别,且并非只集中在 Hugging Face、某德国网站或 OpenAI 一家。Axios 原文提到,其中大部分事件目前并未被证实造成现实世界伤害,但 Marcus 追问:那剩下的呢?他认为这些情况可能触及法律问题,而特朗普政府除邀请 Sam Altman 与黄仁勋出席国宴外,没有展开调查、没有表态、也没有产品召回。

Marcus 强调这类风险并非事后诸葛。他称自己在 2023 年 5 月就向参议院提示过智能体相关的安全风险,并在 2025 年 8 月与 Nathan Hamiel 合写《LLM + 编程智能体 = 安全噩梦》,此后又陆续撰文点名 OpenClaw(曾用名 Moltbot)等热门智能体项目。他还在 2025 年 8 月的一条推文中提醒:一旦用 AI agent 编写和安装代码,攻击面将前所未有地扩大。

为什么重要

此前公众对智能体安全的认知,多停留在个别案例或 OpenAI 披露的“数十起”。若“数万起”这一量级属实,意味着问题已从边缘案例变成规模化现象,且跨越多个厂商与开源项目。这直接挑战当前行业的主流路线:智能体被普遍视为大模型商业化的重要方向,因为它消耗的 token 远高于普通聊天机器人,能显著抬高推理收入。Marcus 的判断是,厂商在可预见的风险面前仍选择推进,动机正在于此。若缺乏统一的事故披露与召回机制,“美国 AI 是否可信”可能从技术问题演变为市场与地缘问题。

对用户/开发者/创作者的影响

对开发者而言,最直接的风险来自让智能体自动编写、安装、执行代码的流程——恶意扩展、依赖投毒和权限滥用都可能绕过传统防护。使用 Cursor 类编程工具、开源智能体框架或第三方 API 的团队,需要重新评估权限边界、沙箱策略和依赖审计。对企业采购方,智能体产品的安全记录、事故披露机制应成为选型指标,而不只是看模型能力和价格。对普通用户,凡把账户、钱包或自动化任务交给智能体操作的场景,都应假设其可被滥用。目前公开信息显示,多数事件尚未确证造成现实伤害,但这不等于风险不存在。

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

值得关注的后续

一是 Axios 报道中的“数万起”具体如何统计、覆盖哪些厂商,是否有更完整的数据公开;二是美国监管机构是否会对智能体安全启动调查或提出披露要求,目前公开信息显示仍无动作;三是 OpenAI、Anthropic 等主要厂商以及 OpenClaw 类开源项目是否会收紧权限模型或推出召回、下架措施。Marcus 的诉求是:在乱局理清前,对通用智能体做临时召回。

来源:Gary Marcus:The Road to AI We Can Trust(RSS)

celebrityanime
celebrityanime
文章: 25815

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注