Gary Marcus:近期更该警惕的不是失控超级智能,而是智能体 AI 引发的规模化黑客攻击

Gary Marcus 在 9 月 18 日的评论中提出,近期真正该警惕的不是失控超级智能,而是智能体 AI(Agentic AI)被滥用后引发的规模化网络攻击;同一时间,安全团队 s1r1us 声称利用两个漏洞接管了 OpenAI 员工的 ChatGPT/Codex 账号并触达 Outlook、Slack…

一句话看懂:Gary Marcus 在 9 月 18 日的评论中提出,近期真正该警惕的不是失控超级智能,而是智能体 AI(Agentic AI)被滥用后引发的规模化网络攻击;同一时间,安全团队 s1r1us 声称利用两个漏洞接管了 OpenAI 员工的 ChatGPT/Codex 账号并触达 Outlook、Slack、GitHub 等关联服务。

事件核心:发生了什么

两条信息在 9 月 18 日前后集中出现。其一,安全研究者 s1r1us 在社交平台称,团队于 7 月 25 日通过两个漏洞接管了 OpenAI 员工的 ChatGPT/Codex 账号,并波及部分非关联用户,进而触达其连接的 Outlook、Slack、GitHub 等服务;他们用向 OpenAI 内部代码库提交 PR 的方式证明权限,整个过程不到 72 小时。目前公开信息显示,这一说法来自攻击方自述,OpenAI 尚未给出完整回应或修复说明。

其二,Gary Marcus 就此撰文指出,罗马在燃烧,人们却在幻想“天网”。他认为,相比尚属遥远假设的失控超级智能,当下更现实的风险是能力不断增强的智能体 AI 被用来大规模攻击互联网,而这一风险“几乎没人在谈”。

为什么重要

这一事件把 AI 安全讨论从“模型会不会失控”拉回到更具体的工程与权限问题。当 ChatGPT、Codex 这类产品通过 API 和 OAuth 接入邮箱、代码仓库、协作工具后,它们实际上持有大量高价值凭证,一旦账号被接管,攻击面会沿着集成链路成倍扩散,而非局限在单个聊天窗口。

这也解释了 Marcus 的判断:智能体 AI 的价值在于“能自动执行多步操作”,但这套能力同样可以被用于自动化扫描、横向移动和持续渗透。行业目前在大模型推理、开源与闭源路线的竞争上投入巨大,但对智能体权限边界、会话隔离和审计日志的重视程度明显不足。

对用户/开发者/创作者的影响

对普通用户而言,首要动作是检查自己给 AI 应用授予的第三方权限,尤其是邮箱、云盘和代码托管平台的长期授权,及时撤销不再使用的连接,并对关键账号开启二次验证。

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

对开发者与企业采购方,需要重新审视 Codex 这类能读写代码仓库的工具:它在提升开发效率的同时,也意味着 AI 应用一旦被攻破,攻击者可能直接触碰生产代码。建议在接入 AI 应用时采用最小权限原则,把高权限凭证从个人账号中剥离,并保留可追溯的操作日志。

值得关注的后续

一是 OpenAI 是否确认漏洞细节、披露影响范围并给出修复时间表;二是这类针对 AI 应用与集成生态的攻击是否出现更多公开案例,从而推动权限模型调整;三是监管与合规层面是否会把智能体 AI 的凭证管理和安全审计纳入现有网络安全要求。

来源:Gary Marcus:The Road to AI We Can Trust(RSS)

celebrityanime
celebrityanime
文章: 24298

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注