Anthropic 详细说明 Claude 如何被滥用于监控和武器

Anthropic 在 9 月 10 日发布威胁情报报告,披露 2025 年 12 月至 2026 年 8 月间 Claude 被滥用于网络攻击、国家监控、影响力行动、常规武器和生物研究等七类场景,并称已封禁相关账号、强化安全措施。这份报告罕见地给出了 AI 滥用从“理论风险”变为“正在发生的操作”的一手证据…

一句话看懂:Anthropic 在 9 月 10 日发布威胁情报报告,披露 2025 年 12 月至 2026 年 8 月间 Claude 被滥用于网络攻击、国家监控、影响力行动、常规武器和生物研究等七类场景,并称已封禁相关账号、强化安全措施。这份报告罕见地给出了 AI 滥用从“理论风险”变为“正在发生的操作”的一手证据。

事件核心:发生了什么

Anthropic 威胁情报团队披露的报告覆盖七类危害:网络行动、影响力行动、监控、常规武器研发、生物滥用、诈骗与欺诈、非法蒸馏。涉事模型包括 Claude Haiku、Sonnet 和 Opus,未涉及 Fable 或 Mythos 级模型(仅一例蒸馏除外)。公司对每起案件封禁账号并升级防护,同时向执法机构和行业伙伴同步了情报。

网络攻击部分占比最大。Anthropic 称 AI 正在缩小国家黑客与个人操作者之间的能力差距:过去需要专业团队完成的多目标攻击,现在单个操作者可在两到三小时内并行攻破数十个目标。其中一起代号 GTG-20006 的案件,操作者据称用 AI 检测安全产品是否已标记其恶意软件,再自动重写代码绕过检测。

监控部分提到一名巴马科顾问,被指为马里国家情报机构搭建了名为 Lakana 360 的平台,监控全国三大运营商约 2500 万张 SIM 卡,并绕过了调取记录需法院令的法律要求。由于系统部署在本地模型上,封禁账号并不影响已上线的系统。武器部分记录了六起案件,涉及中国、俄罗斯和也门,其中也门一案例据称使用 Claude Code 编写制导与控制代码,并试射了一枚制导火箭,试射似乎失败。

为什么重要

这是目前公开信息中,AI 厂商对模型滥用最具体的一次披露。它把讨论从“AI 会不会被滥用”推进到“已经被怎样滥用”,并且给出了可核查的模型名称、时间窗口和地区。对行业而言,这说明安全对齐不只是发布前的红队测试,还包括上线后的持续监控、账号封禁和跨机构情报共享。另一个信号是:本地部署的开源或可下载模型,让平台侧封禁难以触及已落地的系统,这会给闭源 API 模式带来新的合规与信任压力。

对用户/开发者/创作者的影响

对开发者来说,通过 API 调用大模型时,账号行为和用途审查会趋严,尤其是涉及安全工具、自动化攻击脚本、监控系统和武器相关代码的场景。企业采购方需要关注供应商的滥用监测能力和数据留存政策,因为一旦平台调整风控策略,接口权限和调用额度可能受影响。内容创作者和普通用户则更可能遇到更严格的使用条款和身份验证,但短期内主流产品的日常使用体验不太会因此改变。

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

值得关注的后续

其一,Anthropic 是否会公开更多技术细节,例如检测机制如何区分合法安全研究与攻击行为。其二,其他大模型厂商是否跟进发布类似威胁情报报告,形成行业惯例。其三,各国监管是否借此类案例推动 AI 滥用申报或强制披露要求,进而影响模型上线节奏和 API 服务范围。

来源:The Next Web

celebrityanime
celebrityanime
文章: 22810

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注