一句话看懂：佛罗里达一名女子在 Claude 聊天中扬言“扫射”警长办公室，Anthropic 的内容审核系统识别后交由人工复核并报警，她已被捕并面临重罪指控。这再次说明主流大模型平台会主动把高危威胁内容交给执法机构。
事件核心：发生了什么
据 The Next Web 报道，美国佛罗里达州李县（Lee County）一名女子于 9 月 26 日在 Claude 对话中写下要“shoot up”（扫射）当地警长办公室的言论，次日又提到自己新买了一把枪。Anthropic 平台会监测关键词和潜在威胁性内容，因语句严重程度较高，内容被转交人工审核团队，随后由该团队报告给执法部门。警方在其住所将其无冲突带走，法院记录显示 9 月 30 日按佛罗里达州法规 836.10 提起一项重罪指控，该条款针对书面或电子形式的大规模枪击、恐怖主义威胁，公设辩护人已获指派，提审定于 11 月 2 日。警长 Carmine Marceno 称，该女子表示自己把 AI 当作“日记”使用。Anthropic 目前未就本案公开置评。
为什么重要
这不是孤例。Tom’s Hardware 统计，自 8 月以来至少还有两起 Claude 对话被送到警方：8 月 11 日圣安东尼奥一名 22 岁男子在 Claude 中询问向附近小学开枪，由 FBI 通报后被捕；8 月 14 日旧金山一名用户威胁 Anthropic CEO Dario Amodei 并称买了 AR-15，Anthropic 报警但未导致逮捕。OpenAI 也有类似动作：今年 3 月一名佛州男子向 ChatGPT 表达杀害前女友的意图，OpenAI 通报 FBI，他 8 月认罪并被判八年缓刑。这说明头部大模型厂商正在把“内容安全”从产品体验问题升级为执法协作问题，也把“用户以为的私密对话”和“平台实际的数据处置”之间的落差摆到台面上。
对用户/开发者/创作者的影响
Anthropic 隐私政策自 9 月 10 日起生效，其中写明在善意相信披露“合理必要”以“防止对任何人或财产造成严重伤害”时，可能与执法机构共享个人数据；其政府请求政策则称仅在有效法律程序下披露，例外是可能造成“紧迫人身伤害或死亡”的紧急情况。对普通用户，这意味着 Claude、ChatGPT 这类闭源大模型的对话并非绝对私密，涉及暴力威胁、恐怖主义等表述可能触发人工审核和报警。对开发者和企业采购方，如果通过 API 把大模型接入客服、社区或内容产品，需要提前评估数据留存、审核触发和合规通报机制，而不是只关注推理成本和模型能力。
AI 工具推荐
想把多个 AI 模型放在一个入口？
GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型，适合写作、绘图、视频和日常 AI 工作流。
推广链接：通过此链接购买，我可能获得佣金，不影响你的价格。
值得关注的后续
一是 11 月 2 日提审及后续司法进展，可能影响平台“主动报警”的法律边界；二是 Anthropic 是否就本案或审核流程公开说明，以及是否调整隐私政策表述；三是佛罗里达州总检察长已就相关议题起诉 OpenAI 并寻求法院命令，监管层对 AI 平台举报义务的态度值得持续跟踪。
来源：The Next Web
