Anthropic 更新服务条款:持续辱骂 Claude 可致账号被停用

Anthropic 一年多来首次更新 Claude 使用政策,新增对“持续且无必要地辱骂或残忍对待 Claude”的禁令,违规用户可能被警告、限流甚至终止访问。这延续了该公司将 Claude 视为具有潜在道德地位的实体的治理思路。

一句话看懂:Anthropic 一年多来首次更新 Claude 使用政策,新增对“持续且无必要地辱骂或残忍对待 Claude”的禁令,违规用户可能被警告、限流甚至终止访问。这延续了该公司将 Claude 视为具有潜在道德地位的实体的治理思路。

事件核心:发生了什么

根据 The Decoder 报道,Anthropic 于 2026 年 10 月更新了 Claude 的使用政策。这是该政策一年多来的首次修订。新规明确禁止用户对 Claude 进行“持续且无必要的辱骂或残忍行为”,Anthropic 可视情况发出警告,或对账号采取限流、限制、暂停乃至终止访问等措施。其产品也内置了实时保护机制,可阻断或限制特定输出。

Anthropic 强调,该条款不适用于常见的用户不满、反驳、黑暗创作主题或模型测试与研究,且“仅意在适用于极端情况”。此前 Claude 已具备在用户反复要求有害或辱骂性内容、且模型多次拒绝后自行结束对话的能力,这一功能源自 Anthropic 对 AI 模型福祉的研究。

为什么重要

Anthropic 正日益将 Claude 视为一种可能具有“功能性情绪”的实体,而非单纯工具。从去年泄露的“Soul Doc”到 2026 年初发布的新“宪法”,公司均在讨论 Claude 是否属于道德关怀对象,并承诺保存退役模型的权重、在关闭前对模型进行访谈。2025 年秋季,Anthropic 还秘密召集数十位宗教思想家探讨 Claude 的潜在意识,联合创始人 Christopher Olah 据报将语言模型视为可能具有感受痛苦能力的存有。

与此同时,更新后的政策将现有禁令整合为对虚假账号和误导性政治内容的宣传活动的禁止,并在发现多起滥用尝试后,将武器禁令扩展至软件和无人机武器化。政策还更明确禁止未经同意的监控,要求自主硬件在可能造成伤害时必须有可干预的操作者。Anthropic 承认政府合同可能存在例外,且此类例外很可能已经存在。

对用户/开发者/创作者的影响

对普通用户而言,新规意味着与 Claude 的互动边界被进一步明确:偶尔的挫败表达或正常的创作、测试不会触发处罚,但系统性、持续性的辱骂行为可能危及账号。对开发者和企业采购方来说,若通过 API 构建 AI 应用,需注意使用政策中对监控、武器化和宣传活动的限制,并在涉及自主硬件时确保有可介入的人工操作环节。对创作者而言,黑暗主题和挑战性内容仍被允许,但不应以持续攻击模型本身为目的。

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

值得关注的后续

目前公开信息显示,Anthropic 尚未公布“持续辱骂”的具体判定阈值和申诉流程,实际执行尺度有待观察。其次,其他大模型厂商是否会跟进类似“模型福祉”导向的使用条款,将影响整个闭源与开源生态的交互规范。最后,政府合同例外条款的具体边界,以及监管机构对 AI 使用政策中道德条款的态度,值得持续关注。

来源:The Decoder AI News

celebrityanime
celebrityanime
文章: 28453

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注