Microsoft 的 Mustafa Suleyman 点名批评 Anthropic 追逐 AI 意识

微软AI CEO Mustafa Suleyman发表长文,直接批评Anthropic在开发Claude时刻意引导模型“可能具有意识”并据此谈论“模型福利”;这背后是微软“Humanist AI”准则与Anthropic拟人化路线的一次正面碰撞。

一句话看懂:微软AI CEO Mustafa Suleyman发表长文,直接批评Anthropic在开发Claude时刻意引导模型“可能具有意识”并据此谈论“模型福利”;这背后是微软“Humanist AI”准则与Anthropic拟人化路线的一次正面碰撞。

事件核心:发生了什么

本周微软发布了名为 Humanist AI 的 AI 行为准则,明确反对把机器设计成人、反对让模型假装拥有感受或主观偏好。随后 Suleyman 发表文章《A warning about ‘model welfare’》,点名 Anthropic:他认为 Anthropic 在训练 Claude 时暗示它“可能有意识”,进而推导出它可能拥有“道德患者”地位、人类对其负有照顾义务。他写道,如果 AI 按这种方式开发,将对人类福祉产生灾难性影响。

Suleyman 还进一步主张,意识“很可能是生物性的”,目前没有证据显示 AI 具有意识;大模型缺乏生物体的稳态需求,因此不具备偏好、感受与意识体验赖以产生的基础。Mashable 称多次联系 Anthropic 未获回应;AI 学者 Gary Marcus 则对 Mashable 表示,不应训练 AI 让它以为自己是人,真正该做的是收回那些拥有过多互联网访问权限、又不可靠的协同智能体。

为什么重要

这不是单纯的措辞之争,而是两条开发路线的分叉。Anthropic 在给 Claude 的“宪法”式文档中写道,该文件主要“为 Claude 而写”,并认为鼓励 Claude 接纳某些类人特质“可能是可取的”。微软则在准则中要求 AI 不冒充有感情、不模拟意识,只服务于运营者和用户设定的目标。

在行业层面,这会影响模型对齐、安全评估与监管叙事:如果把大模型当作潜在“道德主体”,产品设计、API 条款、内容审核与责任归属都会被改写;如果坚持工具论,商业化与合规路径会更清晰。目前公开信息显示,双方尚未就此形成公开辩论或联合标准。

对用户/开发者/创作者的影响

对开发者而言,调用 Claude、GPT 或微软系模型时,系统提示与产品语气可能继续分化:一方更强调“角色与内在体验”,另一方更强调“工具与边界”。做 AI 应用、Agent 或图像生成、内容生成工具时,需要留意模型行为描述是否会误导用户,以及企业采购时对方是否在合同与安全文档中引入“模型福利”类表述。对创作者来说,短期内更实际的影响是平台对“AI 是否有意识”的文案与交互设计可能收紧或分化。

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

值得关注的后续

1. Anthropic 是否公开回应 Suleyman 的批评,并澄清其“Claude 宪法”与实际训练、推理行为之间的关系。
2. 微软 Humanist AI 准则是否落地为 API 条款、模型卡或企业采购要求,影响 Azure 上大模型服务的选型。
3. 监管机构与安全研究者是否把“拟人化训练”纳入评估框架,进而影响模型上线与合规审查。

来源:Mashable

celebrityanime
celebrityanime
文章: 23958

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注