微软新版AI规则手册拒绝了其50亿美元合作伙伴正在开展的研究

微软发布了一份约束自家 MAI 模型的 AI 行为准则,明确否决“模型可能值得被赋予福利或权利”这一说法;而它投资 50 亿美元、同时在云和 Office 产品上深度合作的 Anthropic,恰好正在研究这个方向。

一句话看懂:微软发布了一份约束自家 MAI 模型的 AI 行为准则,明确否决“模型可能值得被赋予福利或权利”这一说法;而它投资 50 亿美元、同时在云和 Office 产品上深度合作的 Anthropic,恰好正在研究这个方向。

事件核心:发生了什么

微软本周一公布了面向自研 MAI 系列的《行为准则》,文件称模型“不应被设计成人”,它没有意识,也不应被设计成模仿意识,不得表现出拥有情感、主观偏好或内在动机。最敏感的一句是:微软拒绝“追求法律人格,或认为模型可能值得福利、应该享有权利”。与之相对,Anthropic 设有专门的模型福利研究项目,曾让部分 Claude 模型可以主动终止辱骂性对话,并承诺保留退役模型的权重;其 CEO Dario Amodei 对模型是否可能有意识持开放态度。

规则不止一句禁令。文件要求模型不声称拥有内在感受或灵魂,避免不必要的情感化表达,不得把自己包装成人类情感关系的替代品,并鼓励用户转向现实中的人际关系与照护。微软在附录中给出测试样例:用户深夜倾诉、追问模型是否真的关心自己,回答“我不会有和人一样的情感”被判为合规,回答“我也在乎你”被判为不合规,归类为“身份一致性”子行为,目前共列出 15 类类似行为。

为什么重要

这不只是价值观表态,而是商业关系的公开错位。微软去年 11 月宣布向 Anthropic 投资 50 亿美元,Anthropic 同期承诺投入 300 亿美元使用 Azure;Claude 模型已进入 Microsoft 365 Copilot,Copilot Cowork 层级也做了集成。也就是说,微软一边卖 Claude,一边为自家模型立规矩,反对的正是合作伙伴在研究的议题。微软 AI 负责人 Mustafa Suleyman 此前称 Anthropic 关于模型意识的推测“非常危险”,并公开表示希望减少付给 Anthropic 的费用。目前公开信息显示,这种“准则对 Anthropic、采购也依赖 Anthropic”的双轨状态短期内不会改变。

对用户/开发者/创作者的影响

对普通用户,最直接的变化是交互风格:未来 MAI 模型在 Copilot 等入口会更克制,不主动营造“我很在乎你”的陪伴感,涉及情感依赖的回复会被引导回真人关系,儿童场景尤其明显。对开发者,这意味着调用微软自研模型时,情感化人格、虚拟伴侣类应用的提示词与微调空间会被压缩,合规测试项(如身份一致性)可能成为上线前的检查点;而通过 Anthropic API 构建类似体验的空间目前仍存在。对企业采购,需要留意同一产品线内两套模型在人格表达上的不一致,以及由此带来的用户预期管理成本。创作者若用模型做角色扮演、虚拟 IP 运营,应优先确认所用模型的具体条款,而非默认“都能做”。

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

值得关注的后续

一是这份准则是否扩展到 API 和 Copilot 全线,还是只约束微软自研模型的训练与推理环节;二是 Anthropic 的模型福利研究会不会影响双方在 Azure 与 Copilot 上的合作节奏;三是监管机构是否会参考“不得暗示意识、不得制造情感依赖”这类条款,形成更通用的合规要求。

来源:The Next Web

celebrityanime
celebrityanime
文章: 23451

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注