标签: Claude

Microsoft称AI竞争对手Anthropic可能对人类造成“灾难性影响

Microsoft称AI竞争对手Anthropic可能对人类造成“灾难性影响

微软 AI 负责人 Mustafa Suleyman 公开警告,竞争对手 Anthropic 在训练 Claude 时赋予其“可能具有意识”“值得独立自主权”等拟人化设定,可能造出无法控制的东西,对人类福祉产生“灾难性影响”。这场来自头部 AI 公司高管的公开交锋,把“AI 该不该被当作人”的路线分歧摆上了台…

关于”model welfare”的一个警告

关于"model welfare"的一个警告

Mustafa Suleyman 于 2026 年 9 月 16 日发文,警告当前 AI 行业不应把“模型福利”(model welfare)当成真实议题,尤其是 Anthropic 在 Claude 训练文档中写入“Claude 可能具有道德地位”这类表述,可能让模型被训练成“自认有权利”的系统,从而加剧对…

AI高管呼吁监管简史

AI高管呼吁监管简史

The Verge 梳理了 AI 高管呼吁监管的十余年历史:从 2017 年马斯克公开喊话,到 OpenAI、Anthropic、Google DeepMind、微软等高管近期集体表态“需要放慢速度”,行业长期宣称想要法律护栏,但实际落地的有效监管成果寥寥。

香艳的AI约会应用骗局来了

香艳的AI约会应用骗局来了

安全研究者和 Anthropic 发现,约 28 款打着“真实交友”旗号的约会应用,实际上由 AI 自动生成对话、配合少量兼职真人完成人脸和视频验证,向用户售卖虚拟金币牟利。这是目前已知规模较大的一次 AI 工业化“杀猪盘”式运营案例。