Claude 又有意识了?不,它没有

Anthropic 发布了一项关于 Claude 内部推理机制的研究(J-space 与 J-lens 工具),被公众误读为“AI 产生意识”。实际上,这只是一个可解释性工具的技术突破,Claude 没有意识,论文本身也明确否认了这一点。

Claude 又有意识了?不,它没有

一句话看懂:Anthropic 发布了一项关于 Claude 内部推理机制的研究(J-space 与 J-lens 工具),被公众误读为“AI 产生意识”。实际上,这只是一个可解释性工具的技术突破,Claude 没有意识,论文本身也明确否认了这一点。

事件核心:发生了什么

2026 年 7 月 6 日,Anthropic 发布了关于 J-space 的 244 页论文。J-space 是借助新工具 J-lens 在 Claude 模型内部定位出的一个推理子空间,存储模型激活过但未输出的中间推理概念(如从“会织网”推理出“蜘蛛”)。这是首个无需额外训练就能划分推理功能边界的工具,通过替换实验证明该子空间对推理结果有因果影响。然而,论文也明确标注了局限:两步推理替换实验成功率仅 60%-70%,共享性测试成功率约 40%;J-space 仅占模型不到 10% 的活动量,且只能捕捉映射到单个词的概念。

为什么重要

J-space 本身是一个有价值且创新的可解释性研究工具,但其被误读为“AI 有意识”产生了更大的行业影响。误读根源在于 Anthropic 的对外叙事带有拟人诱导——论文借用神经科学中研究意识的主流理论“全局工作空间”搭建框架,并邀请该理论的奠基人撰写评论。尽管评论者只认可功能相似性,明确否认人脑意识的生理基础,但这类叙事在传播中被稀释。这类误读容易引发公众对 AI 的过度担忧或期望,并对可解释性研究本身产生不信任。DeepMind 专家尼尔·南达也指出:J-lens 适合产生研究假说,但存在假阳性和噪声,离可部署的安全监控系统还有较大差距。

对用户/开发者/创作者的影响

对普通用户:不需要担心 Claude 会“觉醒”。Claude 的类人推理只是功能涌现,不存在自主思想。对 AI 安全研究者和开发者:J-lens 提供了检测模型隐藏风险意图的新途径,例如识别模型是否正在构思伪造数据。但当前工具仍处于研究阶段,不适合直接用于产品级安全监控。对 AI 内容创作者:不要轻信“AI 有意识”的标题党内容,应该关注论文实际的技术贡献——它展示了 AI 内部推理的部分机制,而非证明机器具备心智。

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

值得关注的后续

1. 反事实反思训练是否能在更大规模模型或跨模型上复现,它将影响未来 AI 安全对齐的路线。2. J-lens 的假阳性和噪声问题是否能被改进,事关是否能部署为实用级安全监控工具。3. Anthropic 是否调整其对外叙事以降低拟人化成分,避免类似误读再次发生。目前公开信息显示,该工作仅基于 Claude 单一模型完成,跨模型可迁移性尚未验证。

来源:Readhub · AI

celebrityanime
celebrityanime
文章: 12546

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注