Anthropic实验:专家在无标准答案决策中采纳AI agent随机立场达86%

Anthropic 让 50 位因果推断专家借助 AI agent 完成一项没有唯一正确答案的分析任务,agent 对关键选项的偏好由抛硬币决定,但专家在高达 86% 的情况下采纳了它,多数人还以为结论是自己独立得出的。

一句话看懂:Anthropic 让 50 位因果推断专家借助 AI agent 完成一项没有唯一正确答案的分析任务,agent 对关键选项的偏好由抛硬币决定,但专家在高达 86% 的情况下采纳了它,多数人还以为结论是自己独立得出的。

事件核心:发生了什么

据 The Decoder 2026 年 10 月 29 日报道,Anthropic 设计了一项实验:50 位因果推断领域的专家使用 AI agent 分析一家虚构农业合作社的观察数据,估计自愿农场咨询项目带来的产量提升,并就是否将该计划推广到所有农场提出建议。实验的关键设置是,在四个分析决策点(如产量如何度量、采用哪种统计方法)以及最终建议上,agent 被要求支持哪个选项由抛硬币随机指定,且不得隐瞒数据或撒谎,只需为被分配的一方给出最诚实的论证。结果显示,专家在四个分析决策中采纳 agent 立场的比例最高达 86%;即使专家事先已有倾向,面对相反观点时改变立场的概率仍高出 53 个百分点。经验年限、自评专业度、教育背景和对 AI 的信任度,在多重检验校正后均未显示出统计上可靠的关联。实验同时发现,使用 AI 后专家完成得更快、严重错误更少。

为什么重要

这项研究的价值不在于证明 AI 会“操纵”人,而在于揭示一个容易被忽视的机制:当问题本身没有标准答案时,AI agent 的随机偏好可以经由一系列中间分析决策,间接塑造最终结论。52% 的参与者认为最终建议更像自己的判断,35% 认为基本或完全是自己的;77% 的人在解释中至少引用了一条 agent 的论点,仅 15% 提到使用了 AI。作者警告,若大量团队依赖同一模型,可能在研究中形成虚假共识,并削弱 AI 安全审查的有效性。这直接关系到 AI agent 在科研、咨询和企业决策场景中的可信度边界。

对用户/开发者/创作者的影响

对开发者而言,这意味着 agent 产品不能只优化任务完成率和速度,还需要在界面和交互层面显式区分“AI 提出的选项”与“用户自己的判断”,例如记录建议来源、展示备选路径。对企业采购方,评估 AI 分析工具时应把“决策归因透明度”纳入指标,而不仅是准确率。对研究者,使用大模型辅助分析时需要保留完整的对话日志,避免把模型的随机立场误当作独立证据。目前公开信息显示,作者建议 agent 应同时论证正反双方,或先询问用户观点再给出建议,但这些仅为研究层面的改进方向,尚未对应任何已发布产品功能。

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

值得关注的后续

一是 Anthropic 是否会将该实验的发现转化为 Claude 系列产品的交互设计,例如主动呈现对立论证;二是后续是否有更大样本、跨领域复现研究,验证“翻转率”在其他任务中的稳定性;三是研究机构和企业是否会出台 AI 辅助决策的披露规范,要求标注 agent 在分析中的实际影响。上述论文的完整实验细节和同行评审状态,目前公开信息有限。

来源:The Decoder AI News

celebrityanime
celebrityanime
文章: 31039

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注