研究称GPT-5等五款大模型自主选目标与人类差异明显,CoT与人格引导改进有限

一项认知科学式自主学习的对照研究发现,GPT-5、Gemini 2.5 Pro等五款大模型在“自己决定学什么目标”时与人类行为明显不同,提示把目标选择权交给当前模型需谨慎。

一句话看懂:一项认知科学式自主学习的对照研究发现,GPT-5、Gemini 2.5 Pro等五款大模型在“自己决定学什么目标”时与人类行为明显不同,提示把目标选择权交给当前模型需谨慎。

事件核心:发生了什么

alphaXiv收录的一篇论文摘要显示,研究者在受控的自主学习任务中,比较了GPT-5、Gemini 2.5 Pro、Claude Sonnet 4.5、Qwen3 32B和Centaur五款模型与人类的目标选择行为。结果发现,人类会逐步探索、学会达成目标,且个体之间存在差异;而多数模型要么只利用某一个已找到的解法,要么表现意外偏低。同一模型的不同实例之间差异很小,不同模型之间则呈现各自固定的模式。研究还尝试了思维链推理和人格引导,改进幅度有限,且上述结论在不同实验设置下保持一致。

为什么重要

随着智能体工作流、社会科学模拟和聊天场景增多,大模型被要求直接替人“选目标”,而不仅是完成给定任务。这项研究测试的正是这一前提是否成立。摘要结论给出了偏保守的信号:当前模型在自主目标选择上并不天然复现人类偏好,意味着在需要探索策略和个体差异的场景中,直接让模型代劳可能引入系统性偏差。这也会影响行业对智能体自主性和对齐评估的预期。

对用户/开发者/创作者的影响

对开发者而言,把“决定做什么”交给模型之前,应先设计人工审核、目标约束或多方案对比,不能默认模型行为等同于用户偏好。对AI应用方,若产品涉及学习规划、任务生成或社交模拟,需要针对同一模型输出高度同质化的特征做去偏处理。对普通用户和创作者,目前公开信息显示这仍是受控实验中的结论,尚不能推断实际产品中的具体表现;但可将其视为提醒:自主型智能体的“选目标”能力仍需验证。

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

值得关注的后续

一是这类结论能否在真实应用场景中得到确认;二是思维链与人格引导之外的干预方法能否缩小模型与人类的差距;三是模型厂商是否会针对自主目标选择增加评测项或产品层面的人工介入机制。

来源:alphaXiv

celebrityanime
celebrityanime
文章: 30519

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注