人工智能在许多任务上表现出色，但在需要判断力的工作中，它有时也会非常自信地给出错误答案
一句话看懂：AI 在编码、写作等任务上已能给出看似合理的输出，却在涉及专业判断的领域（如医疗诊断、法律分析）经常给出自信但错误的答案，暴露出当前大模型在事实性与可靠性上的根本短板。这一问题正引发行业对 AI 应用边界的严肃反思。
事件核心：发生了什么
据《华尔街日报》报道，多位 AI 研究者和企业高管指出，当前主流大语言模型（如 OpenAI 的 GPT-4、Google 的 Gemini、Anthropic 的 Claude）在大量测试中表现出色，甚至在某些专业考试中超过人类平均水平。然而，当任务涉及需要真实世界判断力的场景——例如解释一份法律合同中的隐含风险、判断医疗影像中的罕见病灶，或评估一项商业决策的伦理后果——模型不仅可能提供错误答案，还会以高度确定的语气“坚持”错误结论。这种现象在 AI 行业内被称为“幻觉”或“错误自信”，但在判断力密集型工作中，它不再是单纯的“小错误”，而是直接威胁到决策质量与用户信任。
为什么重要
这一现象正在重塑 AI 行业的商业化路径。目前，OpenAI 和 Google 等公司正将大模型推向企业级应用，如代码助手、客服机器人、内部知识库查询。然而，如果模型在需要判断力的任务中频繁给出自信而错误的回答，企业将不敢把关键决策流程交给 AI。这直接限制了 AI 在金融、医疗、法律等高价值市场的渗透率。同时，开源社区（如 Llama 系列）在追求模型能力提升时，也面临同样的可靠性困境。行业正在从单纯追求“模型通过考试”转向要求“模型在不确定时主动说不知道”——这比提升参数量或增加训练数据更难解决。
对用户/开发者/创作者的影响
对于普通用户：使用 AI 做日常决策（如健康建议、法律咨询、投资分析）时，不要被模型自信的表述误导，务必交叉验证。尤其当模型回答看起来具体且详细时，更需警惕其可能是虚构信息。对于开发者与创业者：构建 AI 应用时，如果系统涉及专业判断，必须增加事实核查层或人类审核环节。不能直接输出模型原始回答。例如，使用检索增强生成（RAG）技术引用外部权威源，或通过专有数据库减少幻觉。调用 API 时，可考虑设置置信度阈值，对低确信度的回答做标记或直接拒绝回答。对于内容创作者：AI 生成文稿在事实性细节上经常出错，尤其在涉及历史事件、数字、人物关系时。使用 AI 辅助写作后，务必逐条核实关键数据，并让模型为其判断性陈述提供来源。
AI 工具推荐
想把多个 AI 模型放在一个入口？
GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型，适合写作、绘图、视频和日常 AI 工作流。
推广链接：通过此链接购买，我可能获得佣金，不影响你的价格。
值得关注的后续
第一，OpenAI 和 Anthropic 等公司正在开发“诚实模式”，让模型在不确定时明确表示“不知道”，这项技术能否在产品层面落地是关键观察点。第二，企业级 AI 采购将越来越重视“可解释性”和“错误率审计”，未来可能催生专门评测模型判断力的第三方标准。第三，监管层面：欧盟 AI 法案对高风险 AI 系统有严格透明度要求，自信但错误的回答很可能触发合规风险，进而影响模型在欧洲市场的部署形态。
来源：on.wsj.com
