据报道,一份关于人工智能好处的报告充满了人工智能幻觉

全球“四大”会计师事务所之一的毕马威(KPMG)去年发布的一份关于“代理式AI”优势的报告,被调查机构发现大量虚假引用和事实错误。经GPTZero和英国《金融时报》核实,报告中45条引用仅5条准确,约一半的案例描述不实,多家被提及的公司已公开否认相关AI能力。

据报道,一份关于人工智能好处的报告充满了人工智能幻觉

一句话看懂:全球“四大”会计师事务所之一的毕马威(KPMG)去年发布的一份关于“代理式AI”优势的报告,被调查机构发现大量虚假引用和事实错误。经GPTZero和英国《金融时报》核实,报告中45条引用仅5条准确,约一半的案例描述不实,多家被提及的公司已公开否认相关AI能力。

事件核心:发生了什么

2026年6月,AI内容检测工具开发商GPTZero公布了其对KPMG在2025年10月发布的报告《Total Experience: Redefining Excellence in the Age of Agentic AI》的调查报告。该报告旨在展示企业如何利用代理式AI(Agentic AI)满足客户需求,但GPTZero的调查发现,报告中45条引用仅有5条指向真实来源;28条引用的标题与原文不符或包含虚假成分;12条引用表述模糊,无法核实。报告正文中约一半的案例被证实为伪造或错误归因。例如,KPMG声称阿联酋航空推出了名为Sara的AI聊天机器人,可代为修改机票,但实际Sara是2023年上线的移动助手,不具备AI能力,也无法更改预订。瑞士联合银行(UBS)和瑞士联邦铁路(SBB)均对报告中关于其部署“代理式AI”的说法予以否定,分别称其“事实错误”和“不准确”。GPTZero将AI模型编造虚假参考文献的行为称为“氛围引用”。目前KPMG已将报告撤回,并对外表示正在“审查其发布情况”。

为什么重要

KPMG作为“四大”会计师事务所之一,其发布的行业报告常被学术研究、企业采购决策和媒体引用,被视为高可信度来源。如果连这类由专业服务机构牵头制作、理应经过严格内部审校的报告都充斥着由大语言模型(LLM)生成的“幻觉”信息,那么整个AI行业的信息生态环境将面临严重污染。GPTZero首席执行官Edward Tian指出,这种错误百出的文本会“毒害信息之井”,并引发次级AI幻觉——即后来者误信错误信息并以此为基础进行推理和创作。这一事件击穿了业界对“专业机构发布内容必然准确”的默认信任,也揭示了当前AI辅助研究工具(如AI检索、自动摘要、引用生成系统)在事实核查机制上的系统性缺陷:模型可能会为了完成“找到代理式AI应用案例”的指令,强行编造虚假案例和参考文献,而撰写者缺乏能力或意愿去逐一核实。这对AI研究、商业引用和投资判断的权威性构成了直接挑战。

对用户/开发者/创作者的影响

对于从事AI应用开发、内容创作或企业技术评估的从业者,这个案例提供了两条关键警示。
1. 核实引用是刚需:在撰写技术方案、行业报告或商业分析时,不能依赖AI生成的参考文献。大模型在“氛围引用”时,会创造看似合理但实际不存在的论文标题、会议名称或公司产品描述。开发者在调用AI写代码注释或生成API文档时,同样需要人工验证,否则可能引入虚假的功能说明或依赖关系。
2. 警惕代理式AI的炒作泡沫:许多企业声称已在实际业务中大规模部署“代理式AI”(例如由LLM驱动的自主决策、跨系统操作),但本事件表明,部分宣称可能缺乏真实案例支撑。对于企业采购决策者,建议直接向供应商索取可复现的演示、技术白皮书和第三方审计报告,而非接受模糊的市场宣传。
3. 创作自动化流程需加“人工审核闸门”:对于借助AI生成内容来生产营销文案、行业分析或培训材料的创作者,应当建立“输出后的独立事实核查环节”,不能仅凭AI的自信表述就发布,否则可能像KPMG这样损害自身专业信誉。

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

值得关注的后续

目前公开信息显示,此事件有几个关键观察点:
1. KPMG是否会公开其内部审校流程的失败原因,以及是否会披露是使用了哪款或哪些AI研究工具导致了本报告的错误。这有助于行业了解风险源头。
2. GPTZero等AI检测工具是否会因本案获得更多企业级合同,推动企业对AI生成内容的“审计”成为新的合规要求。
3. “四大”会计师事务所及其他专业服务机构是否会在近期收紧内部AI使用政策,例如规定LLM生成的引用必须人工交叉验证,或禁止直接使用AI生成研究报告。这将直接影响AI在专业服务领域的商业化落地速度。

来源:Engadget

celebrityanime
celebrityanime
文章: 7638

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注