安永发布了一份充满臆想的网络安全报告

安永发布了一份充满臆想的网络安全报告

安永发布了一份充满臆想的网络安全报告

一句话看懂:GPTZero 的自动检测管线发现,安永加拿大在 2025 年发布的一份网络安全报告中,27 个参考文献全部为“幻觉引用”,72% 的文本疑似 AI 生成。这些错误内容正通过新闻、博客和 AI 搜索摘要污染公共信息环境。

事件核心:发生了什么

GPTZero 团队针对四大会计师事务所之一安永(EY)加拿大的 44 页报告《Points of Attack: Uncovering Cyber Threats and Fraud in Loyalty Systems》进行了系统性验证。该报告标注作者为三位咨询师(两位合伙人、一位高级经理),内部没有使用脚注,而是将引用嵌入正文并附上一张资源表。GPTZero 的自动管线逐条验证了表中所有链接和标题,结果发现:27 个参考文献全部是“幻觉引用”——URL 返回 404、对应文章不存在或标题与真实内容完全不匹配。例如,其引用的 BleepingComputer 文章路径不存在,Wired 文章路径也不存在,Gartner 文档在官网中查无此文。同时,GPTZero 的 AI 扫描判定该报告 72% 的文本为 AI 生成。GPTZero 此前已用同样的“幻觉检查”工具揭露过德勤两份报告、NeurIPS 和 ICLR 会议论文中的类似问题。

为什么重要

这起事件暴露了大型咨询公司在生成研究报告时,可能已普遍依赖大模型进行粗放的内容生产和引用虚构。安永加拿大每年向加拿大政府提供数百万美元的咨询服务,其报告中的虚假数据和错误引用一旦进入政策制定、企业采购决策或 AI 训练数据池,将直接削弱下游的可靠性和信任度。更重要的是,GPTZero 发现类似问题不仅限于安永一家——在政府出版物、德勤报告中同样存在“幻觉引用”现象,暗示这是行业内系统性蔓延的问题,而非个别人失误。当这些错误被新闻媒体、AI 搜索摘要二次传播,就会形成“错误数据→训练新模型→产生更多错误”的自反馈循环。

对用户/开发者/创作者的影响

对研究者、记者和政策分析师而言,依赖公开报告中的引用可能误导分析方向,甚至引入虚假结论。对使用 AI 搜索摘要和知识增强检索工具的开发者,此类报告若被纳入向量数据库或 RAG 流程,将直接导致模型输出错误信息。对普通用户,在阅读网络新闻时很难辨别哪些引用是虚构的,这要求媒体对引用来源进行更严格的二次验证。GPTZero 此次采用的自动检测管线可扫描 PDF、网页中的引用列表并逐条验证URL有效性,这类工具可能成为未来研究与出版流程中的标配。

GamsGo AI

AI 工具推荐

想把多个 AI 模型放在一个入口?

GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型,适合写作、绘图、视频和日常 AI 工作流。

了解 GamsGo AI

推广链接:通过此链接购买,我可能获得佣金,不影响你的价格。

值得关注的后续

第一,安永是否会官方回应并勘误该报告?四大咨询公司的报告质量审核流程是否会被重审?第二,GPTZero 表示将陆续发布对其他咨询公司报告的扫描结果,目前公开信息仅涉安永加拿大一家,后续披露范围将直接影响行业共识。第三,AI 搜索和摘要类产品的提供商(如 Perplexity、Google Gemini)已开始将此类报告纳入训练或索引,可能需要引入引用可信度评分机制来抵御“幻觉引用污染”。

来源:gptzero.me

celebrityanime
celebrityanime
文章: 4667

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注