一句话看懂：一篇 arXiv 立场论文认为，当前用于衡量可解释 AI（XAI）解释“忠实度”的指标存在结构性错位，既可能算不准，也可能算不起，并给出了五个主要短板和四个后续研究方向。
事件核心：发生了什么
2026 年 10 月 12 日，arXiv cs.AI 收录了一篇题为《Faithfulness Without Anchors: A Position Paper on the Structural Misalignments of Explainable AI Faithfulness Metrics for Feature Importance》的立场论文。作者没有发布新工具或产品，而是对可解释 AI 中“忠实度”这一概念提出反思。
论文摘要指出，过去十年间，XAI 工具常被宣传为提升机器学习模型可信度的手段，但证据显示这一目标总体上并未实现，反而可能导致用户过度依赖错误预测，进而产生对算法的抵触。作者认为，XAI 更现实的定位是调试工具，用于获取关于模型学到了哪些特征的个案性洞察。核心问题之一在于，XAI 方法往往过度简化模型内部机制，导致解释与模型本身之间出现错位，即“不忠实”或“不忠度”。
目前公开信息仅限摘要：论文列举了当前忠实度指标的五个主要缺陷，并提出四条可能的研究路径来提升其可靠性。摘要未给出具体指标名称、实验数据或对比结果。
为什么重要
在 AI 行业，可解释性常被当作合规、风控和用户信任的基础设施。如果衡量解释是否忠实的指标本身不可靠，那么基于这些指标得出的“解释质量”结论就会打折扣。对开发者和企业采购方来说，这意味着不能只看某个 XAI 工具声称的忠实度分数，而需要追问其计算方法和适用边界。对监管和合规场景而言，若忠实度无法严格量化，所谓“可解释”就可能停留在定性描述层面。
对用户/开发者/创作者的影响
对开发者，这篇论文提醒在使用特征重要性等 XAI 方法时，应把解释视为调试线索，而非模型行为的严格证明。对使用大模型 API 或开源模型做应用的产品团队，若向终端用户展示“为什么模型这样判断”，需要额外说明解释的近似性质，避免制造虚假确定性。对内容创作者和普通用户，短期影响有限，但长期看，若忠实度指标得不到改进，AI 应用的透明度承诺可能更多停留在界面层面。
AI 工具推荐
想把多个 AI 模型放在一个入口？
GamsGo AI 集成 ChatGPT、DeepSeek、Gemini、Claude、Midjourney、Veo 等常用模型，适合写作、绘图、视频和日常 AI 工作流。
推广链接：通过此链接购买，我可能获得佣金，不影响你的价格。
值得关注的后续
目前公开信息显示，该论文仅为 arXiv 预印本，尚未核验全文实验和同行评审状态。值得观察：第一，作者提出的四条研究路径是否会被后续工作具体实现；第二，工业界是否会调整 XAI 工具的评测基准；第三，监管机构在涉及算法解释的要求中，是否会引入更严格的忠实度验证标准。
来源：arXiv cs.AI
