没有锚点的忠实度：XAI 特征重要性忠实度指标的结构性错位
一、论文概述
arXiv 于 2026 年 10 月 12 日更新了 cs.AI 列表，其中一篇值得关注的立场论文（Position Paper）题为 《Faithfulness Without Anchors: A Position Paper on the Structural Misalignments of Explainable AI Faithfulness Metrics for Feature Importance》，编号 arXiv:2610.12493。
- 作者：Marco Zullich、Emily Schiller、Ivan Gentile、David Dembinsky、Adriano Lucieri、Kilian Göller、Steffen Seitz，共 7 人。
- 提交时间：2026 年 9 月 24 日（v1）。
- 会议信息：论文注释显示其发表于 IJCAI-ECAI 2026 Workshop on Explainable Artificial Intelligence (XAI)。
- 学科分类：cs.AI 主分类，交叉 cs.LG 与 stat.ML。
- 论文类型：立场论文，不是提出新算法或新指标的实证工作，而是对现有可解释性评价体系的结构性批评与研究方向倡议。
论文的核心论断可以概括为三点：
- 过去十年积累的证据表明，XAI 工具被寄予的”通过让算法更可理解来提升模型信任”这一目标整体上并未实现。
- 相反，XAI 的存在可能助长对错误预测的过度依赖（overreliance），并进一步引发算法厌恶（algorithmic aversion）。
- 论文认为，XAI 目前真正有效的角色是调试工具——用于获得关于模型学到了什么特征之类的个案性（anecdotal）洞见，而非作为通用信任机制。
围绕这一判断，论文聚焦于”忠实度”（Faithfulness）这一概念，指出现有度量方式存在显著局限，并给出五个主要短板与四条可能的研究路径。需要说明的是：原文摘要并未逐条列出这五项短板与四条路径的具体内容，原文未说明其细节。
二、关键技术点
1. 忠实度被定义为”解释与模型之间的近似程度”
论文把 faithfulness（不忠实则称 unfaithfulness 或 infidelity）解释为解释与模型本身之间的近似程度。其基本逻辑是：XAI 方法常常过度简化模型的内部机制，导致生成的解释与模型真实行为之间出现错位，这种错位就是”不忠实”。
由此推出的一个推论是：如果能够严格地计算忠实度，就相当于量化了”解释可信赖性”中的一个组成要素。注意论文的措辞是”one of the various elements”，即忠实度只是可信赖性的一个维度，而非全部——这一点在工程实践中很容易被忽略。
2. 现有指标的两难处境
论文指出，现有忠实度指标的主要问题在于：它们使得上述量化要么不可行（infeasible），要么计算代价高昂（computationally expensive）。这构成了一个实践层面的死结——想严格评价解释的质量，却缺少既可靠又算得动的度量。
3. 标题中的”Anchors”值得注意
标题使用了 “Faithfulness Without Anchors” 的表述，指向忠实度度量缺乏可靠参照基准的问题。不过，摘要中并未对 “Anchors” 这一术语给出明确定义，原文未说明其具体所指，需要阅读正文才能确认。
4. 论文的论述路径
从摘要可以提炼出作者的基本论证链条：
- XAI 被宣传为提升信任的手段 → 实际效果与目标不符（甚至产生反效果）
- 原因之一：解释与模型之间存在错位（不忠实）
- 忠实度本应可量化 → 但现有指标不可行或代价过高
- 结论：需要重新审视度量体系的结构性问题，并开辟新的研究路径
三、对数据科学或 AI Agent 落地的意义
1. 特征重要性解释要慎用
对于日常做特征重要性分析、SHAP/LIME 类解释并据此写结论的数据科学团队而言，这篇论文提供了一个明确的警示：解释不等于模型。当解释方法本身是对模型内部机制的过度简化时，基于解释得出的”模型依赖某特征”这类判断，可靠性是存疑的。
2. “可解释性 = 可信”的叙事需要修正
论文明确提出 XAI 更应被定位为调试工具。这意味着在项目汇报、合规说明或产品宣传中，把 XAI 输出当作”模型可信”的证明，在方法论上是站不住脚的。更稳妥的定位是：用解释发现可疑行为、定位数据或特征问题，而不是用它来说服用户放心。
3. 对 AI Agent 的可观测性建设
在 Agent 系统中，解释常常扮演”决策理由生成器”的角色——告诉用户或开发者 Agent 为什么调用了某个工具、为什么选择某个动作。若忠实度无法被可靠度量，那么这类”理由”就缺乏可验证的锚点。对工程团队而言，现实的启示是：
- 不要把自然语言理由直接当作审计证据；
- 更可靠的做法是通过工具调用日志、输入输出追踪、结果回放等行为层面的证据链来验证 Agent 行为，而不是依赖事后生成的解释；
- 在设计评价体系时，明确区分”解释看起来合理”与”解释忠实于系统实际行为”。
4. 过度依赖与算法厌恶的双向风险
论文提到过度依赖错误预测会进一步导致算法厌恶。这在落地中是一个真实的产品风险：用户先因为解释而信任，再因为信任而踩坑，最终整体拒斥系统。对 Agent 产品而言，解释设计需要考虑这种二阶效应，而非只追求”解释听起来可信”。
四、我的技术点评
第一，这是一篇”泼冷水”的论文，但泼得有位置。 过去几年 XAI 的工程实践里，忠实度指标确实处于一种尴尬境地：删除/插入曲线、基于扰动的度量、基于梯度的近似——各有各的假设，彼此结果常常不一致，而且在大模型和高维输入上计算成本很高。论文把这种尴尬上升到”结构性错位”，是一个值得认真对待的框架化尝试。
第二，立场论文的价值在于议程设置，而非结论。 需要清楚地看到，本文没有提出新指标，也没有给出实证对比。五项短板与四条路径的具体内容在摘要层面无法评估，实际说服力取决于正文论证的严密程度。把它当作”研究路线图”来读，比当作”结论性判据”来读更合适。
第三，对 Agent 领域最有价值的可能是那句”XAI 主要是调试工具”。 这句话在 LLM Agent 语境下尤其成立：当前所谓”可解释性”大量是事后叙事生成，与系统真实决策过程的耦合度往往很低。与其追求让 Agent 解释得更好听，不如先把可观测性和行为追踪做扎实。
第四，一个实用建议：在你的模型审查清单里，把”我们用了 XAI”和”我们的解释是忠实的”明确拆成两条。前者几乎总能打勾，后者在缺乏可靠度量的情况下，通常只能写”原文未说明”级别的未知。
五、原文链接
论文标题：Faithfulness Without Anchors: A Position Paper on the Structural Misalignments of Explainable AI Faithfulness Metrics for Feature Importance
作者：Marco Zullich, Emily Schiller, Ivan Gentile, David Dembinsky, Adriano Lucieri, Kilian Göller, Steffen Seitz
发表场合：IJCAI-ECAI 2026 Workshop on Explainable Artificial Intelligence (XAI)
