文件名称：通过分位数条件来解释具有边际归因的深度学习模型-研究论文
文件大小：829KB
文件格式：PDF
更新时间：2024-06-29 12:22:39
explainable AI (XAI)
出现了大量关于解释深度学习模型的文献。 本文通过引入一种基于全局梯度的模型不可知方法为该文献做出贡献，我们将其称为分位数条件下的边际归因 (MACQ)。 我们的方法基于分析预测（输出）对单个特征（输入）的边际属性。 具体而言，我们通过混合（全局）输出级别来考虑可变重要性，从而解释特征如何在预测空间的不同区域中做出微小贡献。 因此，MACQ 可以被看作是诸如累积局部效应 (ALE) 等方法的边际归因对应物，这些方法通过扰动输入来研究输出的敏感性。 此外，MACQ 允许我们将单个特征的边际属性与交互效应分开，并直观地说明边际属性、输出水平和特征值之间的三向关系。