摘要：积分梯度 (Integral Gradient) 本质上是一种归因分析 (Attribution Analysis) 方法。这一小节里面我们对归因分析方法做个总结，并推导积分梯度方法。

积分梯度 (Integral Gradient) 本质上是一种归因分析 (Attribution Analysis) 方法。这一小节里面我们对归因分析方法做个总结，并推导积分梯度方法。

基于分类问题归因分析中，一种重要的方法是Integrated Gradient(积分梯度)。这一小节我们做个汇总。

[1] How to Explain Individual Classification Decisions (The Journal of Machine Learning Research)
[2] Deep Inside Convolutional Networks: Visualising Image Classification Models and Saliency Maps (ICLR 2014)
[3] Axiomatic attribution for deep networks (ICML 2017)
[4] Gradients of Counterfactuals

下面简单介绍下分类模型中几种计算归因图 (Attribution Map) 的方法。

很多介绍积分梯度方法的文章 (包括原论文)，都过于生硬，没有很好地突出积分梯度方法是怎么推导过来的。本文试图用我自己的思路推导一下积分梯度方法的来龙去脉。

原论文认为归因分析 (Attribution Analysis) 方法应该首先满足两条基本的公理：

公理1：敏感性 (Sensitivity)

敏感性 (Sensitivity) 是指：任意的输入图片和基线图片，当其差值的某一部分发生了变化，导致模型的预测结果也发生变化时，归因图结果也应该能够表达出这种变化。

公理2：实现不变性 (Implementation Invariance)

如果两个网络，尽管它们的实现方式非常不同，但是其输出对所有输入都相等，则这两个网络在功能上是等效的。举个例子：

归因分析方法需要满足实现不变性 (Implementation Invariance)，即：对于两个功能相同的网络，尽管结构可能不一样，但是归因图的结果应该是相同的。

下面我们给大家从头推导积分梯度 (Integrated Gradients) 的方法。

在高等数学定积分章节里面，有下面的求解一元函数定积分的方法 (这个公式来自同济大学高等数学教材第七版)：

把这个多重积分写成易于理解的展开式形式就是：

接下来我们把6式变化一下：

来源：极市平台