DeepExplain

DeepExplain: 深度学习 的归因方法 === DeepExplain 提供了一个统一的框架,用于先进的梯度 和 扰动基础的归因方法。研究人员和从业者可以使用它来更好地理解现有推荐模型,以及对其他归因方法进行基准测试。 它支持 Tensorflow 以及搭载 Tensorflow 后端的 Keras。 **仅支持 Tensorflow V1。对于 V2，有一个开放的拉取请求，如果禁用了即时执行，则可以使用。 **

基于梯度的归因方法

• 重要性图
• 梯度 * 输入
• 综合梯度
• DeepLIFT, 其第一个变体采用 Rescale 规则 (*)
• ε-LRP (*)

基于扰动的归因方法

• 遮挡法,作为Zeiler 等人的灰盒方法的扩展。
• Shapley 值采样法

当所有输入特征的属性被整合到具有与输入样本相同形状时,我们就谈论输入样本的形状。