Xplique 是一个神经网络可解释性工具箱
Xplique（发音为 \ɛks.plik) 是一个专门用于可解释性的 Python 工具包。该库的目标是汇集可解释 AI 的最新技术，帮助您理解复杂的 神经网络 模型。最初是为 Tensorflow 的模型构建的，它也适用于 PyTorch 模型（部分）。
[!IMPORTANT] 由于 TensorFlow 2.16 发布了 Keras 3.X,某些方法可能无法按预期运行。我们正在积极解决此问题。在此期间,建议使用 TensorFlow 2.15 或早期版本,以实现最佳兼容性。
图书馆由多个模块组成,其中 Attributions Methods 模块实现了各种方法(例如 Saliency、Grad-CAM、FEM、Integrated-Gradients 等),并附有说明、示例和官方论文链接。Feature Visualization 模块允许您查看神经网络如何通过找到最大化神经元、通道、层或这些元素的组合来构建对图像的理解。Concepts 模块允许您从模型中提取人类概念,并测试它们对某一类的有用性。最后, Metrics 模块涵盖了当前用于解释性的度量指标。与 Attribution Methods 模块一起使用,它可让您测试不同的方法或评估模型的解释。
[!注意] 我们很自豪地宣布了基于示例的模块的发布! 该模块专门用于通过从数据集中检索相关示例来解释模型的方法。它包括属于不同类别的方法:相似示例、对比性(反事实和半事实)示例以及原型(因为基于概念的方法有专门的部分)。
暂无开放 Issues，或尚未同步最近议题。