LimeTabularExplainer 在对同一实例进行运行时每次都会提供完全不同的解释 — 任何随机状态修复都无法可靠地工作

LIME 旨在帮助您解释模型的预测结果,但解释本身却极不稳定。连续两次对完全相同的数据点运行 explain_instance() 方法,您会得到两次不同的特征重要性。有时差异非常大。在一次运行中,某个特征在解释预测结果时排名第一,但在下一次运行中,该特征可能几乎不出现。这不仅仅是一个小问题。如果您在受监管的环境(例如医疗保健、金融、法律)中使用 LIME,并且每次合规官员运行该工具时,解释结果都会发生变化,这将是一个严重问题。您实际上无法给出一致的答案,解释为什么模型做出了特定的决策。解释工具变得不可信,这破坏了使用它的整个目的。