LIME技术个人总结和理解方法:
方法:干涉输入,然后观察预测结果会怎样变化。实验表明这种做法在可解释性上是有用的。因为我们可以通过改变人类可以理解的组件(比如单词或图像的一部分)来改变输入,即使模型使用的是更加复杂的组件(比如词向量)作为输入的特征。LIME 背后的关键直觉就是,通过一个简单的模型来局部地(在我们想要解释的预测的附近)逼近一个黑箱模型会比全局性地去逼近这个模型要容易得多。怎么实现?(通过给改变后的输入图像设定权重的方式来实现,权重的值是改变后的图形和我们想要解释的实例的相似度的值。)图 3 所示的.