热力图可视化工具安装 mmcv, mmcls, pytorch-grad-cam 后，在 MMClassification 目录下：
引言一直以来，深度神经网络的可解释性都被大家诟病，训练一个神经网络被调侃为“炼丹”。所得的模型也像一个“黑盒”一样，给它一个输入，然后得到结果，却不知道模型是如何得出结论的，究竟学习到了什么知识。如果能将其训练或者推理过程可视化，那么可以对其更加深入的理解，目前深度神经网络可视化可以分为：可视化卷积核；可视化特征图；可视化激活热力图，也就是不同位置像素点对得出结果的影响程度图 1 神经网络可视化汇总其中，可视化卷积核 (a) 的方法最早出现，早在 2012 年的 AlexNet
