深度学习可解释性实验思路总结

"第五次组会碰撞的知识点"

Posted by neo on May 27, 2019

5.27 CAM实验改进与上次组会讨论与思路

服务器最近停摆了,哭辽,所有的代码和数据都在上面。

但是也刚好借此机会,停下来想想最近的思路,对下一步进行规划。做好最近的攻坚战

Task 1 度量方法的替换

想法思路

这个点是前面就想到的,现在就是简单的使用欧式距离,而没有针对数据的特点进行对应的度量。

所以需要对度量方法进行进一步的调查,可以利用度量学习中的一些方法来对GAP后的值进行度量

当然也可以直接在topconv上面做度量。

解决方法

//TODO

Task 2 类中心任务高维表征

想法思路

通过上次利用k-means进行实验,聚类得到的结果发现,直接利用k-means聚类好像还不能对每个类分的比较开

所以希望能通过进行映射,将一维向量表征到高维,来重新进行聚类。

但是发现这个升维,其实就好像在利用对应的svm函数进行RBF核函数的映射,或者线性函数的映射

解决方法

//TODO

  1. 首先通过类见距离画出二维图来进行可视化。

Task 3 网络和数据集的切换

这一点不多说了,先使用标准数据集进行效果的测验。

主要使用 mnist 进行识别。

Task 4 度量后根据距离进行加权

想法思路

我们再找到类中心后,可以根据现在样本跟类中心的距离来衡量其的相似程度后进行加权

  1. 现在的加权方式,只是针对对应的avg的值进行判断。我觉得还有改善的空间

  2. 而且还会出现训练集中没有标签参照的问题

    现在我们训练中的数据都是有对应标签的,可以再进行类中心距离度量时对其标签对应的类中心的进行度量

    但是当转移到测试集上的时候,我们并不知道其标签,选择那个类中心进行距离计算也就成了要解决的问题。

解决方法

//TODO

Task 5 加权后直接进行分类任务的结果判断

想法思路

针对GAP来说,在他后面就是一次权重的全连接计算来softmax进行概率统计。

一方面我们可以直接对加权后的GAP进行预测结果输出

另一方面也可以进行对应的返回到CAM生成可解释行的CAM