图像分类问题中各卷积层互信息的可视化

Question

最近我遇到了这个纸，其中作者提出了一个基于压缩的理论来理解DNN的层。为了可视化正在发生的事情，作者显示了本文的图2，它也是一个视频这里。对于我的图像分类问题，我想要形象化的相互信息，准确地以这种格式。有谁能给我解释一下，如何在卷积神经网络中用数字计算通过conv层的图像。我是否需要为每一层的向量化特征映射拟合一个核密度估计器，并对熵进行数值计算，还是有更简单的方法来做到这一点？提前感谢

Answer 1

测量真正的相互信息是不可能的，因为您需要知道真正的分布P(X,Y)，这是您首先想要学习的内容。例如，您可以使用一个估计值(例如Fisher信息矩阵的日志行列式)来代理实际的相互信息。

我不知道视频是如何制作的，但它似乎与Tishby等人的信息瓶颈理论有关。Tishby用一个合成数据集展示了这样的视频，他事先就知道了真实的分布。你会在阿齐勒和索托的论文中找到使用费舍尔信息的正当理由。