可解释机器学习中的映射类型

Question

我在可解释机器学习(IML)上工作了一年多。然而，有些术语总是让我感到困惑。

例如，显着性地图/热图。是一样的吗？

在神经网络中，激活图是单位(S)激活值的可视化吗？你知道其他类型的地图吗？

谢谢。

Answer 1

1. 显着性和热图之间的差异- https://www.reddit.com/r/EyeTracking/comments/hhy2u5/what_是_这个_差异_在两者之间_突出性_地图_和/
2. 激活映射- https://computersciencewiki.org/index.php/Feature_地图_(激活)_地图)

这两个链接应该回答你的问题！

关于映射的类型，它们可能很多，但激活映射是使用最多的。人们可以制作各种地图，所以我不会强调这个问题。我不是专家，但我写了一篇关于iml的论文。平滑的分数-CAM。一定要查一查:)