LeCun关于深度学习的论文(自然杂志，2015年)

Question

当我正在阅读Y. Le村关于深度学习(Nature, vol. 521, 2015)的论文时，我遇到了一个数字(论文中的第一个)，它与backpropagation期间通过卷积网络进行的反向传递有关。我理解了所有的东西，除了图中的传奇的最后一句：“一旦知道了\frac{∂E}{∂zk}，下面层中j单元连接上的权值w_{jk}的误差导数就是y_j\cdot\frac{∂E}{∂zk}”。

它必须是纯数学的，但我不明白为什么上面提到的误差导数等于y_j乘以\frac{∂E}{∂zk}。有人能给我解释一下这个结果吗？

谢谢。

PS :链接到上面提到的图是https://www.researchgate.net/figure/Multilayer-neural-networks-and-backpropagation-a-A-multi-layer-neural-network-shown-by_fig4_277411157

Answer 1

这将很有帮助：https://www.youtube.com/watch?v=d14TUNcbn1k

据我所知，在backpropagation中，我们需要将每个节点的局部梯度乘以来自上层的梯度，这是我们返回的值。