为什么我们需要快速连接来建立剩余网络？

Question

为什么我们需要快捷连接来建立残差网络，以及它如何帮助训练神经网络进行分类和检测？

Answer 1

为什么我们需要快速连接来建立剩余网络，

因为否则，网络就不会是残余网络。

做剩余连接如何帮助训练神经网络进行分类和检测？

它们为梯度增加了快捷键。这样，前几层得到更新非常快，消失梯度问题不再是一个问题。这样你就可以很容易地建立1000层的网络。见剩余网络纸。

分类/检测没有具体规定。这是关于非常深的网络。

Answer 2

简单的回答是，当网络很深时，梯度很难一直向后传播。跳过连接为梯度进一步传播提供了“捷径”，并允许对非常深的网进行有效的训练。