神经网络中的学习率

Question

我是神经网络领域的新手，最近我了解到非常慢的学习速度会对准确性产生负面影响。我知道非常低的学习率会使其效率低下，但是低学习率对准确性有何影响呢？

Answer 1

当学习率太大时，可能会导致模型过快地收敛到一个不是最优的解，认为这是超调。相反，当学习率太小时，它可能会使模型陷入局部最小值(由于采取了很小的步骤才能收敛)，而这又不是最优解。因此，准确性会受到影响，目标是找到该模型的最佳学习率。