Keras回调:学习率、计划率和高原学习率的降低

Question

我试图在Keras中同时使用LearningRateScheduler和ReduceLROnPlateau回调，这会给学习速度带来问题吗？如果是这样的话，该模型使用的学习率是多少？

我在尝试时遇到了这个问题，这影响了我的模型的准确性。就像在这里

​

在我的acc: 0.8778 -> 0.8188的情况下。

你认为那个时候的学习率是多少？

Answer 1

在ReduceLROnPlateau中，lr在前一个时代结束时发生变化，在LearningRateScheduler中在当前时代开始时发生变化。

因此，LearningRateScheduler总是赢。

Answer 2

模型将同时使用“ReduceLROnPlateau”和“LearningRateScheduler”，前提是它们在您的模型中使用。

1. 'ReduceLROnPlateau‘在时代结束后进行调整(epoch#取决于传递给'ReduceLROnPlateau’类对象的“耐心”参数。
2. “LearningRateScheduler”在每个时代之前进行调整( each #取决于传递给'LearningRateScheduler‘的自定义调度程序的定义)

在你的案例中，学习率降低得更多，这有可能降低你的准确性。更好地使用EarlyStopping，使模型的准确性不会因为学习率的变化而受到影响。