基于验证集的神经网络早期停止

Question

为了避免神经网络的过度拟合，我想采用早期停止的方法。我已将数据集划分为60-20-20

60 -培训20 -验证集20 -测试集

我在实施早停的过程中有一个疑问。

1. 我们使用训练集来更新一个时期的权重。利用训练集得到了网络中的错误信息。
2. 我们需要计算验证集的错误。我们应该平均每个验证实例的所有错误吗？？例如，假设我有200个验证实例。因为我没有更新权重，所以我将计算每个实例的错误。那么，我们是否应该对所有验证实例进行平均处理，并将其报告为验证错误？

谢谢，阿提丝

Answer 1

是的，最常用的误差度量是http://en.wikipedia.org/wiki/Mean_squared_error，它是每个训练/验证样本的平方误差的平均值。

Answer 2

是的，正确的，你必须找出在验证集上的错误增加而不是减少的点。