在H2O中训练RMSE高于验证RMSE

Question

我使用H2O-深度学习模型来解决回归问题。我观察到的是，培训RMSE高于验证RMSE。我使用的是默认参数的模型，即两个隐层，每个层有200个神经元，没有l1/l2正则化。激活是整流器。没有Dropout补充说。

我想知道如何在验证RMSE下面调优两个获得训练RMSE的超参数？

有参数的提示吗？

我正在使用单独的列车，验证和测试集.训练数据有1958826个样本，验证和测试集各有599380个样本。

R-平方值约为0.65 - 0.7。

编辑:虽然我遇到的验证RMSE低于培训RMSE，但似乎培训中的剩余偏差值低于验证值。所以这看起来很好。

编辑:培训: RMSE: 0.3592脱离: 0.0071

验证: RMSE: 0.3403偏离: 0.0082

我正在进行分位数回归(如果这有帮助的话)，并且我有单独的训练/测试数据集，而我将测试集分割为验证和使用H2O_split_frame方法进行测试。

Answer 1

以下是一些你可以尝试的建议。

1. 为了更多的时代而训练
2. 减少批大小
3. 增加隐藏层中神经元的数量。

在你的回归问题中，有可能是低次数的时间是导致火车性能下降的原因。