CNN准确率与损失选择

Question

我已经使用Adam optimizer构建了两个CNN分类器。其中一个我应用了dropout (.05)，第二个没有dropout。我得到了每种情况下的精确度和损失值，哪一种表现更好？我注意到这两个分类器都有相当的准确率，但带有dropout的分类器有更好的和更少的波动损失结果。

​

​

下面，分类器的第一张图片启用了dropout (0.5)，第二张图片没有启用dropout

​

​

Answer 1

您添加的dropout减轻了过拟合效应；本质上，这就是为什么损失图不会像没有dropout/添加任何其他正则化的情况下那样振荡的原因。

即使在没有dropout / perform的情况下，验证集的准确性可能会稍微好一些(增加1-2%)，您也应该期望第二个模型(包括dropout)在看不见的数据(测试集)上表现得更好。

应该选择dropout模型；此外，您可以尝试使用不同的dropout阈值来检查性能。此外，如果有一个测试集来快速验证您的任何假设，那将是一件很好的事情。

注意，这里您使用验证集作为测试集，但是它们有不同的目的。您实际显示的是训练-验证损失/精度，而不是训练-测试损失/精度。