10折检验对测量过拟合有意义吗？

Question

据我所知，如果1.收敛太快2.验证损失不断增加，那么模型肯定是过拟合的。

同样，据我所知，除非你使验证损失收敛到与你的训练损失类似的趋势，否则没有办法解决这个问题，这样你就可以做更多的数据增强等。

然而，我读过的许多论文都声称10倍是健壮性的标志，并表明该模型并不过度拟合。然而，当我重新创建这些实验时，我可以说，无论它们是否显示出稳健的准确性，它们都是过度拟合的。此外，许多人似乎认为他们只会增加10倍，这是很好的。在评论中，他们也只要求10倍的实验来解决过度拟合问题。

我的理解错了吗？是否有希望出现不收敛而是上升的验证损失？或者，除了验证损失之外，还有其他衡量标准吗？

Answer 1

我假设，10折测试指的是10折交叉验证。

通常，交叉验证仅在非常小的数据集上有用，即少于1000个样本。

过度拟合意味着模型的复杂性远远高于必要的水平。过拟合的一个典型迹象是非常高的学习精度与低的验证精度。

因此，使用10折交叉验证本身并不能防止过拟合。考虑两个示例：

首先，学习准确率为99.8%，10折交叉验证准确率为70%。

第二，学习准确率77%，10折交叉验证准确率70%。

在这两种情况下，相同的10折交叉验证导致70%的准确性。然而，第一种情况显然是过拟合的，而第二种情况则不是。

我希望，这能澄清情况。