K-折叠交叉验证和样本外交叉验证

Question

K-fold cross validation和Out of sample cross validation有什么区别？你能用几句话来描述每种简历方法的步骤吗？

Answer 1

K折叠交叉验证是一种样本外交叉验证.“of”这个名称来自以下事实:如果我们对模型进行拟合，并在训练集上计算MSE，我们将得到一个对模型是否适合独立数据集的乐观的偏倚评估。这种有偏差的估计称为拟合的样本内估计(我们将使用训练样本)，而交叉验证估计是样本外的估计。

在k次交叉验证中，将原始样本随机划分为k个大小相等的子样本.在k个子样本中，保留一个子样本作为模型测试的验证数据，其余的k−1子样本作为训练数据。然后交叉验证过程重复k次，每个k个子样本都被精确地用作验证数据一次。然后对k个结果进行平均，得到一个估计值。这种方法相对于重复随机次抽样的优点是，所有的观测都用于训练和验证，每一次观测用于验证一次。

对于其他方法，您可以查看维基百科，它们有优秀的摘要：https://en.wikipedia.org/wiki/Cross-validation_(statistics)#Types