sklearn.cross_validation.cross_val_score "cv“参数问题

Question

我正在研究Kaggle关于巨大灾难的教程，根据我如何使用cross_validation.cross_val_score的细节，我得到了不同的结果。

如果我这样说：

scores = cross_validation.cross_val_score(alg, titanic[predictors], titanic["Survived"], cv=3)

print(scores.mean())

0.801346801347

我得到的分数和我所说的不一样：

kf = KFold(titanic.shape[0], n_folds=3, random_state=1)

scores = cross_validation.cross_val_score(alg, titanic[predictors], titanic["Survived"], cv=kf)

print(scores.mean())

0.785634118967

这些数字是相近的，但差别很大。据我所知，这两个代码段都要求采用三重交叉验证策略。有人能解释一下第二个例子下面发生了什么，这导致了分数略低吗？

Answer 1

摘自文档 cross_val_score's的论点：

对于int/None输入，如果估计器是分类器，并且y是二进制或多类，则使用StratifiedKFold。在所有其他情况下，都使用KFold。

我认为，在第一种情况下，StratifiedKFold被用作缺省值。在第二种情况下，您将显式地传递一个KFold生成器。

文档中也记录了两者之间的差异。

KFold将所有样本划分为k组，称为折叠(如果k = n，这相当于退出一种策略)，大小相同(如果可能的话)。... StratifiedKFold是k-fold的一个变体，它返回stratified折叠:每个集合包含与完整集大致相同的每个目标类的样本百分比。

折叠式上的差异是造成分数差异的原因。

另外，我注意到您正在将一个random_state参数传递给KFold对象。但是，您应该注意，只有当您还将KFold的S洗牌参数设置为True (默认情况下为False )时，才会使用此种子。