当预测在一个循环中进行时，模型给出不同的分数，而当预测是从一个模型列表中作出时，模型给出不同的分数。

Question

变量grid.best_estimator_包含从GridSearchCV中找到的决策树模型

for subset in range(len(smol_X_train)):
    temp_tree = grid.best_estimator_.fit(smol_X_train[subset], smol_y_train[subset])
    pred = temp_tree.predict(X_test)
    accuracy = accuracy_score(y_test, pred)
    print(accuracy)

产出-

0.827
0.7025 
0.782 
0.7205 
..
..
0.8365
0.8395 

有一份名单-

tree_list = []

for subset in range(len(smol_X_train)):
    temp_tree = grid.best_estimator_.fit(smol_X_train[subset], smol_y_train[subset])
    tree_list.append(temp_tree)

for one_tree in tree_list:
    pred = one_tree.predict(X_test)
    accuracy = accuracy_score(y_test, pred)
    print(accuracy)

产出-

0.8395
0.8395
0.8395
0.8395
..
..
0.8395
0.8395

列表中的模型返回相同的分数(最后一个模型的分数)。

1. 为什么输出在这里不同？存储在列表中的模型不是都安装在不同的子集上，因此，也应该给出不同的预测吗？
2. 是当它们被放入列表时失去的模型的适合度吗？

Answer 1

克隆、拟合模型，然后将其添加到列表中，这就是其中的诀窍。而不是直接将模型附加到列表中。

from sklearn.base import clone

tree_list = []

for subset in range(len(smol_X_train)):
    temp_tree = grid.best_estimator_.fit(smol_X_train[subset], smol_y_train[subset])
    tree_list.append(clone(temp_tree))
    pred = temp_tree.predict(X_test)
    accuracy = accuracy_score(y_test, pred)
    print(accuracy)