提供的模型不是YellowBrick中的聚类估计器

Question

我正在尝试使用YellowBrick的KElbowVisualizer和SKLearn的期望最大化算法类: GaussianMixture来可视化我的数据的弯曲图。

当我运行这个命令时，我得到了标题中的错误。(我也尝试过ClassificationReport，但也失败了)

model = GaussianMixture()

data = get_data(data_name, preprocessor_name, train_split=0.75)
X, y, x_test, y_test = data

visualizer = KElbowVisualizer(model, k=(4,12))
visualizer.fit(X)        # Fit the data to the visualizer
visualizer.show()        # Finalize and render the figure

我在YellowBrick中找不到任何东西来帮助我估计期望最大化的组件数量。

Answer 1

Yellowbrick uses the sklearn estimator type checks来确定模型是否非常适合可视化。您可以使用force_model param绕过类型检查(尽管KElbow文档似乎需要对此进行更新)。

然而，即使 force_model=True让您通过 YellowbrickTypeError它仍然不意味着GaussianMixture可以与 KElbow.一起使用。这是因为肘部可视化器设置为与质心聚类 API 一起使用，并且需要n_clusters超参数和 labels_learned 参数。期望最大化模型不支持此 API。

然而，可以在高斯混合模型周围创建一个包装器，使其能够与肘部可视化工具一起工作(分类报告也可以使用类似的方法)。

from sklearn.base import ClusterMixin
from sklearn.mixture import GaussianMixture
from yellowbrick.cluster import KElbow
from yellowbrick.datasets import load_nfl

class GMClusters(GaussianMixture, ClusterMixin):

    def __init__(self, n_clusters=1, **kwargs):
        kwargs["n_components"] = n_clusters
        super(GMClusters, self).__init__(**kwargs)

    def fit(self, X):
        super(GMClusters, self).fit(X)
        self.labels_ = self.predict(X)
        return self 


X, _ = load_nfl()
oz = KElbow(GMClusters(), k=(4,12), force_model=True)
oz.fit(X)
oz.show()

这确实产生了一个KElbow图(尽管对于这个特定的数据集来说不是很好)：

​

​

另一个答案提到了Calinksi Harabasz分数，您可以在KElbow可视化工具中使用该分数，如下所示：

oz = KElbow(GMClusters(), k=(4,12), metric='calinski_harabasz', force_model=True)
oz.fit(X)
oz.show()

创建包装器并不理想，但对于不适合标准分类器或clusterer sklearn API的模型类型来说，它们通常是必要的，并且对于许多ML任务来说，这是一个很好的策略。

Answer 2

您可以使用sklearn calinski_harabasz_score-请参阅相关文档here。

scores = pd.DataFrame()
components = 100
for n in range(2,components):
    model = GaussianMixture(n_components=n)
    y = model.fit_predict(X)
    scores.loc[n,'score'] = calinski_harabasz_score(X,y)
plt.plot(scores.reset_index()['index'],scores['score'])

像这样的东西应该能提供类似的功能。

Answer 3

基于@bbengfort的精彩回答，我使用了：

class GaussianMixtureCluster(GaussianMixture, ClusterMixin):
    """Subclass of GaussianMixture to make it a ClusterMixin."""

    def fit(self, X):
        super().fit(X)
        self.labels_ = self.predict(X)
        return self

    def get_params(self, **kwargs):
        output = super().get_params(**kwargs)
        output["n_clusters"] = output.get("n_components", None)
        return output

    def set_params(self, **kwargs):
        kwargs["n_components"] = kwargs.pop("n_clusters", None)
        return super().set_params(**kwargs)

这使您可以使用任何评分指标，并适用于最新版本的YellowBrick。