最佳实践XAI:理解构建集群的特性并解释底层结构

Question

我希望对数据进行聚类，并显示用于定义集群以显示数据中的结构的特性。

为了解释用例:成像，我有来自许多产品的数据，我想显示数据中的变化和结构。作为输入特性，我有一个BERT嵌入(在产品描述的帮助下创建)和其他分类和数字数据，作为价格，生产国，.

到目前为止，我很难找到一种合适的方法，因为大多数方法都无法对数据进行聚类(无监督)，也无法解释哪些特性对集群有贡献。

首先，我在想，如果我能用所有的特性重新创建嵌入，但这对解释部分没有帮助。那么，你对如何处理这个问题有什么建议吗？

Answer 1

我认为你可以把你的问题分为两个阶段：

1. 聚类:对数据使用任何您认为合适的方法，例如k-均值、k-medoid、HDBSCAN等。
2. 可解释分类:使用集群作为标签，对数据进行可解释的多类分类器的培训。或者，为每个聚类训练一个可解释的分类器(即正类属于聚类，负类不属于)，例如，每个聚类中有一个逻辑回归分类器。然后，解释预测器在每个分类器中的影响。