HMMlearn GMMHMM误差

Question

我正在尝试初始化几个GMM，以便与GMMHMM的gmms_属性一起使用。每个GMM实例具有不同的均值、权重和协方差，并充当GMMHMM的5分量混合物的一个组成部分。均值、权重和协方差由我想要拟合的数据集的(5-簇)k-均值算法确定，其中均值是每个簇的中心，权重是每个簇的权重，协方差是每个集群的-你猜到的-协方差。

下面是一个代码片段：

X_clusters = cls.KMeans(n_clusters=5)
fitted_X = X_clusters.fit(X)
means = fitted_X.cluster_centers_
cluster_arrays = extract_feat(X, fitted_X.labels_)
print ('Means: {0}'.format(means))

total_cluster = float(len(X)) 
all_GMM_params = []
for cluster in cluster_arrays:
    GMM_params = []
    weight = float(len(cluster))/total_cluster
    covar = np.cov(cluster)
    GMM_params.append(weight)
    GMM_params.append(covar)
    all_GMM_params.append(GMM_params)

for i in range(len(means)):
    all_GMM_params[i].append(means[i])


model = GMMHMM(n_components=4, covariance_type="diag", n_iter=1000,
            n_mix = 5, algorithm='map')

for i in range(len(all_GMM_params)):
    GMM_n = mix.GMM(init_params = '')
    GMM_n.weights_ = np.array(all_GMM_params[i][0])
    GMM_n.covars_ = np.array(all_GMM_params[i][1])
    GMM_n.means_ = np.array(all_GMM_params[i][2])
    model.gmms_.append(GMM_n)

model.fit(X)

但是，当我试图拟合模型时，会出现以下错误：

fitting to HMM and decoding ...Traceback (most recent call last):
  File "HMM_stock_sim.py", line 156, in <module>
    model.fit(X)
  File "C:\Python27\lib\site-packages\hmmlearn\base.py", line 436, in fit
    bwdlattice)
  File "C:\Python27\lib\site-packages\hmmlearn\hmm.py", line 590, in _accumulate
_sufficient_statistics
    stats, X, framelogprob, posteriors, fwdlattice, bwdlattice)
  File "C:\Python27\lib\site-packages\hmmlearn\base.py", line 614, in _accumulat
e_sufficient_statistics
    stats['start'] += posteriors[0]
ValueError: operands could not be broadcast together with shapes (4,) (9,) (4,)

我以前从未见过这样的错误，这是我第一次使用sklearn和HMMlearn。如何修复此错误？

Answer 1

我能够用两个成分的高斯混合物的随机样本来重现这个问题：

import numpy as np

X = np.append(np.random.normal(0, size=1024),
              np.random.normal(4, size=1024))[:, np.newaxis]

下面是我对为什么您的代码不起作用的看法。np.cov将给定数组的每一行视为变量。因此，对于形状(N, 1)的数组，输出必然是形状(N, N)。显然，这不是你想要的，因为一维高斯的协方差矩阵只是一个标量。

解决方案是在将cluster传递给np.cov之前将其转置

np.cov(cluster.T)    # has shape () aka scalar

在切换到三维X之后，我发现了另外两个问题：

• n_mix是GMM中的组件数，而n_components是指马尔可夫链状态的数量(或等效为混合的数量)。注意，您将n_components=4传递给GMMHMM构造函数，然后将5个GMM实例附加到model.gmms_。
• 此外，GMMHMM预先填充了model.gmms_，所以最终得到的是n_components + 5，而不是4种混合物，这解释了(9, )错配的原因。

更新代码：

#      the updated parameter value.
#              vvvvvvvvvvvvvv
model = GMMHMM(n_components=5, covariance_type="diag", n_iter=1000,
               n_mix=5, algorithm='map')
#              ^^^^^^^
#  doesn't have to match n_components

for i, GMM_n in enumerate(model.gmms_):
    GMM_n.weights_ = ...
    # Change the attributes of an existing instance 
    # instead of appending a new one to ``model.gmms_``.