马尔可夫链自由度

Question

我有一组长度为4的5000字符串，其中字符串中的每个字符都可以是A、B、C或D。

• 0阶马尔可夫链(不依赖)，使A，B，C，D列的4×1数组。
• 1阶马尔可夫链(pos j依赖于以前的pos i)，构造了一个4×4列的A、Bi、Ci、Di，以及Aj、Bj、Cj、Dj的列。
• 2阶马尔可夫链(pos k依赖于pos j和pos i)，构造了一个4×4×4维矩阵: Ai，Bi，Ci，Di；Aj，Bj，Cj，Dj；Ak，Bk，Ck，Dk，或由此形成一个16×4维矩阵Aij，Bij，Cij，Dij；Ak，Bk，Ck，Dk。
• 3阶马尔可夫链(pos l依赖于pos k，pos j和pos i)，构造了一个4×4×4×4维矩阵: Ai，Bi，Ci，Di；Aj，Bj，Cj，Dj；Ak，Bk，Ck，Dk；Al，Bl，Cl，Dl，或这构成了一个64×4维矩阵: Aijk，Bijk，Cijk，Dijk；Al，Bl，Cl，Dl。

这四个订单的参数数是多少？我有一些想法，但想看看别人怎么想。谢谢你的建议！！

Answer 1

正如评论中所指出的那样，这个问题几乎包含了答案。对于n>1，有n个可能状态的k阶马尔可夫模型的独立参数数的一般公式是n^k*(n-1)。

这个通用公式的推导与n=3和k=2的详细公式相同。

具体来说，如果我们考虑到k个先前的步骤(包括当前的步骤)来预测下一步，那么转移矩阵应该允许所有可能的排列，因此它的维数是n^k乘n^k。然而，由于对于每个状态只有n个结果是可能的，这个矩阵的每一行都只有n个非零项。因此，我们有这个转移矩阵的n*n^k非零项，每一列的总和应该是1。因此，要得到独立参数数的答案，我们需要从非零项的数目中减去n^k。

这个答案不包括初始条件，如果您正在寻找稳定状态的解决方案，则不需要初始条件。如果您对瞬态解感兴趣，则需要指定额外的(n-1)*k参数。