LSTM单元:单元状态尺寸

Question

当我们拟合一个LSTM模型时，每个LSTM都有一个包含我们想要的信息的单元状态。我想知道细胞状态的维数是多少(即细胞状态本身应该是向量，那么向量有多大？)

(来自http://colah.github.io/posts/2015-08-Understanding-LSTMs/ )

即在上述体系结构中，如何确定矩阵Wc的维数？

如果我使用Keras包，如何找到每个LSTM单元的单元格状态维度？这是什么可以调整的东西吗？

谢谢!

Answer 1

在Keras中，LSTM中的第一个参数给出了单元状态的维数。

Answer 2

注意，下一个隐藏状态h_t是通过对下一个单元格状态C_t应用点态标量操作产生的。(精确的公式h_t = o_t * \tanh(C_t)可以在您链接到的博客文章中找到。)因此，单元状态和隐藏状态具有相同的维数。