LSTM嵌入输出大小和编号。LSTM

Question

我不知道为什么我们只有32大小的输出矢量，而LSTM 100呢？

我所困惑的是，如果我们只有32个字向量，如果进入LSTM，那么32个LSTM应该足够大来容纳它吗？

Model.add(Embedding(5000,32)
Model.add(LSTM(100)) 

Answer 1

这些都是你的模型的超参数，没有最好的方法来设置他们没有实验。在您的示例中，将单个单词嵌入维度32的向量可能就足够了，但是LSTM将处理其中的序列，并且可能需要更大的容量(即维度)来存储有关多个单词的信息。如果不知道目标或数据集，就很难对这些参数进行有条理的猜测。我们经常看过去的研究论文，解决类似的问题，看看他们使用了什么超参数，然后通过实验对它们进行调整。