我想训练一个用于时间序列预测的LSTM网络,并想了解LSTM的底层,据我所知,一个LSTM层中的细胞数可能会有所不同。然而,由于每个单元格在时间步长t处接受输入,那么单元格的数量不一定等于t吗?
例如(来自TensorFlow教程):
t=0 t=1 t=2 t=3 t=4
[The, brown, fox, is, quick]
[The, red, fox, jumped, high]
words_in_dataset[0] = [The, The]
words_in_dataset[1] = [brown, red]
words_in_dataset[2] = [fox, fox]
words_in_dataset[3] = [is, jumped]
words_in_dataset[4] = [quick, high]
batch_size = 2, time_steps = 5每层细胞的最大数量不是5个吗?因为在第五次输入之后,我们不再有任何其他信息要输入。然而,我已经看到许多网络的细胞数量比这更多。因此,为何会出现这种情况呢?
发布于 2018-10-16 21:36:46
将RNN网络看作是一个简单的MLP,对于每一个时间跨度t,接受该时间的输入和前一步的输出。实际上,每次你都会打开网络。因此,单元格的数量与输入大小或时间序列的长度没有任何关系。为了更好地理解,请看一下这里。
发布于 2018-10-17 00:38:16
单元格的No与输入长度无关。您只需将其看作是通过抽象函数传递输入的次数,以获得更高级别的表示。
https://datascience.stackexchange.com/questions/39793
复制相似问题