用神经网络预测向量的演化

Question

我想预测2D序列的演化(三维是时间)，并使用预测序列(连同先前预测的序列和一些标量值随时间变化)来预测下一个2D序列，并最终使用该预测来预测接下来的时间序列。

数据的2D时间切片示例：

我想训练我的神经网络来预测一个新的二维“轮廓”(三维轮廓的时间切片)，基于最后的~3轮廓和一个时变的标量参数。什么样的神经网络体系结构(S)能够及时预测下一个二维剖面？我怀疑RNN，但哪种子模型会对此起作用(例如seq2seq，NMT等)？

我们将非常感谢您的帮助！

Answer 1

啊，所有人！想出了答案。

首先，这是一个时间序列预测问题.你期待预测(预测时间演变)这些二维剖面。在分类问题(神经网络最流行的应用)中，目标值向量可以是一个热编码向量，其中"1“值是正确的分类，其他值(类)是"0”。你把它交给你的网络，它将在对应于每个特定类的数据中“学习”模式。它将通过最小化成本函数来做到这一点，直到预测的类(最接近1的类)与正确的类匹配，而其他的预测非常接近于零。网络实际上越来越接近实际的目标值。

这个精确的思想可以应用于这个预测问题，在这个问题中，你需要输入一个目标值的向量，但这一次向量不是一个热编码的(或者，和其他情况一样，类的概率分布)。它只是在配置文件的每一点上已知的(目标)值。是的，RNN很好，但是MLP也可以做这个工作。具体来说，对于RNN，您可以使用LSTM单元和单元。对于这个特定的问题，不需要seqtoseq或NMT架构。

一个重要的区别是预测问题不使用softmax函数。相反，它们使用线性激活函数(如ReLU )和MSE/MAD来表示损失。

在模型中设置这类问题(在预处理阶段)可能与分类问题略有不同。本教程在这里总体上非常好，但也有宝贵的预处理代码，您可以在许多预测应用程序中使用这些代码(特别是series_to_supervised()函数)。

希望这能有所帮助！