如何对神经网络进行训练，生成串联的特征向量？

Question

通过序列化的，我的意思是输入的值以离散的时间间隔出现，而且向量的大小也不知道。传统的神经网络采用固定大小的并行输入神经元和固定大小的并行输出神经元。

一个序列化的实现可以用于语音识别，其中我可以给网络提供一个时间序列的波形，并在输出端获取音素。

如果有人能指出一些现有的实现，那就太好了。

Answer 1

简单的神经网络作为一种结构，在时间尺度变形过程中不具有不变性，因此将其应用于时间序列识别是不可行的。为了识别时间序列，通常使用一个通用的通信模型(HMM)。神经网络可以与隐马尔可夫模型( HMM )相结合，对单个语音帧进行分类。在这种HMM -人工神经网络配置音频分割的框架下，将帧片传递到人工神经网络中计算音素概率，然后利用HMM动态搜索对整个概率序列进行分析，得到最佳匹配结果。

HMM系统通常需要从更健壮的HMM系统中初始化，因此没有单独的HMM-ANN实现，通常它们是整个语音识别工具包的一部分。在流行的工具箱中，卡尔迪实现了HMM-ANN，甚至HMM(深度神经网络).

还有一些神经网络被设计用来分类时间序列-递归神经网络，它们可以成功地用于语音分类。该示例可以使用任何支持RNN的工具箱创建，例如喀拉斯。如果您想从递归神经网络开始，尝试长期-短期记忆网络(LSTM)，它们的结构使训练更加稳定。在LSTM二值分类语音数据集的建立中讨论用于语音识别的Keras设置。

Answer 2

有几种类型的神经网络是用来对序列数据建模的；我想说，这些模型中的大多数都属于一个称为递归神经网络的等价类，通常是任何一个连接图包含一个循环的神经网络模型。连接图中的循环通常可以用来建模网络过去“状态”的某些方面，并且开发了不同的策略--例如Elman/Jordan网、回声状态网络等--以不同的方式利用这些状态信息。

从历史上看，经常使用的蚊帐很难有效地进行培训。由于最近在神经网络二阶优化工具方面的大量工作，以及深层神经网络社区的研究，最近开发了几个递归网络的例子，在模拟现实世界中的任务方面显示出了希望。在我看来，这种网络目前最整洁的例子之一是伊利亚·萨茨克弗“用递归神经网络生成文本”(ICML，2011年)，其中一个递归网络被用作一个非常紧凑、长范围的n-g字符模型。(在链接的主页上尝试RNN演示，很有趣。)

据我所知，递归网还没有被成功地应用于语音->音素的直接建模，但亚历克斯·格雷夫斯在最近的几篇论文中特别提到了这一任务。(实际上，他似乎有一篇关于这个主题的2013年ICASSP论文。)