RNNlib中参数的含义

Question

我刚开始研究递归神经网络，现在被RNNLib中的参数搞混了。具体来说，我不理解隐藏块，隐藏大小，输入块，子样本大小和使用mdl的东西。根据我的经验，我只有输入向量，一个lstm隐藏层和softmax输出层。为什么这个块看起来像一个矩阵？

Answer 1

RNNLib实现了一种新型的神经网络，称为“多维递归神经网络”.RNNLib页面上的参考说明如下: Alex、圣地亚哥Fernández和Jürgen Schmidhuber.http://www6.in.tum.de/pub/Main/Publications/Graves2007a.pdf人工神经网络国际会议，2007年9月，波尔图。此扩展用于处理图像、视频等。如文件所述：

MDRNNs的基本思想是将标准RNN中的单个循环连接替换为数据中存在维度的多个循环连接。在数据序列的每一个点上，网络的隐藏层从所有维度后退一步接收外部输入和自身激活。

我认为，这就是为什么你有能力使用多维输入。如果您想要像往常一样使用RNNLib，只需为输入和LSTM块指定一维。

MDL表示“最小描述长度”代价函数，用于逼近贝叶斯推理(一种神经网络正则化的方法)。如果你想使用它，最好阅读原始参考资料，在RNNLib网站上提供。否则，我想，这是可以忽略的。