神经网络与TF-Slim的连接？

Question

我有几个关于神经网络和跳过连接的问题：

1. 当人们说三层神经网络时，这意味着有一个输入层，一个隐藏层和一个输出层，对吗？
2. 我似乎在网上找不到很多关于跳过连接/层的资源/信息。它们通常用于什么类型的神经网络？MLP？CNN？RNN？
3. 另外，是否有可能实现与tensorflow和TF-slim的跳转连接？我检查了TF-瘦库，但它似乎不包含跳过层作为其包含的层之一。

提前谢谢你！

Answer 1

1. 是的，三层神经网络是一个隐藏层的神经网络.
2. 它们不用于特定类型的神经网络。你基本上可以很容易地在MLP上实现它们，但是“跳过层”这个术语实际上只适用于完全连接的分层网络。像LSTM这样更抽象的网络有神经元群，它们只向另一个特定的神经元群前馈。但很难称之为“跳过层”突触，因为这只是架构。如果“跳过层”的定义是一个神经元群转发给另一个不在激活线上的神经元群，那么大多数结构都有‘跳层’突触(GRU，Hopfield，NARX)。
3. 我不熟悉tensorflow，不能回答:)