深度学习中的堆叠与非堆叠架构

Question

在Keras (或整个深度学习)中，stacking和non-stacking架构之间的区别是什么?有人能给出non-stacking架构的简单说明吗？

有相当多的例子和教程展示了如何在keras中堆叠层，但实际上没有关于堆叠的对立面是什么。

Answer 1

根据定义，深度神经网络是神经网络的堆栈(通常称为层)。你可以把它想象成一系列的操作；一个流程图。例如，在目标检测网络中，一系列卷积层(称为特征金字塔)用于从图像中提取区域特征。然而，就像流程图一样，您可以创建分支，并随心所欲地移动数据。考虑以下代码片段：

只是一堆而已。

input_layer = InputLayer(input_shape=(256,256,3))
x = Dense(666)(input_layer)
x = Dense(666)(x)
output_layer = Dense(1, activation='softmax')(x)

一些更有趣的东西。

input_layer = Inputlayer(input_shape=(256,256,3))
x = Dense(666)(input_layer)

x_left = Dense(666)(x) # gets inputs from x
x_left = Dense(666)(x_left)

x_right = Dense(666)(x)
x_right = Dense(666)(x_right)

x = concatenate([x_left,x_right],axis=-1)

x = Dense(666)(x)
output_layer = Dense(1,activation='softmax')(x)

这能回答你的问题吗？

此外，这张图可能会有所帮助；这是我在Google上找到的一个基本功能金字塔网络布局，它在描述方面做得很好：

​